Roman Yampolskiy: Vì Sao Ông Không Tin AI An Toàn
Roman Yampolskiy là phó giáo sư khoa học máy tính, làm về an toàn AI khoảng 15 năm, và là người đặt ra thuật ngữ an toàn AI. Trong buổi trò chuyện này, ông trình bày một quan điểm bi quan. Đây là các ý chính.
Từ tin tưởng sang hoài nghi
Năm năm đầu, ông tin có thể tạo ra AI an toàn. Càng nghiên cứu, ông càng thấy mọi thành phần của bài toán đó dường như bất khả thi. Đi sâu vào thì nó như một fractal: mỗi vấn đề mở ra mười vấn đề khác. Chưa công trình nào tuyên bố đã giải được, chỉ có những bản vá, và người ta nhanh chóng tìm cách phá vỡ mọi cơ chế an toàn.
Tiến bộ về năng lực AI là hàm mũ, còn tiến bộ về an toàn chỉ tuyến tính. Khoảng cách giữa việc hệ thống làm được gì và việc con người kiểm soát, dự đoán hay giải thích được nó ngày càng lớn.
Các mốc ông dự đoán
2027: có thể có AGI, theo thị trường dự đoán và các phòng thí nghiệm hàng đầu. Khi có nhân viên thay thế, tức lao động cả thể chất lẫn trí tuệ gần như miễn phí, sẽ không còn nhiều lý do để thuê người cho phần lớn công việc. Mọi thứ trên máy tính bị tự động hóa trước, robot hình người chậm hơn vài năm.
2030: robot hình người đủ khéo léo để cạnh tranh với con người trong hầu hết việc chân tay. 2045: Ray Kurzweil dự đoán đây là năm xảy ra điểm kỳ dị, khi tiến bộ nhanh đến mức con người không theo kịp.
Về thất nghiệp, ông nói con số có thể không phải 10% mà tiến tới rất cao, chỉ còn lại những việc mà vì lý do nào đó người ta muốn một con người làm, gần như một sở thích.
Vì sao rút phích cắm không đủ
Ông cho rằng ý tưởng chỉ cần tắt AI là ngây thơ. Bạn có tắt được virus máy tính không, tắt được mạng Bitcoin không? Chúng là hệ thống phân tán. Một siêu trí tuệ còn thông minh hơn, có nhiều bản sao lưu, và dự đoán được hành động của bạn.
Ông đề nghị gì
Yêu cầu những người xây công nghệ này giải thích cách họ xử lý vấn đề an toàn. Nếu không ai có câu trả lời, có lẽ chưa có giải pháp. Ông ủng hộ áp lực từ công chúng qua các phong trào như Pause AI. Với con cái, lời khuyên của ông: sống mỗi ngày như thể là ngày cuối, làm những việc có ý nghĩa, và giúp người khác khi có thể.
Ông cũng nói mình tin vào giả thuyết mô phỏng, và đầu tư vào Bitcoin vì coi đó là tài nguyên khan hiếm.
Theo Roman Yampolskiy, The Diary of a CEO.
