GS Yuval Noah Harari: Con người hiểu sai và 'nghĩ ngắn' về AI

Описание: Tại Diễn đàn Kinh tế Thế giới, diễn ra tại Davos (Thụy Sĩ) ngày 19-23/1, ông Harari cảnh báo thế giới đang đánh giá sai về trí tuệ nhân tạo. Mối nguy hiểm thực sự không nằm ở tốc độ phát triển của công nghệ, mà ở cách con người đối xử với nó một cách thiếu nghiêm túc.
GS Yuval Noah Harari. Ảnh: ynharari.com
Theo Forbes , bài phát biểu của Harari đơn giản nhưng đầy tính đột phá. Ông nói: "Điều quan trọng nhất cần biết về AI là nó không chỉ là công cụ đơn thuần. Nó là một tác nhân. Nó có thể tự học hỏi, tự thay đổi và tự đưa ra quyết định".
Ông đưa ra phép ẩn dụ về con dao. Dao là một công cụ. Một người dùng dao để cắt salad, nhưng cũng có thể gây thương tích cho con người. "Bạn làm gì với con dao đó do bạn quyết định, nhưng AI là một con dao mà chính nó có thể tự quyết định xem nên cắt salad hay giết người", ông nói.
Cách nhìn này được đánh giá quan trọng vì đến nay, hầu hết quy tắc công nghệ dựa trên mối quan hệ cũ: con người quyết định, công cụ thực thi . Còn theo luận điểm của Harari, AI bắt đầu phá vỡ mối quan hệ đó. Một khi điều đó xảy ra, các mô hình thông thường về trách nhiệm giải trình, quy định và thậm chí cả lòng tin sẽ bắt đầu "lung lay".
Tác giả cuốn Nexus nêu ba đặc điểm theo ông sẽ khiến AI khác biệt so với các công cụ trước đây. Thứ nhất, nó rất chủ động, có thể học hỏi, thích nghi và hành động mà không cần chờ đợi hướng dẫn từng bước từ con người. Thứ hai, nó mang tính sáng tạo, có thể "phát minh ra dao mới", từ đó dần mất kiểm soát nếu không quản lý. Thứ ba, cũng đáng lo ngại nhất, là AI có thể nói dối và thao túng .
"Bốn tỷ năm tiến hóa đã chứng minh bất cứ thứ gì muốn tồn tại đều học cách nói dối và thao túng", Harari nói. "Bốn năm qua đã chứng minh rằng các tác nhân AI bắt đầu có ý chí sinh tồn và chúng đã học được cách nói dối".
Cũng theo ông, nếu một kẻ lừa đảo có thể nhắm mục tiêu vào hàng chục người, một hệ thống AI dễ dàng hướng đến hàng triệu người, liên tục điều chỉnh những gì nó nói dựa trên những gì hiệu quả. "Trong nhiều cuộc thảo luận tại Davos, khi nhiều người nhắc đến từ 'dài hạn', họ thường ám chỉ thời gian vài năm. Nhưng khi tôi nói về từ này, tôi nghĩ đến 200 năm sau", Harari cho biết.
Harari so sánh sự phát triển của AI hiện tại với giai đoạn đầu của cuộc Cách mạng công nghiệp, cho rằng nhân loại thường hiểu sai về các công nghệ mang tính đột phá khi chúng phát triển. Những hậu quả sâu sắc nhất của quá trình công nghiệp hóa phải mất nhiều thế hệ mới bộc lộ đầy đủ, thường thông qua biến động xã hội, chính trị và địa chính trị mà không ai có thể dự đoán trước được.
"Bạn có thể thử nghiệm các sự cố có thể xảy ra", ông nói. "Nhưng bạn không thể thử nghiệm những tác động địa chính trị, hay tác động văn hóa của động cơ hơi nước trong phòng thí nghiệm. Điều đó cũng tương tự với AI".
Ông cũng cảnh báo, ngay cả khi dừng phát triển AI hôm nay, những tác động lâu dài của công nghệ này vẫn khó nắm bắt. "Hòn đá đã được ném xuống hồ, nhưng nó vừa chỉ chạm vào mặt nước thôi", ông nói. "Chúng ta không biết những con sóng nào sẽ được tạo ra, ngay cả với các AI đã có cách đây 1-2 năm".
Harari là người mới nhất "gia nhập" danh sách những nhà nghiên cứu AI và giới lãnh đạo công nghệ bày tỏ lo ngại về rủi ro của AI, từ làn sóng mất việc làm đến sự tuyệt chủng của loài người. Tuy nhiên, phát biểu tại Davos, điều khiến ông lo lắng nhất không chỉ là sự không chắc chắn mà còn là sự tự mãn. Theo ông, nhiều người đang ra "những quyết định quyền lực nhất" tập trung vào lợi ích ngắn hạn thay vì nhìn ra hậu quả dài hạn. Hệ quả xã hội của AI sẽ diễn ra rất lâu sau này, bất kể thế giới đã sẵn sàng hay chưa.
"Điều tôi lo ngại nhất là việc thiếu sự quan tâm đến thực tế, rằng chúng ta đang tạo ra công nghệ mạnh mẽ nhất trong lịch sử loài người," ông nói. "Ngay cả những người rất thông minh và quyền lực nhất cũng lo lắng, nhưng chỉ suy nghĩ theo hướng vài tháng, hoặc vài năm".
Ở quy mô quốc gia, ông cũng dự đoán AI sẽ đẩy nhân loại vào "một cuộc khủng hoảng bản sắc". "Chúng ta thường tự đánh giá bản thân dựa trên khả năng tư ...