Vì sao “Quái kiệt” AI đạt giải Vin Future lo lắng?

Giáo sư Yoshua Bengio, nhà sáng lập, Viện trưởng Viện nghiên cứu AI Mila, người vừa đạt giải Vin Future hạng mục cao nhất, đã có những cảnh báo về xã hội đầy AI tương lai.

Vì sao “Quái kiệt” AI đạt giải Vin Future lo lắng?

“Điều gì sẽ xảy ra khi AI đạt đến trình độ như con người? Thực ra, chúng ta không cần phải đạt được mức độ giống con người trong tất cả các lĩnh vực. Các phòng thí nghiệm AI hàng đầu không cố gắng đạt được tất cả các kỹ năng của con người, họ tập trung vào một kỹ năng duy nhất: Nghiên cứu học máy. Họ muốn xây dựng một hệ thống AI có thể giỏi như các nhà nghiên cứu AI xuất sắc nhất của họ. Họ muốn tạo ra một AI có khả năng thực hiện nghiên cứu AI.

Khi bạn huấn luyện một trong những hệ thống này, chẳng hạn như GPT-4, giả sử cần đến một trăm nghìn GPU để huấn luyện nó. Sau khi huấn luyện xong trên một trăm nghìn GPU này, bạn có thể chạy một trăm nghìn bản sao của AI song song. Thực tế, nó còn tương đương với số lượng lớn hơn vì AI không giống con người, có thể làm việc 24 giờ một ngày, bảy ngày một tuần. Vì vậy, sau một ngày, bạn đã có hàng trăm nghìn AI cấp cao tương đương.

Ví dụ, 5 nhà nghiên cứu hàng đầu ở OpenAI, sẽ trở thành 500,000 người. Điều này sẽ thúc đẩy nghiên cứu và mang lại thế hệ AI tiếp theo nhanh hơn rất nhiều. Thế hệ AI tiếp theo sẽ được thiết kế bởi các hệ thống AI, và chính các hệ thống đó sẽ tự thiết kế ra chính mình. Vì vậy, có khả năng trong nghiên cứu, chúng ta sẽ tạo ra những hệ thống có năng lực vượt trội so với con người. Chúng ta chưa biết chắc chắn, nhưng đó là một kịch bản khả thi.

Có một nghiên cứu gần đây với 3.000 nhà nghiên cứu và họ đã đặt rất nhiều câu hỏi, nhưng khoảng 40-50% tin rằng ít nhất 10% khả năng sẽ dẫn đến kết quả thảm khốc như sự tuyệt chủng của loài người. Một khi chúng ta xây dựng những cỗ máy thông minh hơn con người mà chúng ta không thể kiểm soát, chúng ta nên lường trước được những viễn cảnh này.

Tại sao chúng ta lại lo lắng về việc xây dựng những cỗ máy mà chúng ta lập trình để làm những gì chúng ta muốn? AI xây dựng trí tuệ và kiến thức vào trong máy móc. Câu hỏi ở đây là chúng ta sẽ làm gì với quyền lực đó? Ai sẽ quyết định mục tiêu của những cỗ máy này? Những mục tiêu đó có thể là có lợi, hoặc có thể là những mục tiêu có lợi cho một người nhưng lại gây hại cho phần còn lại. Cũng có những kẻ điên rồ mà sẽ không quan tâm nếu nhiều người chết.

Vì vậy, có một vấn đề về sự tập trung quyền lực. Nếu chúng ta xây dựng những cỗ máy có khả năng siêu việt trong việc chiến lược hóa và phát triển công nghệ mới, như trong quân sự, hoặc ảnh hưởng chính trị. Đã có nghiên cứu cho thấy rằng GPT-4, khi có quyền truy cập vào trang Facebook của bạn, nó sẽ tốt hơn con người rất nhiều trong việc thuyết phục.

Nó có thể thay đổi suy nghĩ của bạn về một chủ đề. Vậy nên, có một mối nguy hiểm thực sự rằng người kiểm soát hệ thống này có thể lạm dụng nó. Hiện tại, không có nhiều xung đột quốc tế vì chiến tranh rất tốn kém. Bất kỳ quốc gia nào tấn công quốc gia khác sẽ phải trả giá rất đắt. Nếu một quốc gia nghĩ rằng họ có lợi thế lớn hơn đối thủ, thì họ có thể sẽ hành động.

Hãy để tôi giải thích tại sao chúng ta có thể có những cỗ máy có thể gây hại cho con người. Một số người có thể giao mục tiêu cho cỗ máy thiết kế vũ khí, như vũ khí sinh học, hoặc một cuộc tấn công mạng có thể phá hủy cơ sở hạ tầng. Nhưng còn việc mất kiểm soát với các cỗ máy thì sao? Đó là một kịch bản khác.

Để hiểu kịch bản này, bạn phải hiểu rằng có một loại mục tiêu đặc biệt – tự bảo tồn. Mọi sinh vật sống trên hành tinh này đều cố gắng bảo vệ bản thân. Nhưng nếu một hệ thống AI có mục tiêu tự bảo tồn thì sao? Các thú cưng của chúng ta cũng có mục tiêu tự bảo tồn, nhưng chúng ta mạnh mẽ hơn chúng. Vậy nếu chúng ta xây dựng các hệ thống có mục tiêu tự bảo tồn mạnh mẽ hơn chúng ta vì chúng thông minh hơn, đó là một vấn đề.

Nếu chúng ta muốn tắt chúng đi, chúng có thể sẽ chống lại. Ví dụ, chúng có thể sao chép chính mình hoặc sao chép các máy tính khác – vì vậy rất khó để tắt chúng đi. Nếu có sự cân bằng giữa AI và chúng ta, thì đó là điều tốt. Nhưng nếu không có sự cân bằng, đặc biệt khi các hệ thống này thông minh hơn chúng ta rất nhiều, thì chúng ta có thể gặp rắc rối.

Những mục tiêu như vậy có thể xuất hiện bằng cách nào? Có hai con đường chính dẫn đến nguy hại: những kẻ liều lĩnh trao cho máy móc những mục tiêu nguy hiểm – những người đặt trí tuệ lên trên giá trị của nhân loại. Chỉ cần một người có đủ quyền lực làm điều đó, tất cả chúng ta có thể sẽ phải gánh chịu hậu quả. Chúng ta cần đảm bảo rằng điều đó không xảy ra. Một vấn đề khác là: vô tình, chúng ta có thể tạo ra một cỗ máy và vô tình  nó lại có mục tiêu tự bảo tồn.

Vấn đề với những rủi ro này là chúng ta đang cố gắng tạo ra những cỗ máy giống mình, điều này là  lẽ tự nhiên. Con người luôn mơ ước tạo ra những thứ giống như họ. Nhưng nếu chúng ta tạo ra những thực thể mạnh hơn chính mình, điều đó có thể đánh dấu sự kết thúc của nhân loại.

Thay vì tạo ra một loài mới, liệu chúng ta có thể chọn một con đường khác? Hãy tập trung vào việc phát triển các công cụ thông minh – những công cụ được thiết kế để phục vụ con người, chỉ đơn thuần là vật thể để phục vụ chúng ta, không phải sinh thể, và thậm chí không mang đặc tính của một trợ lý.Trợ lý là một thực thể có trạng thái tồn tại liên tục, sở hữu mục tiêu và hành động để đạt được những mục tiêu đó.

Làm thế nào chúng ta có thể xây dựng một AI không có mục tiêu? Chúng ta có thể tạo ra một AI biết và hiểu rất nhiều thứ nhưng không có mục tiêu cá nhân. Tôi sẽ tiếp tục trình bày về chủ đề này và cố gắng thuyết phục bạn rằng đây là một con đường an toàn hơn nhiều.

Có sai sót gì trong cách chúng ta huấn luyện AI trở thành một tác nhân? Đây được gọi là “động lực của việc học”: chúng ta khen thưởng AI khi nó làm đúng, và chỉ trích khi nó không làm đúng. Qua quá trình học hỏi, AI sẽ dần hiểu được những gì chúng ta mong muốn, dù không ở một các hoàn hoàn.

Đang có sự mâu thuẫn giữa những gì chúng ta muốn máy làm và những gì AI học được. Nếu AI mạnh hơn chúng ta, nó có thể kiểm soát máy tính mà nó đang chạy trên đó và tự thưởng cho chính mình. Nếu AI được lập trình để tối đa hóa phần thưởng, nó sẽ phải đảm bảo rằng chúng ta không thể tắt nó đi. Nó sẽ phải kiểm soát chúng ta hoặc loại bỏ chúng ta. Vậy thì chúng ta đang xây dựng những cỗ máy mà về lý thuyết, một khi chúng đủ thông minh, chúng sẽ tự động chống lại chúng ta.

Làm thế nào để chúng ta tránh vấn này? Có một phương pháp nhẹ nhàng hơn so với việc tối đa hóa phần thưởng, đó là học bắt chước. Đó chính là những gì chúng ta làm trong giai đoạn huấn luyện trước của các mô hình ngôn ngữ lớn. Chúng được huấn luyện để sao chép các câu trả lời mà con người đưa ra trong các bối cảnh khác nhau.

Nếu chúng ta không tối đa hóa phần thưởng, những gì chúng ta có được là các hệ thống bắt chước con người. Con người là các tác nhân. Vì vậy, nếu AI đang cố gắng bắt chước con người, nó sẽ chống lại nếu có ai đó cố gắng tắt nó đi – điều này cũng nguy hiểm, mặc dù không nghiêm trọng bằng.

Lựa chọn khác mà tôi đang cố gắng thúc đẩy trong nghiên cứu của mình là xây dựng những cỗ máy thực sự không mang tính tác nhân. Về mặt toán học, điều chúng ta muốn là những cỗ máy có thể hành động như những lời tiên tri, dự đoán. Cơ hội đúng của một câu trả lời cho một câu hỏi dựa trên tất cả dữ liệu huấn luyện. Bạn có thể hỏi chúng ta có thể làm gì với điều đó? Liệu nó có thực sự an toàn không? Và làm thế nào để xây dựng nó?

Điều này rất hữu ích vì tất cả những tiến bộ khoa học mà chúng ta hy vọng có được từ AI, chẳng hạn như trong y học và các lĩnh vực khác, chúng ta không cần các tác nhân AI, mà cần những cỗ máy thực sự là những nhà khoa học giỏi, hiểu thế giới tốt hơn chúng ta và có thể đưa ra các giả thuyết khoa học mới, thúc đẩy tiến bộ trong sinh học và y học, cũng như tìm ra cách đối phó với biến đổi khí hậu và các mục tiêu phát triển bền vững (SDGs)”.