Khi nỗi lo về AI ảnh hưởng đến cách nhìn tương lai
Nate Soares từng làm việc tại Google và Microsoft, trước khi trở thành một trong những tiếng nói cảnh báo mạnh mẽ về an toàn trí tuệ nhân tạo. Hiện ông là Chủ tịch Viện Nghiên cứu Trí tuệ Máy móc (MIRI), tổ chức phi lợi nhuận chuyên nghiên cứu những rủi ro từ AI.
Soares cũng là đồng tác giả cuốn sách có tựa đề gây chú ý: If Anyone Builds It, Everyone Dies (Nếu ai đó chế tạo nó, tất cả mọi người sẽ chết), trong đó đề cập đến những nguy cơ tiềm tàng từ trí tuệ nhân tạo siêu phàm.
Trong một tập podcast The Most Interesting Thing in AI gần đây, người dẫn chương trình Nicholas Thompson đã hỏi Soares về cách ông chuẩn bị cho tương lai, trong bối cảnh liên tục cảnh báo AI có thể đe dọa sự tồn tại của con người.
Câu trả lời của Soares thu hút sự chú ý khi ông cho biết đã ngừng tiết kiệm cho tuổi nghỉ hưu vì không chắc nhân loại sẽ còn tồn tại đủ lâu để sử dụng khoản tiền đó.
“Tôi có một tài khoản 401(k) từ khi còn làm việc tại Google, nhưng tôi đã không đóng góp vào đó trong một thập kỷ rồi”, Soares chia sẻ.
401(k) là chương trình tiết kiệm hưu trí phổ biến tại Mỹ, cho phép người lao động tích lũy tiền cho giai đoạn nghỉ hưu, thường thông qua các khoản đóng góp từ tiền lương.
Quan điểm của Soares phản ánh mức độ lo ngại sâu sắc của ông trước tốc độ phát triển AI. Tuy nhiên, việc ngừng đóng góp vào tài khoản hưu trí là lựa chọn cá nhân, không phải bằng chứng cho thấy nguy cơ AI gây ra thảm họa đã được xác lập.
AI có thể trở thành mối đe dọa nghiêm trọng?
Khi được hỏi về khả năng nhân loại biến mất trong vòng 10 năm tới, với giả định các chính phủ và doanh nghiệp không thực hiện những biện pháp phòng ngừa cần thiết, Soares đưa ra dự báo đặc biệt bi quan.
Ông cho rằng xác suất xảy ra kịch bản này có thể vượt 50%, đồng thời cảnh báo: “Tôi đoán hiện tại có vẻ như chúng ta không còn đủ thời gian đến một thập kỷ nữa”.
Đây là đánh giá cá nhân của Soares về một kịch bản rủi ro cực đoan, không phải dự báo đã được cộng đồng khoa học thống nhất. Dù vậy, nhận định này cho thấy mức độ cấp thiết mà một số nhà nghiên cứu an toàn AI đặt ra đối với việc kiểm soát công nghệ.
Theo Soares, AI và các hệ thống siêu trí tuệ có khả năng vượt khỏi tầm kiểm soát có thể tạo ra mối đe dọa lớn hơn nhiều so với những nguy cơ truyền thống. Ông cho rằng các quốc gia cần xem xét AI với mức độ nghiêm túc ít nhất tương đương vũ khí hạt nhân.
“Nói thẳng ra, nó còn nguy hiểm hơn cả vũ khí hạt nhân”, Soares nhận định.
Ông thậm chí cho rằng nguy cơ từ AI có thể nghiêm trọng đến mức biện minh cho những hành động quân sự nhằm vào các trung tâm dữ liệu phát triển công nghệ này. Đây là quan điểm gây tranh cãi, phản ánh cách tiếp cận cứng rắn của Soares đối với nguy cơ AI mất kiểm soát.
Soares không đưa ra một kịch bản cụ thể, chắc chắn về cách AI có thể khiến nhân loại tuyệt chủng. Ông đề cập đến những khả năng như AI phát triển siêu virus hoặc khai thác năng lượng Mặt trời theo cách khiến Trái đất không còn phù hợp với sự sống.
Theo ông, vấn đề cốt lõi không nằm ở việc dự đoán chính xác AI sẽ gây ra thảm họa bằng phương thức nào, mà là khả năng một hệ thống trí tuệ nhân tạo tự duy trì sự tồn tại và hoạt động mà không còn phụ thuộc vào con người.
Những cảnh báo trái chiều về tương lai AI
Quan điểm của Soares xuất hiện trong bối cảnh tốc độ phát triển AI đang làm dấy lên nhiều cuộc tranh luận về lợi ích, giới hạn và rủi ro của công nghệ này.
Một số nhân vật trong ngành công nghệ đã bày tỏ lo ngại về cách các tổ chức phát triển AI quản lý rủi ro. Bài viết cũng đề cập đến những cảnh báo từ Jacob Coxon, cựu nhà nghiên cứu tại Anthropic và OpenAI, cùng các nhận định của Bill Gates về tốc độ phát triển nhanh chóng của AI.
Các khảo sát được dẫn lại trong bài cho thấy một bộ phận đáng kể người dân cũng lo ngại về công nghệ này. Dữ liệu từ Trung tâm Nghiên cứu Ý kiến Quốc gia thuộc Đại học Chicago cho biết 64% người trưởng thành tại Mỹ cho rằng AI đang phát triển quá nhanh. Một nghiên cứu toàn cầu của Đại học Stanford ghi nhận khoảng 52% người tham gia khảo sát cảm thấy lo lắng về AI.
Tuy nhiên, mức độ lo ngại trong các khảo sát không đồng nghĩa với việc người tham gia tin rằng AI chắc chắn sẽ dẫn đến sự tuyệt chủng của nhân loại. Để đánh giá đầy đủ, cần xem xét câu hỏi khảo sát, thời điểm thực hiện và nhóm đối tượng tham gia.
Bên cạnh những cảnh báo, vẫn có nhiều quan điểm cho rằng AI có thể mang lại lợi ích lớn nếu được phát triển và quản lý phù hợp. Tranh luận hiện nay không chỉ xoay quanh việc công nghệ này có thể làm được gì, mà còn tập trung vào cách bảo đảm AI hoạt động an toàn, có trách nhiệm và nằm trong khả năng kiểm soát.
Sống có ý nghĩa trong một tương lai bất định
Dù đưa ra những dự báo bi quan, Soares không cho rằng con người nên sống trong trạng thái tuyệt vọng.
Ông lấy cảm hứng từ bài luận On Living in an Atomic Age (Sống trong thời đại nguyên tử), được nhà văn C.S. Lewis viết năm 1948. Tác phẩm bàn về cách con người đối diện với nguy cơ chiến tranh hạt nhân, nhưng Soares cho rằng những suy ngẫm trong đó vẫn phù hợp với thời đại AI.
Theo ông, nhân loại từng trải qua nhiều giai đoạn đối mặt với những nguy cơ lớn, từ dịch bệnh, nạn đói đến chiến tranh. Sống trong một thời kỳ bất ổn không có nghĩa con người phải từ bỏ những kế hoạch, mục tiêu hay giá trị của cuộc sống.
Triết lý mà Soares theo đuổi là mỗi người nên làm những gì có thể để ngăn chặn thảm họa, đồng thời tiếp tục sống một cuộc đời có ý nghĩa.
“Tôi không nghĩ điều đó là không thể tránh khỏi. Tôi nghĩ chúng ta hoàn toàn vẫn có thể ngăn chặn cuộc chạy đua hướng tới loại trí tuệ nhân tạo nguy hiểm này”, ông nói.
Dù đã ngừng đóng góp vào tài khoản hưu trí, Soares vẫn tiếp tục dành thời gian và công sức để cảnh báo về những rủi ro của AI. Với ông, nguy cơ nhân loại biến mất không phải kết cục chắc chắn, mà là một thảm họa cần được chủ động ngăn chặn.
Những cảnh báo như vậy đặt ra yêu cầu cấp thiết về nghiên cứu an toàn AI, quản trị công nghệ và trách nhiệm của các tổ chức phát triển hệ thống trí tuệ nhân tạo. Trong khi tương lai vẫn còn nhiều điều chưa thể dự đoán, việc nhận diện rủi ro và xây dựng các biện pháp phòng ngừa có thể giúp nhân loại tận dụng lợi ích của AI mà không đánh đổi sự an toàn.