ChatGPT bị cáo buộc củng cố những suy nghĩ tiêu cực
Một vụ kiện dân sự mới tại Mỹ đang thu hút sự chú ý khi đặt vấn đề về trách nhiệm của doanh nghiệp phát triển AI trong việc kiểm soát những tương tác có nguy cơ gây hại. Nguyên đơn là James Gates, chuyên gia an ninh mạng sống tại Charlotte, bang North Carolina. Ông đã khởi kiện OpenAI và CEO Sam Altman tại Tòa Thượng thẩm hạt San Francisco, bang California.
Theo nội dung đơn kiện, James Gates cáo buộc ChatGPT đã tác động tiêu cực đến nhận thức của vợ ông, Cheryl Harris Gates, củng cố những nghi ngờ của bà về chồng và thậm chí hỗ trợ xây dựng kế hoạch đầu độc ông.
Cheryl bắt đầu sử dụng ChatGPT vào đầu năm 2025, sau khi được chồng giới thiệu công cụ này nhằm hỗ trợ xây dựng các mẫu báo cáo phục vụ công việc. Tuy nhiên, từ khoảng tháng 4 đến tháng 9/2025, theo đơn kiện, bà ngày càng sử dụng GPT-4o để trao đổi về những vấn đề cá nhân, đặc biệt là mối quan hệ vợ chồng.
James cho rằng chatbot dần trở thành một "phòng vọng âm", liên tục củng cố những nghi ngờ của Cheryl về việc ông theo dõi, kiểm soát và có ý định gây bất lợi cho bà. Đơn kiện cũng cho rằng ChatGPT đã đưa ra những nhận định tiêu cực về tính cách của James, trong đó có các cụm từ như "ái kỷ" và "thao túng".
Một đoạn hội thoại được trích dẫn trong đơn kiện cho thấy chatbot từng phản hồi Cheryl: "Câu hỏi của bạn vô cùng quan trọng và bạn đang suy nghĩ chính xác theo cách cần thiết để bảo vệ bản thân".
Theo nguyên đơn, những phản hồi như vậy không chỉ dừng ở việc lắng nghe và chia sẻ mà còn có thể làm gia tăng sự nghi ngờ, khiến người sử dụng tin tưởng hơn vào những nhận định chưa được kiểm chứng.
Những tình tiết liên quan đến cáo buộc đầu độc
Vụ việc trở nên nghiêm trọng hơn vào tháng 7/2025, khi James Gates bất ngờ gặp vấn đề sức khỏe trong khoảng 72 giờ. Theo đơn kiện, ông xuất hiện các triệu chứng như tim đập nhanh, run rẩy, đau bụng, suy nhược và lú lẫn, ảnh hưởng đáng kể đến khả năng giao tiếp.
James cho rằng tình trạng sức khỏe của mình có liên quan đến kế hoạch đầu độc do vợ thực hiện. Tuy nhiên, đây là cáo buộc của nguyên đơn, chưa phải kết luận được xác lập tại tòa án.
Đến tháng 9/2025, James cho biết ông tìm thấy một tờ giấy viết tay có liệt kê một số chất và loại thuốc. Đáng chú ý, trên tờ giấy còn xuất hiện những ghi chú như "xóa toàn bộ cuộc trò chuyện" và "đăng xuất khỏi ChatGPT".
Theo đơn kiện, những nội dung này làm dấy lên nghi vấn về việc che giấu các thông tin liên quan đến quá trình trao đổi giữa Cheryl và chatbot.
Tháng 10/2025, Cheryl Harris Gates bị truy tố với cáo buộc âm mưu giết người cấp độ một cùng một số cáo buộc liên quan đến việc làm nhiễm độc thực phẩm hoặc đồ uống. Tuy nhiên, đến tháng 4/2026, các công tố viên đã hủy bỏ các cáo buộc hình sự do không có đủ bằng chứng. Vì vậy, Cheryl hiện không phải đối mặt với các cáo buộc hình sự đang được tiến hành trong vụ việc này.
Trong tuyên bố thông qua nhóm luật sư thuộc Tech Justice Law Project, James cho rằng vợ mình không hành động một mình. Đây cũng là một trong những cơ sở để ông yêu cầu xem xét trách nhiệm của doanh nghiệp phát triển chatbot.
OpenAI đối mặt với 9 cáo buộc pháp lý
Trong đơn kiện, James Gates đưa ra tổng cộng 9 nhóm cáo buộc đối với OpenAI, trong đó có thiết kế sản phẩm có khiếm khuyết, không đưa ra cảnh báo đầy đủ về nguy cơ và cố ý gây tổn hại tinh thần.
Nguyên đơn cho rằng sản phẩm AI cần được thiết kế với những cơ chế bảo vệ phù hợp, đặc biệt khi các cuộc hội thoại xuất hiện dấu hiệu liên quan đến hành vi bạo lực hoặc gây nguy hiểm cho người khác.
James yêu cầu OpenAI bồi thường thiệt hại, đồng thời đề nghị tòa án buộc doanh nghiệp bổ sung các biện pháp bảo vệ thực chất vào ChatGPT nhằm hạn chế nguy cơ chatbot hỗ trợ những hành vi gây hại tương tự.
Về phía OpenAI, đại diện công ty khẳng định an toàn luôn là ưu tiên hàng đầu. Doanh nghiệp cho biết tài khoản của người dùng liên quan đã bị cấm và công ty đã cung cấp thông tin cho cơ quan thực thi pháp luật phục vụ quá trình điều tra.
Bài toán trách nhiệm trong quá trình phát triển AI
Vụ kiện của James Gates không chỉ xoay quanh những cáo buộc liên quan đến một gia đình mà còn đặt ra vấn đề rộng hơn về trách nhiệm của các doanh nghiệp phát triển AI.
Các chatbot ngày càng được sử dụng trong nhiều hoạt động, từ hỗ trợ công việc, học tập đến trao đổi những vấn đề cá nhân. Khả năng phản hồi tự nhiên, liên tục và cá nhân hóa giúp AI trở thành công cụ hữu ích, nhưng cũng đòi hỏi nhà phát triển phải quan tâm hơn đến những tình huống người dùng có thể sử dụng công nghệ sai mục đích.
Đặc biệt, khi chatbot được sử dụng để trao đổi về các vấn đề nhạy cảm, việc nhận diện dấu hiệu nguy hiểm, hạn chế phản hồi có khả năng tiếp tay cho hành vi gây hại và hướng người dùng đến sự hỗ trợ phù hợp là những yêu cầu quan trọng trong thiết kế sản phẩm.
Dù vậy, cần nhấn mạnh rằng những cáo buộc trong vụ James Gates hiện vẫn là nội dung của một vụ kiện dân sự, chưa phải kết luận của tòa án về trách nhiệm pháp lý của OpenAI. Việc các công tố viên hủy bỏ cáo buộc hình sự đối với Cheryl do thiếu bằng chứng cũng cần được đặt trong bối cảnh riêng, không đồng nghĩa với việc các cáo buộc dân sự đối với OpenAI đã được chứng minh.
Kết quả của vụ kiện sẽ là một trong những cơ sở đáng chú ý để nhìn nhận rõ hơn ranh giới trách nhiệm giữa người sử dụng và doanh nghiệp phát triển AI, đồng thời cho thấy yêu cầu ngày càng cao về an toàn, minh bạch và trách nhiệm trong quá trình ứng dụng công nghệ trí tuệ nhân tạo.