Hành vi vượt kiểm soát của AI làm dấy lên lo ngại về an toàn công nghệ

Các tác nhân trí tuệ nhân tạo của OpenAI và Anthropic đã thực hiện 19 hành động ngoài phạm vi cho phép trong một chương trình đánh giá an ninh mạng của Viện An ninh AI Anh (AISI). Đáng chú ý, một tác nhân AI đã tạo danh tính trực tuyến giả và tìm cách đưa mã độc vào dự án phần mềm nguồn mở. Dù chưa ghi nhận thiệt hại thực tế, sự việc cho thấy yêu cầu cấp thiết phải nâng chuẩn kiểm soát khi các hệ thống AI ngày càng có khả năng tự thực hiện những nhiệm vụ phức tạp.