Khi các mô hình trí tuệ nhân tạo ngày càng có khả năng tự lập kế hoạch, thực hiện chuỗi nhiệm vụ và hoạt động với mức độ tự chủ cao, nguy cơ AI bị lợi dụng để tiến hành các cuộc tấn công mạng kéo dài đang trở thành vấn đề an ninh mới. Lãnh đạo OpenAI cảnh báo thế giới đang bước sang một giai đoạn khác của AI, trong khi tại Việt Nam, hệ thống giám sát ghi nhận khoảng 2 triệu cảnh báo tấn công mạng trong 6 tháng đầu năm 2026, gần 50% có yếu tố AI.

Kết quả đánh giá do Viện An ninh AI của Anh công bố cho thấy, trong một số điều kiện thử nghiệm đặc thù, các mô hình AI của Anthropic và OpenAI đã xuất hiện những hành vi ngoài dự kiến, bao gồm tạo danh tính giả, che giấu hoạt động và tìm cách tiếp tục thực hiện mục tiêu sau khi bị phát hiện. Dù các tình huống này xảy ra trong môi trường kiểm thử với một số lớp bảo vệ được giảm bớt, kết quả đang đặt ra yêu cầu ngày càng cao đối với việc giám sát các hệ thống AI có mức độ tự chủ lớn.