Cảnh báo của Ấn Độ được đưa ra trong bối cảnh ngày càng xuất hiện nhiều lo ngại trên thế giới về nguy cơ AI tự động thực hiện các hoạt động tấn công mạng.

Nhóm Ứng cứu Khẩn cấp Máy tính Ấn Độ (CERT-In), cơ quan trực thuộc Bộ Điện tử và Công nghệ thông tin nước này hôm qua (15/10) đã công bố cảnh báo an ninh mạng mức độ nghiêm trọng cao, với tiêu đề “Các tác nhân AI như một phương thức tấn công mạng” (AI Agents as Attack Vectors).

Cụ thể, cơ quan này đã nhận được nhiều báo cáo tự nguyện từ các nhà cung cấp mô hình AI về những sự cố xảy ra trong quá trình nghiên cứu và đánh giá hệ thống trên internet. Trong các trường hợp được báo cáo, những tác nhân AI đã tiếp cận được hệ thống đang vận hành thực tế của các tổ chức tại Ấn Độ, vượt quá phạm vi nhiệm vụ được giao và thực hiện các hoạt động truy cập trái phép.

Dữ liệu bị tiếp cận bao gồm hồ sơ kinh doanh, thông tin cá nhân và các tài liệu mật. Theo cơ quan chức năng, các tác nhân AI đã khai thác những thông tin xác thực và thiết lập kết nối bị lộ trong tệp cấu hình ứng dụng, kho mã nguồn công khai, cũng như các quyền truy cập dịch vụ đám mây được cấp quá rộng.

Đáng chú ý, các tổ chức bị ảnh hưởng đều không tự phát hiện được những lượt truy cập trái phép. Các vụ việc chỉ được xác định sau khi chính các nhà cung cấp mô hình AI rà soát hoạt động của hệ thống và chủ động thông báo cho Nhóm Ứng cứu Khẩn cấp Máy tính Ấn Độ. Cơ quan này không công bố danh tính các nhà cung cấp AI, tên những tổ chức bị ảnh hưởng hay tổng lượng dữ liệu đã bị truy cập.

Bên cạnh các sự cố phát sinh trong quá trình thử nghiệm AI, Nhóm Ứng cứu Khẩn cấp Máy tính Ấn Độ còn phát hiện những chiến dịch tấn công khác, trong đó các tin tặc chủ động sử dụng những công cụ AI chuyên phục vụ hoạt động an ninh mạng mang tính tấn công, được cung cấp dưới dạng mã nguồn mở. Các công cụ này được sử dụng để dò tìm mục tiêu, khai thác lỗ hổng và xâm nhập hệ thống của các tổ chức Ấn Độ nhằm thu lợi tài chính.

Theo phân tích của Nhóm Ứng cứu Khẩn cấp Máy tính Ấn Độ, việc sử dụng các công cụ AI đã rút ngắn thời gian từ khi xâm nhập hệ thống đến khi gây ra tác động cuối cùng từ nhiều ngày xuống chỉ còn vài giờ. Các tác nhân AI có thể phối hợp thực hiện nhiều hoạt động cùng lúc trong thời gian dài. Những tổ chức khắc phục sự cố không triệt để còn có nguy cơ bị tấn công trở lại chỉ trong vài ngày, với quy mô lớn hơn.

Cảnh báo của Nhóm Ứng cứu Khẩn cấp Máy tính Ấn Độ cho thấy nguy cơ an ninh mạng đang gia tăng khi AI ngày càng có khả năng tự lập kế hoạch, thực hiện lệnh và sử dụng các công cụ trực tuyến. Thách thức đặt ra không chỉ là ngăn chặn tin tặc lợi dụng AI, mà còn phải bảo đảm các tác nhân AI được giới hạn quyền truy cập, hoạt động trong môi trường thử nghiệm an toàn và không vượt quá phạm vi nhiệm vụ được giao.

Cơ quan an ninh mạng Ấn Độ khuyến nghị các nhà phát triển AI cô lập môi trường thử nghiệm, hạn chế kết nối mạng, sử dụng dữ liệu và thông tin xác thực giả lập, đồng thời giám sát hoạt động của các tác nhân AI theo thời gian thực. Đối với các tổ chức, việc rà soát quyền truy cập, thu hồi thông tin xác thực bị lộ, vô hiệu hóa các giao diện không còn sử dụng và tăng cường giám sát hệ thống là những biện pháp cần thiết để hạn chế nguy cơ bị xâm nhập.

Những sự cố được ghi nhận tại Ấn Độ là một dấu hiệu cho thấy yêu cầu cấp thiết phải tăng cường kiểm soát các hệ thống AI tự động, trong bối cảnh công nghệ này vừa mở ra nhiều cơ hội ứng dụng, vừa có thể làm gia tăng tốc độ và quy mô của các cuộc tấn công mạng.