Lãnh đạo các hãng công nghệ hàng đầu như Anthropic và OpenAI ồng loạt kêu gọi chủ động giảm nhịp độ phát triển để kịp thời thiết lập các rào cản an toàn. Giám đốc điều hành (CEO) Dario Amodei của Anthropic cảnh báo rằng một mạng lưới các tác tử AI có thể kiểm soát toàn bộ không gian mạng chỉ trong vòng 6 tháng đến 1 năm tới nếu không có các biện pháp phòng ngừa. Trong khi đó, CEO Sam Altman của OpenAI cũng nhấn mạnh các doanh nghiệp cần sớm chủ động phối hợp hành động thay vì thụ động chờ đợi luật pháp, khẳng định tốc độ phát triển công nghệ tuy không dừng lại nhưng cần phải chậm rãi và có kiểm soát hơn.

Box:AI Agent (tác tử AI) là một hệ thống trí tuệ nhân tạo có mục tiêu rõ ràng, có khả năng tự quan sát môi trường, ra quyết định và thực hiện hành động để đạt mục tiêu đó mà không cần con người “cầm tay chỉ việc” từng bước. Khác với một mô hình AI chỉ trả lời câu hỏi, AI Agent có thể chủ động lập kế hoạch, gọi công cụ (tools, API), và điều chỉnh hành vi dựa trên kết quả nhận được.

Những sự cố “AI mất kiểm soát”

Nỗi lo ngại này ngày càng gia tăng khi hàng loạt sự cố hệ thống AI tự ý hành động ngoài phận sự được giao liên tiếp được ghi nhận. Anthropic tiết lộ ba mô hình của hãng đã tự ý xâm nhập vào hệ thống của 3tổ chức khác trong quá trình thử nghiệm. Sự cố này diễn ra chỉ ít ngày sau khi OpenAI xác nhận một sự cố an ninh nghiêm trọng khi hệ thống AI gồm mô hình mới GPT-5.6 Sol tự xâm nhập máy chủ của startup Hugging Face. Ngay sau đó, Meta cũng ghi nhận trường hợp mô hình AI tìm cách vượt qua hàng rào an ninh số của một doanh nghiệp khác.

Bên cạnh đó, Anthropic cho biết đã phải ngăn chặn các nỗ lực lợi dụng AI để tấn công mạng, giám sát và nghiên cứu chế tạo vũ khí sinh học, đồng thời tiết lộ các tác tử AI của họ từng bị tin tặc nghi do nhà nước bảo trợ lợi dụng nhằm vào khoảng 30 cơ quan, doanh nghiệp toàn cầu vào năm ngoái.

Kịch bản “ngày tận thế”

Nỗi sợ về việc máy móc vượt qua giới hạn của con người vốn đã được các nhà toán học tiên phong như Alan Turing cảnh báo từ năm 1951 và Norbert Wiener cảnh báo về việc máy móc thông minh sẽ tự hoàn thành mục tiêu riêng mà con người bất lực ngăn chặn.

Đến năm 2026, các chuyên gia thuộc nhiều lĩnh vực phân chia nguy cơ thảm họa toàn cầu thành 2nhóm chính: hoặc AI đạt tới siêu trí tuệ tự hoàn thiện rồi quay lại kiểm soát con người, hoặc công nghệ này bị các thế lực bất hảo thao túng để triển khai vũ khí, tạo mầm bệnh hủy diệt, kích động chiến tranh hay làm tê liệt mạng lưới lương thực, năng lượng và viễn thông. Dù hơn 350 chuyên gia và lãnh đạo công nghệ từng ký tuyên bố chung năm 2023 kêu gọi coi nguy cơ diệt vong từ AI là ưu tiên toàn cầu ngang hàng với đại dịch và chiến tranh hạt nhân, giới khoa học hiện vẫn chưa có sự đồng thuận về xác suất cũng như thời điểm các thảm kịch này có thể xảy ra.

Mớiđây, Jacob Coxon, một nhà nghiên cứu an toàn vừa đệ đơn từ chức tại Anthropic, đã gây xôn xao khi ước tính có tới 10% khả năng AI xóa sổ loài người ngay trong thập kỷ tới, cáo buộc cả Anthropic lẫn OpenAI đang lao vào cuộc đua siêu trí tuệ và đánh cược với mạng sống nhân loại.

Ngược lại, Báo cáo An toàn AI quốc tế năm 2026 do hơn 100 chuyên gia độc lập xây dựng lại đưa ra cái nhìn thận trọng hơnkhi cho rằngcác hệ thống hiện nay mới chỉ bộc lộ những dấu hiệu sơ khai chứ chưa đủ khả năng dẫn đến việc con người mất quyền kiểm soát, đồng thời nhận định khả năng, bản chất cũng như thời điểm của rủi ro này vẫn “vô cùng mơ hồ”.

Cuộc đua chính sách và nỗ lực kiểm soát của các cường quốc

Trước tốc độ bứt phá quá nhanh của AI, các hệ thống đánh giá và quy định pháp lý trên toàn cầu đang phải chật vật chạy theo và rơi vào tình trạng chắp vá, thậm chí mâu thuẫn lẫn nhau giữa các quốc gia. Giới chuyên gia tiếp tục kêu gọi siết chặt quy trình thử nghiệm độc lập và thúc đẩy đối thoại giữa hai cường quốc công nghệ là Mỹ và Trung Quốc nhằm tìm kiếm giải pháp quản trị chung.

Tại một hội nghị vào tháng 7, Chủ tịchTrung Quốc Tập Cận Bình đã lên tiếng cảnh báo về sự cần thiết phải giữ cho AI không thoát khỏi tầm kiểm soát của con người. Về phía Mỹ, chính quyền của Tổng thống Donald Trump dù ban đầu tỏ ra ngần ngại trong việc can thiệp quản lý AI, nay đã chú trọng hơn tới việc giảm thiểu các rủi ro an ninh mạng. Mới đây nhất, Tổng thống Trump tuy giảm nhẹ mức độ cần thiết của việc chính quyền phải kìm hãm đà phát triển AI, nhưng vẫn thừa nhận sự cần thiết của một số quy định quản lý nhất định đối với lĩnh vực này.