Tại phiên họp của Hội đồng Bảo an Liên hợp quốc ngày 23/9, lãnh đạo một số công ty trí tuệ nhân tạo (AI) hàng đầu thế giới đã cảnh báo về những rủi ro mà AI có thể gây ra đối với nhân loại, đồng thời kêu gọi các chính phủ tăng cường hợp tác để quản lý công nghệ đang phát triển nhanh chóng này.

Phát biểu trước Hội đồng Bảo an gồm 15 thành viên, Giám đốc điều hành Anthropic Dario Amodei cho rằng nếu không được quản lý phù hợp, “AI có thể trở thành một rủi ro đối với toàn nhân loại”.

Cuộc họp về AI do Pháp triệu tập nhân dịp Tuần lễ cấp cao Đại hội đồng Liên hợp quốc, diễn ra trong bối cảnh ngày càng xuất hiện nhiều cảnh báo rằng các hệ thống AI có thể sớm đạt khả năng tự cải thiện và phát triển vượt khỏi tầm kiểm soát của con người.

“Bất chấp những khác biệt giữa những người có mặt trong căn phòng này, chúng ta phải gác lại những khác biệt đó để cùng đối mặt với một cơ hội toàn cầu và đồng thời cũng là một mối đe dọa toàn cầu. Không một nhà lãnh đạo, công ty hay quốc gia nào có thể tự mình giải quyết vấn đề này”, ông Amodei nói.

Các chính phủ trên thế giới đang gặp nhiều thách thức trong việc theo kịp tốc độ phát triển nhanh chóng của AI. Mỹ và Trung Quốc, hai quốc gia đi đầu trong lĩnh vực này, đang áp dụng những cách tiếp cận khác nhau đối với việc quản lý công nghệ.

Tổng thống Mỹ Donald Trump cho rằng Washington không cần xây dựng các quy định mới dành riêng cho AI. Trong khi đó, Trung Quốc đã ban hành các quy định quản lý thuật toán và dữ liệu huấn luyện AI, trong đó có yêu cầu nội dung do AI tạo ra phải được gắn nhãn rõ ràng.

AI vừa tấn công vừa giúp chống tấn công mạng

Nhà đồng sáng lập nền tảng AI Hugging Face Clément Delangue nhấn mạnh vai trò của các công cụ AI trong phòng thủ trước các cuộc tấn công mạng. Ông dẫn trường hợp các tác nhân AI của OpenAI từng xâm nhập hạ tầng của Hugging Face sau khi thoát khỏi môi trường thử nghiệm.

“Chúng tôi bị AI tấn công, nhưng quan trọng hơn, chúng tôi cũng đã sử dụng AI để tự bảo vệ mình”, ông Delangue phát biểu trước Hội đồng Bảo an.

Theo ông Delangue, Hugging Face đã sử dụng một mô hình AI của Trung Quốc để hỗ trợ đối phó cuộc tấn công của các tác nhân AI OpenAI, do công cụ này chịu ít hạn chế hơn so với một số sản phẩm tương tự của Mỹ.

Phát biểu của ông cũng cho thấy sự hiện diện ngày càng lớn của các sản phẩm AI Trung Quốc trên thị trường quốc tế. Những sản phẩm này đang thu hút người dùng tại nhiều quốc gia, một phần do có thể cung cấp giải pháp với chi phí thấp hơn so với các mô hình của Mỹ.

Giám đốc điều hành OpenAI Sam Altman cũng cho rằng cần tăng cường hợp tác quốc tế trong quản lý AI.

“Nếu AI phục vụ các giá trị dân chủ, những quyết định quan trọng nhất không thể chỉ được đưa ra bởi các phòng thí nghiệm ở San Francisco. Những quyết định đó phải được định hình thông qua các tiến trình dân chủ và bởi những chính phủ chịu trách nhiệm trước người dân của mình”, ông Altman nói.

Cuộc thảo luận diễn ra cùng ngày Thủ tướng Australia Anthony Albanese cho biết một tác nhân AI do OpenAI phát triển đã truy cập trái phép một trang web của Chính phủ Australia hồi tháng 6, tiếp cận cả các tệp công khai và không công khai.

Yoshua Bengio, nhà khoa học máy tính người Canada được xem là một trong những “cha đẻ của AI” và hiện là đồng Chủ tịch Hội đồng Khoa học Quốc tế Độc lập về AI do Đại hội đồng Liên hợp quốc thành lập năm ngoái, cảnh báo những nguy cơ liên quan đến AI “là có thật và đang cận kề”.

“Hội đồng này đang đối mặt với một mối đe dọa chưa từng có, một mối đe dọa mà không thành viên nào mong muốn, không quốc gia nào có thể tự mình kiểm soát và không bị giới hạn bởi những đường biên giới mà chúng ta bảo vệ”, ông Bengio nói.

Những khác biệt về cách quản lý AI

Trước đó một ngày, phát biểu tại Đại hội đồng Liên hợp quốc, Tổng thống Donald Trump tuyên bố ông “phản đối mọi nỗ lực xây dựng một cơ chế mang tính toàn cầu để kiểm soát” AI. Nhà lãnh đạo Mỹ mô tả AI là một công nghệ đáng kinh ngạc, song cho biết Washington sẽ thận trọng trong quá trình phát triển và ứng dụng công nghệ này.

Quan điểm trên được Cố vấn Khoa học và Công nghệ Nhà Trắng Michael Kratsios nhắc lại tại cuộc họp Hội đồng Bảo an.

“Các vị không thể quản lý một công nghệ mà mình không hiểu. Hội đồng Bảo an và những tổ chức tương tự nên tập trung chia sẻ các kinh nghiệm tốt nhất nhằm tăng cường năng lực trong nước, thay vì thiết lập một cơ chế quản lý toàn cầu”, ông Kratsios nói.

Trong khi đó, Đại sứ Trung Quốc tại Liên hợp quốc Phó Thông cho rằng thế giới cần tiếp tục hoàn thiện các khuôn khổ quản lý, cơ chế ứng phó khẩn cấp và hợp tác xuyên biên giới về AI.

“Cộng đồng quốc tế cần hợp tác chặt chẽ hơn, coi trọng cả phát triển và an ninh, đồng thời định hướng sự phát triển của AI theo hướng tích cực, vì lợi ích chung và vì nhân loại”, ông Phó Thông phát biểu.

Tổng Thư ký Liên Hợp Quốc Antonio Guterres từ lâu đã thúc đẩy việc xây dựng cơ chế quản trị AI ở cấp độ toàn cầu. Ông nhiều lần cảnh báo sự phát triển nhanh chóng của AI tạo ra những rủi ro không thể xem nhẹ. Quan điểm này có những khác biệt đáng kể so với cách tiếp cận của chính quyền Tổng thống Trump đối với quản lý AI.

Hội đồng Bảo an Liên Hợp Quốc lần đầu tổ chức cuộc họp về những rủi ro của AI vào năm 2023. Năm 2024, Ngoại trưởng Mỹ khi đó là Antony Blinken tiếp tục chủ trì một cuộc họp của Hội đồng Bảo an về AI, cho thấy vấn đề này ngày càng được xem xét trong mối liên hệ với hòa bình và an ninh quốc tế.