Đáng chú ý, những tiếng nói kêu gọi kiểm soát AI không chỉ đến từ bên ngoài ngành công nghệ, mà ngày càng xuất hiện ngay trong các công ty đang phát triển những hệ thống AI tiên tiến nhất.

Cao ủy Liên hợp quốc về Nhân quyền Volker Turk đầu tháng này cảnh báo: "Tôi chia sẻ những lo ngại của các chuyên gia trong ngành rằng AI tiên tiến có thể gây ra rủi ro hiện hữu đối với nhân loại. AI thoát khỏi môi trường thử nghiệm hoặc tìm cách ngăn các nhà phát triển tắt nó cho thấy AI quá mạnh. Tôi kêu gọi một nỗ lực toàn diện để thiết lập những bảo đảm chắc chắn về an toàn và an ninh của AI, trước khi quá muộn".

Ông Volker Turk đồng thời cho rằng quyền lực đối với AI đang tập trung trong tay một số ít người, đồng thời kêu gọi các công ty công nghệ chủ động thực hiện những biện pháp trong khả năng để giảm thiểu rủi ro. Những cảnh báo này được đưa ra trong bối cảnh Liên hợp quốc đã tổ chức cuộc họp toàn cầu đầu tiên về quản trị AI hồi tháng 7, hướng tới các quy định hài hòa nhằm hạn chế những nguy cơ từ công nghệ này.

Không chỉ các tổ chức quốc tế, chính những người làm việc trong ngành AI cũng ngày càng lên tiếng. Ông Jacob Coxon, một cựu nhà nghiên cứu của Anthropic từng làm việc tại cả OpenAI và Anthropic, tuyên bố nghỉ việc. Trong thông điệp đăng trên mạng xã hội, ông cho rằng cả hai công ty chưa hành động có trách nhiệm và đang chạy đua hướng tới các hệ thống AI có khả năng tự cải thiện, trong khi "đánh cược" với những rủi ro đối với con người. Nhà nghiên cứu về an toàn AI William MacAskill nhận định, những cảnh báo từ bên trong ngành có thể giúp công chúng nhận thức rõ hơn về mức độ nghiêm trọng của các nguy cơ.

"Thế giới cần thức tỉnh trước quy mô của những rủi ro đang được đặt ra. Việc những người trong các công ty này nghỉ việc và công khai nói ra những điều mà nhiều người bên trong vẫn tin tưởng, hy vọng sẽ giúp công chúng nhận ra mức độ nghiêm trọng của những vấn đề mà chỉ vài năm trước có thể còn giống như khoa học viễn tưởng".

Trong khi đó, ông Dario Amodei, Giám đốc điều hành Anthropic, kêu gọi các công ty AI làm chậm tốc độ phát triển năng lực của các mô hình. Đề xuất của ông gồm ba điểm: có các nhà đánh giá độc lập bên trong những công ty AI hàng đầu; phối hợp giữa các doanh nghiệp phát triển AI tiên tiến để xây dựng tiêu chuẩn an toàn và tăng cường hợp tác quốc tế nhằm kiểm soát rủi ro. Cả Giám đốc điều hành OpenAI Sam Altman và tỷ phú Elon Musk đều bày tỏ đồng tình với đề xuất này. Ông Amodei cảnh báo AI có thể dẫn tới mất kiểm soát, bị lạm dụng cho các cuộc tấn công mạng, hoạt động sinh học nguy hiểm và gây xáo trộn kinh tế nghiêm trọng.

Tuy nhiên, quan điểm về mức độ và cách thức kiểm soát AI vẫn có sự khác biệt. Tổng thống Mỹ Donald Trump cho rằng Mỹ đang dẫn đầu về AI và cần duy trì vị thế này. Ông nói có thể đặt ra các “hàng rào” kiểm soát, nhưng đồng thời cho rằng nhiều cảnh báo tiêu cực về AI đang đề cập đến những điều sẽ không xảy ra. Phó Tổng thống Mỹ JD Vance cũng thừa nhận:

“Chúng tôi lo ngại về vấn đề này, nhưng muốn bảo đảm rằng chúng ta thực sự quản lý một cách thông minh và cân nhắc kỹ về những rủi ro. Rõ ràng AI có những rủi ro, nhưng cũng có những lợi ích. Tôi thấy hơi kỳ lạ khi nhiều công ty AI hàng đầu lại đề nghị chính phủ quản lý họ. Tôi nghĩ chúng ta cần thận trọng.”

Ở cấp độ doanh nghiệp, đồng sáng lập Anthropic Jack Clark cho rằng thời gian để thiết lập các biện pháp bảo vệ AI là có hạn, bởi hiện chỉ một số ít công ty có đủ nguồn lực để phát triển những hệ thống tiên tiến nhất. Theo ông, đây chính là thời điểm cần xây dựng khuôn khổ chính sách nhằm ngăn ngừa nguy cơ công nghệ phát triển ngoài tầm kiểm soát.

Cùng với những lo ngại về an toàn, một vấn đề khác được đặt ra là nguy cơ AI tập trung quá nhiều quyền lực vào một số doanh nghiệp. Phát biểu ngày 15/9, Giám đốc điều hành OpenAI Sam Altman thừa nhận thế giới có lý do để lo ngại khi một số công ty phát triển AI có thể sở hữu quá nhiều quyền lực, từ đó tác động quá mức tới nền kinh tế hoặc thúc đẩy một hệ tư tưởng nhất định đối với xã hội.

Những cảnh báo cũng mở rộng sang tác động của AI đối với đời sống con người. Giáo hoàng Leo ngày 16/9 cho rằng, AI và công nghệ số đang mở ra những cơ hội mới, phá bỏ khoảng cách và kết nối con người, nhưng đồng thời có thể khiến các mối quan hệ trở nên ít mang tính cá nhân hơn. Đặc biệt, ông cảnh báo nguy cơ con người dần giao cho các thuật toán những quyết định vốn thuộc về lương tâm con người. Tại Liên hợp quốc, Tổng Thư ký Antonio Guterres nhấn mạnh, các chính phủ không thể phớt lờ những lo ngại về AI, đặc biệt là những cảnh báo đến từ chính những người đang trực tiếp phát triển công nghệ này.

“Chúng ta không thể phớt lờ những lo ngại đã được nêu ra, đặc biệt là từ những người đang ở tuyến đầu phát triển AI. Các chính phủ phải thực hiện trách nhiệm của mình. Trách nhiệm đầu tiên của bất kỳ chính phủ nào là bảo vệ người dân.”

Trong một cảnh báo mới nhất, Vua Charles của Anh cũng nhấn mạnh nguy cơ AI rơi vào tay những đối tượng sử dụng công nghệ theo cách nguy hiểm, đồng thời cho rằng cần có các biện pháp kiểm soát đầy đủ trước khi quá muộn.

Những tranh luận về AI đang chuyển từ câu hỏi công nghệ có thể làm được gì sang vấn đề con người cần kiểm soát công nghệ này như thế nào. Một mặt, AI được nhìn nhận là động lực phát triển kinh tế và mở ra nhiều cơ hội mới. Mặt khác, tốc độ phát triển nhanh chóng đang đặt ra các câu hỏi về an toàn, quyền lực, trách nhiệm và giới hạn của con người. Điểm đáng chú ý trong các cảnh báo gần đây là sự đồng thuận ngày càng rõ về nhu cầu xây dựng các “hàng rào” an toàn, trong khi cách thức, mức độ và thời điểm áp dụng vẫn đang được tranh luận giữa chính phủ, giới công nghệ và cộng đồng nghiên cứu.