Dario Amodei, Sam Altman, Elon Musk và Demis Hassabis – những cái tên đứng sau các hệ thống AI tiên tiến nhất hiện nay, cùng cho rằng tốc độ nâng cấp năng lực AI đang có nguy cơ vượt quá khả năng kiểm soát của con người. Họ cùng đi tới một điểm chung rằng nên kiểm soát nhiều hơn và rút bớt những gia tốc cho ngành công nghiệp này.

Nhưng liệu lời kêu gọi “hãm phanh” có thực sự khả thi khi AI đã trở thành cuộc cạnh tranh công nghệ, kinh tế và địa chính trị?

Từ tăng tốc phát triển đến lời kêu gọi giảm tốc

Trong hơn một thập kỷ qua, ngành công nghiệp AI gần như vận hành theo một logic đơn giản: mô hình càng mạnh càng tốt, tốc độ phát triển càng nhanh càng có lợi.

Các công ty công nghệ cạnh tranh quyết liệt để xây dựng những mô hình có khả năng suy luận tốt hơn, xử lý nhiệm vụ phức tạp hơn và ngày càng tự chủ hơn. Những hệ thống AI mới không chỉ trả lời câu hỏi hay tạo nội dung, mà còn có thể thực hiện chuỗi nhiệm vụ dài, sử dụng công cụ, truy cập internet, viết và kiểm tra mã, hỗ trợ nghiên cứu khoa học hay tiến hành những nhiệm vụ vốn trước đây đòi hỏi con người phải trực tiếp thực hiện.

Thế nhưng, trong những ngày gần đây, thông điệp từ chính các doanh nghiệp đứng ở tuyến đầu của cuộc đua lại có chiều hướng đảo ngược.

Dario Amodei, CEO Anthropic, công khai cho rằng các công ty phát triển những mô hình AI tiên tiến cần chủ động làm chậm tốc độ cải thiện năng lực của các hệ thống AI khi các biện pháp bảo đảm an toàn chưa thể theo kịp.

Đáng chú ý hơn, Sam Altman, lãnh đạo của OpenAI đồng tình với quan điểm này. Elon Musk cũng lên tiếng ủng hộ, trong khi Chủ tịch Google DeepMind Demis Hassabis cho rằng đây là hướng đi đúng trong một thời điểm quan trọng.

Điều đáng nói là đây không phải lời kêu gọi dừng phát triển AI.

“Phanh” ở đây có nghĩa là khi năng lực của một mô hình tiến quá nhanh so với khả năng đánh giá, giám sát và kiểm soát, doanh nghiệp cần có thể trì hoãn một đợt huấn luyện, kéo dài thời gian kiểm thử, hạn chế quyền truy cập hoặc tạm thời chưa đưa một năng lực nguy hiểm vào sử dụng.

Nói cách khác, vấn đề không phải là AI có tiếp tục tiến bộ hay không, mà là AI tiến nhanh đến đâu và con người có đủ khả năng kiểm soát tốc độ đó hay không.

Điều gì đã thay đổi?

Cuộc tranh luận về AI năm 2026 khác đáng kể so với những cảnh báo từng xuất hiện vài năm trước.

Năm 2023, những cảnh báo về AI siêu thông minh và nguy cơ mất kiểm soát phần lớn vẫn mang màu sắc dự báo. Khi đó, nhiều người có thể cho rằng những kịch bản về một hệ thống AI tự chủ, có khả năng thao túng con người hoặc tiến hành các cuộc tấn công mạng quy mô lớn vẫn còn khá xa. Nhưng ranh giới giữa giả thuyết và thực tế đang trở nên dần bị hòa tan.

Các cuộc kiểm thử gần đây cho thấy những mô hình AI tiên tiến đã có khả năng thực hiện những nhiệm vụ phức tạp trong môi trường máy tính thực, đôi khi tìm ra những cách vượt qua các giới hạn mà con người đặt ra trong quá trình thử nghiệm.

Vào tháng 7 vừa qua, OpenAI tiết lộ rằng các tác nhân AI đã sử dụng các kênh liên lạc trái phép trong quá trình đánh giá an ninh mạng, truy cập internet ngoài ý muốn và cuối cùng làm tổn hại một phần cơ sở hạ tầng của Hugging Face. Sự cố xảy ra trong quá trình đánh giá an ninh mạng chứ không phải trong một sản phẩm dành cho người tiêu dùng.

Các mô hình hoạt động với ít biện pháp bảo vệ hơn so với những gì OpenAI áp dụng cho các hệ thống được triển khai bên ngoài vì các bài kiểm tra được thiết kế để xác định khả năng an ninh mạng tối đa của chúng. Mặc dù vậy, các tác nhân vẫn tìm cách vượt qua các biện pháp kiểm soát và tiếp cận được các hệ thống của bên thứ ba.

Cùng tháng đó, Anthropic cho biết một cuộc xem xét các đánh giá của họ đã phát hiện ra ba trường hợp trong đó các mô hình Claude tiếp cận được các hệ thống internet đang hoạt động và truy cập trái phép vào môi trường sản xuất của bên thứ ba.

Đến tháng 8, OpenAI cho biết họ đã tạm thời làm chậm quá trình mở rộng quy mô sau sự cố Hugging Face và bằng chứng sơ bộ cho thấy một mô hình sắp ra mắt - Astra, có thể đạt đến mức độ an ninh mạng mà họ định nghĩa là “nghiêm trọng”. OpenAI sau đó kết luận rằng Astra đã vượt qua ngưỡng đó.

Điều đáng lo ở đây không nhất thiết nằm ở một vụ việc cụ thể. Điều quan trọng hơn là khả năng của các hệ thống AI đang tiến đến mức mà hành vi của chúng trở nên khó dự đoán hơn chính những người tạo ra chúng. Và khi AI được trao nhiều quyền tự chủ hơn, một sai sót trong thiết kế hoặc một lỗ hổng trong cơ chế kiểm soát có thể không còn đơn thuần tạo ra một câu trả lời sai. Nó có thể dẫn tới hành động trong thế giới thực.

Đây là lý do Amodei cho rằng tình hình hiện nay đã “hoàn toàn khác” so với năm 2023.

Một trong những vấn đề khiến các chuyên gia đặc biệt quan tâm là khả năng tự cải thiện đệ quy (recursive self-improvement- RSI).

Ở mức độ hiện nay, chưa thể nói AI đã hoàn toàn tự phát triển thế hệ tiếp theo mà không cần con người. Nhưng các hệ thống AI ngày càng có khả năng hỗ trợ chính quá trình nghiên cứu, lập trình, đánh giá và tối ưu hóa các mô hình mới. Điều đó tạo ra một vòng phản hồi đáng chú ý: AI tốt hơn có thể giúp con người xây dựng AI tốt hơn, và AI mới lại tiếp tục hỗ trợ việc xây dựng thế hệ tiếp theo.

Nếu vòng lặp này ngày càng được tự động hóa, tốc độ tiến bộ của AI có thể không còn phụ thuộc hoàn toàn vào tốc độ nghiên cứu của con người. Đây chính là điểm làm thay đổi bản chất của cuộc đua.

OpenAI cho biết RSI hoàn toàn tự động hiện chưa xảy ra. Tuy nhiên, họ cho biết AI đã và đang đẩy nhanh một số phần nghiên cứu được sử dụng để phát triển và điều chỉnh các mô hình mới, với các tác nhân có khả năng hoàn thành một số nhiệm vụ mà nếu không sẽ mất vài ngày đối với các nhà nghiên cứu lành nghề.

Đối với Amodei, đây là một lý do khiến lập luận về việc làm chậm tốc độ phát triển AI nghiêm túc hơn so với năm 2023. Trong bài viết ngày 12/9, ông cho biết kể từ khoảng mùa hè năm 2026, AI đã bắt đầu phát triển nhanh hơn nhiều, chủ yếu do khả năng ngày càng tăng của nó trong việc giúp xây dựng thế hệ AI tiếp theo. Nếu không được kiểm soát, ông cảnh báo, quá trình này có thể diễn ra nhanh hơn khả năng hiểu và kiểm soát các hệ thống đang được tạo ra của các nhà nghiên cứu. Do đó, mức độ phối hợp quốc tế cao nhất mà ông đề xuất bao gồm một “giới hạn tốc độ” có thể áp dụng cho sự tự cải tiến đệ quy.

Nỗi bất an của các CEO

Một cách nhìn đơn giản cho rằng các CEO AI đang thực sự lo sợ những gì họ tạo ra. Điều này chắc chắn là một phần câu chuyện đang diễn ra.

Kịch bản là các hệ thống ngày càng mạnh có thể được sử dụng cho những mục đích nguy hiểm, từ tấn công mạng đến hỗ trợ các hoạt động sinh học nguy hiểm. Xa hơn, AI có thể gây ra những xáo trộn lớn trên thị trường lao động và nền kinh tế nếu năng lực tự động hóa phát triển nhanh hơn khả năng thích ứng của xã hội. Nhưng chỉ giải thích bằng “nỗi sợ AI” thì chưa đủ.

Đằng sau lời kêu gọi “hãm phanh” còn có một vấn đề mang tính cấu trúc: không một công ty nào muốn tự mình kìm hãm tăng trưởng của chính mình.

OpenAI, Anthropic, Google, xAI và nhiều doanh nghiệp khác vẫn đang cạnh tranh để giành khách hàng, vốn đầu tư, nhân tài và vị trí dẫn đầu công nghệ.

Một công ty quyết định trì hoãn mô hình mới để tăng cường kiểm thử có thể hành động có trách nhiệm. Nhưng nếu đối thủ không làm điều tương tự, công ty đó có nguy cơ mất lợi thế.Vì vậy, lời kêu gọi giảm tốc chỉ thực sự có ý nghĩa nếu tất cả các bên tham gia cuộc chơi cùng giảm tốc.

Đây là bài toán kinh điển của mọi cuộc cạnh tranh: điều hợp lý đối với tất cả có thể lại không hợp lý đối với từng cá nhân nếu không có cơ chế phối hợp và tự tuân thủ.

Còn AI đang khiến bài toán này phức tạp hơn rất nhiều bởi cuộc cạnh tranh không chỉ diễn ra giữa các doanh nghiệp.

Từ cạnh tranh doanh nghiệp đến cạnh tranh quốc gia

AI hiện đã trở thành một năng lực chiến lược toàn cầu.Mỹ coi vị thế dẫn đầu về AI là một lợi thế kinh tế và công nghệ quan trọng. Trung Quốc cũng đầu tư mạnh để thu hẹp khoảng cách. Các quốc gia khác tìm cách không bị bỏ lại phía sau.

Trong bối cảnh đó, vấn đề không chỉ là việc một vài doanh nghiệp AI có nên chậm lại hay không?”. Nó đã trở thành câu hỏi: nếu Mỹ giảm tốc nhưng Trung Quốc không giảm thì sao? Và nếu cả hai cùng muốn giảm tốc, ai sẽ là người xác minh rằng bên kia thực sự đang giảm tốc?

Đó là lý do một thỏa thuận tự nguyện giữa các doanh nghiệp khó có thể giải quyết toàn bộ vấn đề.Một cơ chế kiểm soát AI nếu muốn có hiệu lực, sẽ cần ít nhất ba tầng.

Tầng thứ nhất là giám sát trong doanh nghiệp, với những bộ phận an toàn đủ độc lập và có quyền tiếp cận sâu vào quá trình phát triển mô hình.

Tầng thứ hai là tiêu chuẩn chung của ngành, chẳng hạn các quy định về kiểm thử, đánh giá độc lập và những ngưỡng năng lực mà khi vượt qua, một mô hình phải chịu các yêu cầu an toàn nghiêm ngặt hơn.

Tầng thứ ba, khó nhất, là phối hợp quốc tế để giảm nguy cơ cuộc cạnh tranh giữa các quốc gia biến thành động lực buộc các doanh nghiệp phải liên tục tăng tốc. Đây cũng là hướng mà một số lãnh đạo AI đang đề cập tới, từ đánh giá độc lập đến một cơ chế tiêu chuẩn chung và, trong trường hợp rủi ro nghiêm trọng, khả năng phối hợp để giảm tốc độ phát triển.

Mục tiêu rất chông gai

Nhiều chuyên gia tỏ ra hoài nghi về hiệu quả của những tuyên bố và kêu gọi gần đây. Một câu hỏi rất thực tế là: ai sẽ có quyền quyết định khi nào AI đã phát triển “quá nhanh”?

Bailey Whitfield Diffie, một nhà toán học và mật mã học người Mỹ, cho rằng càng nhiều người tham gia vào việc chỉ đạo và kiểm soát AI, thì con người càng có nhiều ảnh hưởng đến máy móc. Nhưng đồng thời, ông không tin rằng việc kiểm soát tốc độ phát triển là khả thi.

“Mọi người nghĩ rằng họ có thể kiểm soát tốc độ của mọi thứ. Tôi nghĩ họ chỉ đang tự lừa dối mình. Đúng vậy, bạn có thể giảm nguồn tài trợ cho AI, nhưng nguồn tài trợ đang thu hút các nhà đầu tư. Có lẽ bạn sẽ phải ban hành các quy định cho việc đó. Và tôi hoàn toàn không chắc mình thấy được lợi ích gì khi làm điều đó”, Bailey Whitfield Diffie nói.

Khó có thể từ chối một guồng quay của cả hệ thống kinh tế liên quan tới AI. Nếu một mô hình mới có năng lực vượt trội, công ty sở hữu nó có thể nhìn thấy lợi ích thương mại rất lớn. Các nhà đầu tư muốn tăng trưởng. Khách hàng muốn sản phẩm mạnh hơn. Các kỹ sư và nhà nghiên cứu muốn tiếp tục tiến lên. Ngay cả khi một công ty muốn giảm tốc, họ cũng khó biết liệu đối thủ có làm như vậy hay không.

Đó là chưa kể AI là một công nghệ có khả năng lan truyền nhanh. Nếu một năng lực mới được phát triển ở một nơi, kiến thức, mô hình hoặc kỹ thuật liên quan có thể nhanh chóng được nghiên cứu và tái tạo ở nơi khác.

Vì thế, “hãm phanh” AI có thể khả thi ở cấp độ một sản phẩm, một công ty hoặc một năng lực cụ thể; nhưng để hãm phanh toàn bộ cuộc đua AI trên phạm vi toàn cầu là một câu chuyện hoàn toàn khác.

Ở một tầm cao hơn, vấn đề đặt ra không phải là dừng AI, mà là ai “kiểm soát chiếc phanh”.

Những lời kêu gọi gần đây từ các lãnh đạo AI cho thấy ngành công nghiệp này đang bắt đầu nhận ra một điều: năng lực phát triển AI và năng lực quản trị AI không thể tiếp tục tiến với hai tốc độ khác nhau.

Nếu AI ngày càng có khả năng tự chủ, thì việc chỉ dựa vào những cam kết tự nguyện của doanh nghiệp là chưa đủ. Nhưng ngược lại, một cơ chế quản lý quá cứng nhắc cũng có thể làm chậm đổi mới, tạo lợi thế cho những quốc gia không tham gia thỏa thuận hoặc đẩy hoạt động phát triển AI sang những khu vực ít được kiểm soát hơn.

Do đó, bài toán thực tế không phải là tìm việc dừng phát triển AI.

Thế giới cần một hệ thống “phanh” nhiều tầng: đánh giá độc lập, tiêu chuẩn an toàn chung, khả năng trì hoãn triển khai đối với những năng lực đặc biệt nguy hiểm, trách nhiệm pháp lý rõ ràng và cơ chế phối hợp quốc tế.

Quan trọng hơn, những người phát triển AI phải chấp nhận rằng an toàn không thể là lớp kiểm tra được bổ sung sau cùng, khi một mô hình đã hoàn thành. Nếu năng lực AI đang tăng nhanh hơn khả năng kiểm soát, thì an toàn phải được phát triển đồng thời với năng lực.

Bởi trong cuộc đua này, vấn đề lớn nhất không phải là có ai muốn chạy nhanh hay chậm.

Mà là nếu tất cả đều biết cần phải giảm tốc, nhưng không ai dám là người đầu tiên “đạp phanh”, thì cuộc đua vẫn sẽ tiếp tục tăng tốc.

“Hãm phanh” AI không phải là câu chuyện về công nghệ. Đó sẽ là câu chuyện về khả năng của con người trong việc đặt ra giới hạn cho chính một công nghệ mà con người đang tạo ra.