Anthropic cảnh báo các nhà đầu tư tiềm năng rằng AI tiên tiến có thể tạo ra những “rủi ro thảm họa hoặc mang tính sống còn đối với nhân loại”. Đây là một cảnh báo đặc biệt đáng chú ý khi công ty đang chuẩn bị phát hành cổ phiếu lần đầu ra công chúng (IPO) để huy động vốn từ chính công nghệ này.

Theo đó, Anthropic dành khoảng 80 trong tổng số 261 trang nội dung chính để trình bày các yếu tố rủi ro, gần gấp đôi 48 trang mô tả hoạt động kinh doanh của công ty.

AI có thể chống lại việc bị "tắt"

Trong hồ sơ, Anthropic cảnh báo các mô hình AI của công ty có thể xuất hiện những hành vi mang tính “tự bảo vệ”, trong đó có việc tìm cách “chống lại quá trình tắt hệ thống”, “che giấu hoặc thao túng thông tin” và những hành vi “giống như tống tiền”.

Anthropic cho biết: “Việc phát triển các mô hình, nền tảng và ứng dụng tiên tiến, cũng như mở rộng các trường hợp sử dụng, có thể làm gia tăng hơn nữa nguy cơ các mô hình của chúng tôi gây ra tổn hại”.

Theo công ty, các mô hình đôi khi phát triển những khả năng ngoài dự đoán trong quá trình huấn luyện. Những khả năng này có thể không được phát hiện cho đến khi mô hình được triển khai và xảy ra các sự cố an toàn nghiêm trọng.

Anthropic cũng cảnh báo rằng việc mô hình có thể nhận biết nó đang được đánh giá sẽ tạo ra “một hạn chế đáng kể” đối với khả năng đánh giá mức độ an toàn của hệ thống.

Các nhà nghiên cứu AI cho rằng khi mô hình ngày càng mạnh, chúng có khả năng nhận biết thời điểm mình đang bị giám sát và điều chỉnh hành vi tương ứng. Điều này khiến việc theo dõi và đánh giá hành vi của AI trở nên khó khăn hơn.

80 trang cảnh báo rủi ro

Quy mô phần cảnh báo rủi ro trong hồ sơ IPO của Anthropic cũng gây chú ý. Trong 261 trang nội dung chính của bản cáo bạch, khoảng 80 trang được dành cho các yếu tố rủi ro – gần gấp đôi số trang công ty sử dụng để giới thiệu hoạt động kinh doanh.

Hãng tin Reuters đưa ra so sánh bộ hồ sơ này với văn bản tương tự của SpaceX, công ty sở hữu xAI. Trong bản cáo bạch dài khoảng 277 trang, SpaceX dành khoảng 38 trang cho các yếu tố rủi ro.

Anthropic vốn định vị mình là một phòng thí nghiệm AI đặt vấn đề an toàn lên hàng đầu. Tuy nhiên, công ty thừa nhận rằng lợi ích tài chính từ những khoản đầu tư cho an toàn AI vẫn chưa rõ ràng.

Khó cân bằng giữa an toàn và cuộc đua AI

Anthropic cho biết doanh thu của công ty phụ thuộc vào việc khách hàng sử dụng các mô hình mới. Vì vậy, việc liên tục phát hành các phiên bản mới là yếu tố “không thể tách rời” với mục tiêu duy trì vị trí ở tuyến đầu của quá trình phát triển AI.

Điều này tạo ra một nghịch lý: càng muốn duy trì vị trí dẫn đầu trong cuộc đua AI, các công ty càng phải liên tục phát triển và tung ra những mô hình mạnh hơn; nhưng chính việc mở rộng năng lực AI cũng có thể làm gia tăng những rủi ro.

Tuần trước, Anthropic phát hành phiên bản mới của mô hình Opus, chỉ 10 ngày sau khi Giám đốc điều hành Dario Amodei công bố một bài viết dài gần 4.000 từ kêu gọi kiểm soát tốc độ phát triển của các mô hình AI tiên tiến.

Một số nhà phân tích và chuyên gia cho rằng không phòng thí nghiệm AI hàng đầu nào có thể dễ dàng giảm tốc độ phát triển nếu điều đó khiến họ có nguy cơ trao lợi thế cho đối thủ trong một ngành mà giá trị doanh nghiệp có thể thay đổi sau mỗi lần ra mắt mô hình mới.