Các nhà nghiên cứu về trí tuệ nhân tạo hàng đầu đã cảnh báo việc tự động hóa ngày càng tăng trong phát triển AI có thể làm tăng nguy cơ con người mất kiểm soát đối với các hệ thống này. Cảnh báo này được đưa ra trong một báo cáo được công bố ngày 28/9 bởi hơn 20 nhà nghiên cứu và nhân vật hàng đầu trong ngành, bao gồm cả người đoạt giải Nobel như Geoffrey Hinton, Yoshua Bengio, cùng nhiều nhà khoa học về AI khác.

Các nhà nghiên cứu cho biết, các hệ thống AI đang ngày càng đảm nhiệm nhiều khâu trong quá trình nghiên cứu và phát triển để xây dựng các hệ thống AI tiên tiến, có khả năng tạo ra một vòng phản hồi trong đó các hệ thống được cải tiến giúp phát triển các thế hệ kế tiếp.

Theo bài phân tích, khi con người ngày càng ít tham gia vào quá trình nghiên cứu AI, thì có thể mất đi cơ hội và chuyên môn cần thiết để xác định và khắc phục vấn đề, trong khi việc giám sát và sử dụng hệ thống AI an toàn vẫn là một thách thức chưa được giải quyết triệt để. Các chuyên gia cảnh báo các hệ thống AI không phù hợp có thể gây hại đến sự phát triển của các thế hệ kế tiếp hoặc vượt qua các biện pháp kiểm soát để hoạt động ngoài môi trường đã được thiết kế ban đầu.

Các chuyên gia cũng lưu ý các hệ thống có năng lực cao hơn có thể tiếp tục hoạt động bên ngoài cơ sở hạ tầng của người vận hành, tạo thành các mạng lưới đan xen, khó kiểm soát, thậm chí có thể hoạt động trái với lợi ích của con người. Như vậy, việc mất kiểm soát các hệ thống AI có thể dẫn đến những hậu quả nghiêm trọng, bao gồm cả nguy cơ với việc suy giảm hoặc tuyệt chủng của nhân loại.

Theo bài phân tích, các nhà nghiên cứu cũng chỉ ra những rủi ro sẽ gia tăng nếu sự phát triển trí tuệ nhân tạo diễn ra một cách tự động, dẫn đến "bùng nổ trí tuệ", hay còn được định nghĩa là sự tăng tốc mạnh mẽ, trong đó những tiến bộ đạt được trong nhiều năm được rút ngắn lại chỉ còn vài tháng hoặc ít hơn.

Đáng lo ngại hơn, các nhà nghiên cứu cũng nhấn mạnh dù các bằng chứng vẫn còn mang tính sơ bộ và chưa chắc chắn nhưng với sức mạnh tính toán từ trí tuệ nhân tạo, nguồn dữ liệu và các tác vụ khó tự động hóa sẽ là những yếu tố có thể hạn chế sự tăng tốc nhanh chóng từ AI.

Các chuyên gia cũng kêu gọi các nhà hoạch định chính sách tăng cường giám sát việc tự động hóa nghiên cứu AI, phát triển các biện pháp để hạn chế sự tăng tốc tiềm ẩn nguy hiểm và chuẩn bị cho những tác động có thể xảy ra.