Thuật toán tạo “vòng lặp” như thế nào?

Sự phát triển nhanh của trí tuệ nhân tạo (AI) đang làm thay đổi cách nội dung số được sản xuất và tiếp cận người dùng. Chỉ với một số công cụ AI, những video, phim ngắn định dạng dọc có thể được tạo ra với tốc độ nhanh, chi phí thấp và liên tục xuất hiện trên TikTok, Facebook Reels, YouTube Shorts.

Đáng chú ý, không ít video có nội dung phi lý, giật gân, thậm chí bạo lực, tình dục hoặc xấu độc nhưng vẫn khiến người xem liên tục lướt từ video này sang video khác. Vì sao người dùng biết nội dung “nhảm” nhưng vẫn khó dừng xem?

Trước vấn đề này, chuyên gia an ninh mạng Ngô Minh Hiếu (Hiếu PC) - thuộc Trung tâm Giám sát An toàn Không gian mạng quốc giacho biết phim ngắn do AI tạo có lợi thế là sản xuất rất nhanh, hình ảnh bắt mắt, nội dung liên tục có cao trào và có thể được tối ưu theo những gì người xem đang quan tâm. Khi kết hợp với cơ chế Autoplay (tự động phát), cuộn vô hạn và thuật toán cá nhân hóa, người dùng rất dễ xem hết video này sang video khác.

Anh Hiếu cho biết hiện nay Ủy ban châu Âu cũng đang đặc biệt quan tâm đến các thiết kế như infinite scroll (cuộn vô hạn hay lướt không điểm dừng), autoplay và hệ thống đề xuất cá nhân hóa vì nguy cơ tạo ra hành vi sử dụng mang tính cưỡng bức, đặc biệt ở người trẻ.

Điều đáng chú ý là thuật toán không chỉ “nhìn” vào việc người dùng bấm thích hay chia sẻ. “Thuật toán học từ chính hành vi của chúng ta: xem gì, xem bao lâu, tìm kiếm gì, thích hay bỏ qua nội dung nào. Vì vậy, nếu một người liên tục dừng lại ở những video giật gân, bạo lực hay tình dục, hệ thống có thể hiểu đó là tín hiệu quan tâm và tiếp tục đề xuất nội dung tương tự, tạo thành một “vòng lặp’”, anh Hiếu phân tích.

Như vậy, chỉ cần người dùng dừng lại xem một số video AI có nội dung giật gân, bạo lực hoặc tình dục, những hành vi này có thể trở thành tín hiệu để hệ thống tiếp tục đề xuất các nội dung tương tự. Càng xem, người dùng càng gặp nhiều nội dung cùng loại và càng khó thoát khỏi “vòng lặp” do chính lịch sử sử dụng của mình tạo nên.

Để chủ động phá vỡ vòng lặp này, anh Hiếu khuyến cáo người dùng nên sử dụng các lựa chọn như “Không quan tâm/Not interested”, không tương tác với nội dung xấu, bỏ theo dõi nguồn phát, xóa hoặc điều chỉnh lịch sử xem, đồng thời chủ động tìm kiếm những chủ đề lành mạnh khác.

Khi “nhìn giống thật” bị nhầm là sự thật

Phim AI ngày càng chân thật, trong khi người xem trẻ tuổi không phải lúc nào cũng nhận biết đâu là nội dung được tạo dựng. Do đó, điều vị chuyên gia này lo ngại nhất đó là giới trẻ dần mất khả năng phân biệt giữa “nhìn giống thật” và “là sự thật”.

“Khi video AI ngày càng chân thực, trẻ có thể tiếp nhận thông tin sai, hình ảnh bạo lực hoặc tình dục như một điều bình thường, thậm chí bị dẫn dụ, bắt chước hoặc trở thành nạn nhân của deepfake. Quỹ Nhi đồng Liên Hợp Quốc (UNICEF) cũng cảnh báo trẻ em đặc biệt dễ bị tổn thương trước thông tin sai lệch và nội dung tổng hợp do AI tạo ra”, anh Hiếu cho biết.

Anh Hiếu cho rằng AI giúp việc sản xuất hàng loạt video trở nên rất nhanh và rẻ. Chính vì thế nguy cơ nội dung độc hại bị “công nghiệp hóa” là hoàn toàn có cơ sở, bởi AI đã làm giảm mạnh thời gian, chi phí và kỹ năng cần thiết để sản xuất số lượng lớn hình ảnh, video giả. UNICEF cũng cảnh báo AI có thể tạo nội dung gây hại ở quy mô lớn với chi phí thấp.

Do vậy, anh đề xuất các nền tảng phải kết hợp nhiều biện pháp: nhận diện và gắn nhãn nội dung AI, hạn chế đề xuất nội dung độc hại, tăng bảo vệ tài khoản trẻ em, phát hiện mạng lưới sản xuất hàng loạt và xử lý nhanh khi người dùng báo cáo. YouTube hiện đã áp dụng cơ chế công khai nhãn đối với một số nội dung được tạo hoặc chỉnh sửa đáng kể bằng AI.

Không thể chỉ nói với trẻ: “Đừng xem nữa”

Trước những tác động lớn của video AI xấu độc tác động rất lớn đến người xem, nhất là giới trẻ, anh Hiếu cho rằng không thể giải quyết bằng cách đơn giản là cấm trẻ xem. Gia đình cần hướng dẫn và đồng hành thay vì chỉ kiểm soát; nhà trường cần đưa AI literacy (năng lực hiểu biết và làm chủ trí tuệ nhân tạo) và kỹ năng kiểm chứng thông tin vào giáo dục.

Ngoài ra anh Hiếu cũng cho rằng nền tảng phải cung cấp chế độ bảo vệ trẻ em, công cụ điều chỉnh thuật toán và minh bạch nội dung AI; còn cơ quan quản lý cần yêu cầu các nền tảng đánh giá rủi ro đối với trẻ và có trách nhiệm rõ ràng khi thuật toán khuếch đại nội dung độc hại.

“Quan trọng nhất là giúp trẻ hình thành phản xạ: thấy một video rất sốc, rất thật hoặc kích thích cảm xúc mạnh thì phải biết dừng lại, kiểm chứng trước khi tin và chia sẻ”, vị chuyên gia cho biết.