Tại phiên đối thoại, Tổng thống Pháp Emmanuel Macron cho rằng thế giới đã mất khoảng 10 năm để ứng phó với tác động của mạng xã hội đối với trẻ em và thanh thiếu niên. Theo ông, trong khoảng thời gian đó, trẻ em đã lớn lên trong một môi trường mà người lớn chưa thể kiểm soát đầy đủ.

“Tôi tin rằng bài học chúng ta cần rút ra là chúng ta đã mất 10 năm để làm được điều này. Và trong 10 năm đó, chúng ta đã để con cái của mình lớn lên trong một hệ thống mà chúng ta hầu như không thể kiểm soát và chính chúng ta cũng chỉ đang dần khám phá ra điều đó. Chúng ta cũng không quá ngạc nhiên khi các em đang phát triển về cảm xúc, giác quan và nhận thức trong một môi trường mà chúng ta không biết liệu môi trường đó có thực sự phù hợp với các em hay không”, ông Macron nói.

Pháp, Tây Ban Nha, Kenya và Australia đang thúc đẩy một liên minh về quyền và bảo vệ trẻ em trong kỷ nguyên AI. Tại cuộc đối thoại, trách nhiệm của doanh nghiệp công nghệ được đặt cùng với trách nhiệm của chính phủ và gia đình.

Thủ tướng Australia Anthony Albanese nhấn mạnh: “Chúng ta biết rằng tác động của mạng xã hội đã dẫn đến sự gia tăng các vấn đề về sức khỏe tâm thần. Nó dẫn đến tình trạng nghiện thuật toán và việc lướt mạng xã hội quá mức; dẫn đến lo âu, rối loạn ăn uống và các vấn đề về hành vi, về cơ bản là cướp đi tuổi thơ của trẻ em. Và chúng ta muốn trả lại tuổi thơ đó cho các em”.

Nếu mạng xã hội đặt ra câu hỏi về thời gian và mức độ tiếp xúc, AI đang mở rộng rủi ro sang dữ liệu cá nhân, hình ảnh và các mối quan hệ của trẻ em. Cao ủy Nhân quyền Liên Hợp Quốc Volker Turk cho biết, cuộc khảo sát hơn 1.000 trẻ em tại 49 quốc gia cho thấy chính các em cũng nhận diện những nguy cơ này.

Theo ông Turk:“Các em lo lắng về việc AI bị lợi dụng để tạo ra những hình ảnh giả mạo về người thật, khai thác dữ liệu cá nhân, làm giảm khả năng sáng tạo và thay thế các mối quan hệ thực tế với gia đình, bạn bè, giáo viên hoặc chuyên gia trị liệu. Điều quan trọng là các em muốn được lắng nghe trước khi các quyết định được đưa ra, chứ không phải sau đó. Điều này có đang thực sự xảy ra không? Tiếng nói của trẻ em có được lắng nghe không?”.

Một trong những nguy cơ đã được ghi nhận là việc AI tạo sinh bị sử dụng để tạo hình ảnh tình dục giả mạo trẻ em. UNICEF và INTERPOL ước tính ít nhất 1,2 triệu trẻ em tại 11 quốc gia được khảo sát đã bị biến đổi hình ảnh theo cách này trong một năm.

Tại Liên Hợp Quốc, vấn đề được đặt ra không chỉ ở việc kiểm soát cách trẻ em sử dụng AI mà còn ở trách nhiệm của những bên phát triển công nghệ. Theo Cao ủy Nhân quyền Liên Hợp Quốc, Công ước về Quyền trẻ em cũng áp dụng đối với AI, doanh nghiệp cần đánh giá tác động về quyền con người trước khi đưa sản phẩm ra thị trường, bảo đảm minh bạch và có cơ chế đánh giá độc lập.

Liên minh về quyền và bảo vệ trẻ em trong kỷ nguyên AI cũng đã công bố lộ trình hành động giai đoạn 2026-2027, tập trung vào nghiên cứu và xây dựng các tiêu chuẩn bảo vệ trẻ em trong quá trình phát triển và triển khai AI.