Những sản phẩm “deepfake” này được phát tán rộng rãi trên không gian mạng với mục đích xuyên tạc, bôi nhọ, hạ uy tín của cơ quan, tổ chức, chính quyền và lực lượng chức năng, gây hoang mang dư luận, làm suy giảm niềm tin của người dân, ảnh hưởng tiêu cực đến tình hình an ninh, trật tự.

Đáng chú ý, việc chia sẻ, lan truyền các nội dung chưa được kiểm chứng không chỉ tiếp tay cho các đối tượng xấu mà còn có thể khiến người dùng vi phạm pháp luật và bị xử lý theo quy định.

Ngày 27/3, Phòng An ninh nội địa đã phát hiện và phối hợp với Công an phường Bắc Kạn làm việc với trường hợp H.V.Q (trú tại phường Bắc Kạn) về hành vi đăng tải, chia sẻ thông tin sai sự thật trên mạng xã hội.

Theo đó, trong quá trình sử dụng mạng xã hội, H.V.Q đã tiếp cận các trang, tài khoản có tính chất phản động trên nhiều nền tảng mạng xã hội, đăng tải các video, hình ảnh được tạo dựng bằng công nghệ AI với nội dung liên quan đến hoạt động của các lực lượng chức năng.

Tại buổi làm việc, cơ quan Công an đã tuyên truyền, làm rõ âm mưu, thủ đoạn của các đối tượng lợi dụng công nghệ AI để tạo nội dung giả mạo nhằm xuyên tạc, chống phá Đảng, Nhà nước và lực lượng chức năng.Sau khi được giải thích, H.V.Q đã nhận thức rõ hành vi vi phạm, tự nguyện gỡ bỏ toàn bộ nội dung sai sự thật, cam kết không tái phạm và chấp hành nghiêm các quy định pháp luật khi sử dụng mạng xã hội.

Cơ quan Công an nhận định, các nội dung xấu độc do AI tạo ra ngày càng tinh vi, khó phân biệt thật - giả nếu người xem không kiểm chứng kỹ thông tin.

Do đó, người dân cần: Nâng cao cảnh giác khi tiếp cận thông tin trên mạng xã hội; Không theo dõi, chia sẻ, lan truyền các nội dung chưa được kiểm chứng; Chủ động tiếp nhận thông tin từ các nguồn chính thống; Sử dụng mạng xã hội một cách có trách nhiệm; Mỗi người dân cần trở thành “lá chắn” trước tin giả, góp phần xây dựng môi trường không gian mạng lành mạnh, an toàn.