Trong đợt mưa lũ kéo dài ở miền Trung, nhiều nội dung giả do AI tạo ra đã lan truyền trên mạng xã hội. Nội dung của các video này chủ yếu tập trung vào hình ảnh người dân bị mắc kẹt, lũ cuốn trôi nhà cửa, cứu hộ khẩn cấp…, thậm chí xuyên tạc tình hình và công kích lực lượng chức năng.

Các video giả này thu hút hàng trăm ngàn đến hàng triệu lượt xem, chia sẻ bởi đánh vào lòng thương cảm, gây xúc động mạnh, như cảnh cậu bé ôm chó trên mái nhà giữa biển nước, người dân vật lộn trong lũ… Nhiều tài khoản lợi dụng sự thương cảm để “câu” tương tác, bán hàng hoặc kích động dư luận.

Việc người dùng chia sẻ hình ảnh không rõ nguồn gốc khiến tin giả lan nhanh và gây hiểu lầm nghiêm trọng về tình hình thực tế.

Đáng chú ý, mặc dù đây là sản phẩm của AI nhưng khi đăng lên mạng xã hội lại không bị nền tảng dán nhãn AI.

Ông Lê Anh Bằng, Giám đốc Giải pháp Khách hàng Công ty CP Công nghệ Haravan, cho rằng việc nhiều video được tạo hoặc can thiệp bằng AI nhưng không hiển thị nhãn “AI-generated” trên các nền tảng TikTok, Facebook có thể xuất phát từ sự thay đổi trong cách các nền tảng nhận diện và phân loại nội dung.

Theo ông Bằng, nếu một video được tạo hoàn toàn bằng AI, khả năng bị phát hiện và gắn nhãn vẫn cao. Tuy nhiên, với các nội dung có sự tham gia của con người, như sử dụng hình ảnh, video thật rồi nhờ AI hỗ trợ cắt ghép, dựng cảnh hoặc tạo chuyển động, hệ thống khó xác định ranh giới giữa “nội dung do AI tạo ra” và “nội dung có AI hỗ trợ”.

Chính sự mập mờ này khiến nhiều video có yếu tố AI vẫn được hiển thị như những clip thông thường, không kèm cảnh báo.

Cũng theo ông Bằng, công nghệ AI hiện nay phát triển với tốc độ rất nhanh, trong khi các nền tảng cần thời gian để cập nhật thuật toán và xây dựng bộ tiêu chí nhận diện mới.

Trong khi phần lớn nội dung trên môi trường số hiện nay đã có sự tham gia của AI, hành lang pháp lý vẫn đang hoàn thiện, việc kiểm soát hoàn toàn là rất khó.

Vì vậy, mỗi người dùng mạng xã hội cần thận trọng hơn trong việc tiếp nhận và chia sẻ thông tin, bởi một cú nhấp chuột thiếu kiểm chứng cũng có thể vô tình tiếp tay cho tin giả lan rộng.

Một nghiên cứu của HostingAdvice, đơn vị nghiên cứu có trụ sở tại Mỹ, cho thấy 58% người Mỹ từ 18 – 43 tuổi từng bị lừa bởi nội dung do AI tạo ra. Kết quả này cảnh báo mức độ nguy hiểm ngày càng tăng của tin giả, đồng thời bào mòn niềm tin về thông tin trên các nền tảng.