Theo báo cáo từ Cơ sở dữ liệu Sự cố AI (AI Incident Database), các công cụ tạo nội dung lừa đảo được cá nhân hóa không còn là thị trường ngách. Chúng ngày càng rẻ, dễ sử dụng và có thể triển khai trên diện rộng.

Bùng nổ lừa đảo quy mô lớn

Danh sách các vụ việc gần đây bao gồm video giả mạo nhà báo Thụy Điển, Tổng thống Cộng hòa Síp hay Thủ hiến Tây Úc Robert Cook quảng cáo cho các mô hình đầu tư lừa đảo. Thậm chí, hình ảnh bác sĩ cũng bị làm giả để bán kem dưỡng da.

Xu hướng này đang gây thiệt hại tài chính nghiêm trọng. Năm ngoái, một nhân viên tài chính tại tập đoàn đa quốc gia ở Singapore đã chuyển gần 500.000 USD cho kẻ lừa đảo sau cuộc gọi video với “lãnh đạo công ty” giả mạo. Tại Anh, người tiêu dùng ước tính mất 9,4 tỷ bảng Anh vì lừa đảo trong 9 tháng tính đến tháng 11/2025.

Simon Mylius, nhà nghiên cứu tại MIT, nhận định: “Năng lực công nghệ đã đạt đến mức gần như bất kỳ ai cũng có thể sản xuất nội dung giả mạo“. Theo ông, rào cản gia nhập hiện gần như bằng không. Dữ liệu cho thấy các vụ lừa đảo và thao túng có chủ đích chiếm tỷ trọng lớn nhất trong các sự cố được báo cáo suốt năm qua.

Fred Heiding, nhà nghiên cứu từ Đại học Harvard, cảnh báo: “Quy mô đang thay đổi. Các mô hình AI đang trở nên tốt và nhanh hơn nhiều so với dự đoán của giới chuyên gia”.

CEO công ty bảo mật cũng thành mục tiêu

Screenshot 20251011 114735 TikTok

Bộ phát wifi 4G di động mini ROOSEE M610, chuẩn wifi 6

Ngay cả giới chuyên môn cũng không miễn nhiễm. Đầu tháng 1, Jason Rebholz, CEO công ty bảo mật AI Evoke, nhận được hồ sơ xin việc ấn tượng từ một ứng viên qua LinkedIn. Tuy nhiên, cuộc phỏng vấn xin việc diễn ra đầy bất thường.

Video của ứng viên xuất hiện chậm, phông nền giả tạo và hình ảnh quanh viền cơ thể bị lỗi. “Một phần cơ thể của anh ta lúc ẩn lúc hiện. Các đường nét quanh khuôn mặt rất thiếu tự nhiên”, Rebholz kể lại. Sau khi gửi bản ghi âm cho một đơn vị phát hiện deepfake, nghi ngờ của ông được xác thực: ứng viên đó là sản phẩm của AI.

Rebholz cho rằng nếu một startup nhỏ như Evoke cũng bị nhắm đến thì nguy cơ này đang lan rộng tới tất cả mọi người. Mục đích của kẻ lừa đảo có thể là mức lương kỹ sư hoặc đánh cắp bí mật thương mại.

Các chuyên gia nhận định tình hình sẽ còn tồi tệ hơn. Công nghệ nhân bản giọng nói hiện đã rất xuất sắc, cho phép kẻ gian dễ dàng giả giọng người thân để lừa đảo qua điện thoại. Trong khi đó, video deepfake vẫn còn dư địa để hoàn thiện hơn nữa.

Hậu quả của xu hướng này tác động sâu rộng đến tuyển dụng, bầu cử và xã hội. “Điểm đau lớn nhất sẽ là sự mất niềm tin hoàn toàn vào các thể chế kỹ thuật số và thông tin nói chung”, ông Heiding nhấn mạnh.

Screenshot 20251007 115105 TikTok

Điện Thoại Di Động Honor X6c 6GB + 128GB/256GB - Pin 5300mAh NFC - Camer

(Theo The Guardian)

Tạo deepfake khiêu dâm trẻ em có thể bị xử lý hình sựNgoài việc bị tạm dừng dịch vụ theo Luật Trí tuệ nhân tạo, hành vi tạo deepfake khiêu dâm trẻ em, lừa đảo hay xâm phạm an ninh quốc gia sẽ bị xử phạt hành chính hoặc truy cứu trách nhiệm hình sự.