10/11/2025 12:03

Từ hình ảnh, video đến ca khúc AI: Cẩn trọng 'cơn lốc' nội dung AI trên mạng xã hội

Trí tuệ nhân tạo (AI) đang bị lợi dụng trong các hoạt động thương mại trực tuyến, từ bán hàng đến lừa đảo từ thiện, khiến cơ quan quản lý và doanh nghiệp phải nhanh chóng tìm giải pháp nhận diện và kiểm soát rủi ro trong kỷ nguyên nội dung nhân tạo.

Nếu trước đây để tạo một ảnh giả mạo, người dùng bình thường phải thuê các chuyên gia Photoshop thì với Thái Lan tuyên chiến với lừa đảo trực tuyến, dùng AI truy vết dòng tiền

"Chưa bao giờ công nghệ dễ dàng tiếp cận như hiện nay. Đây đều là những model AI cực kỳ mạnh mẽ trong việc "sao chép khuôn mặt" gần như 90%, thậm chí 99% so với ảnh gốc", ông Sơn nhận xét.

Nếu trước đây để tạo một ảnh giả mạo, người dùng bình thường phải thuê các chuyên gia Photoshop để làm giả thì với AI hiện nay, chưa đầy 5 phút với một số kỹ năng cơ bản, một bộ ảnh giả, một video giả được cắt ghép, lồng thêm hiệu ứng dạng bản tin có thể lan truyền tốc độ chóng mặt.

"Tin giả được lặp lại nhiều lần, với mật độ dày đặc, dễ tiếp cận thì một đại bộ phận tiếp xúc nó hằng ngày sẽ tin đó là sự thật. Do đó, rất cần những giải pháp để hạn chế những vấn đề trên", ông Sơn lưu ý.

Theo ông Trịnh Nguyễn Thiên Phước - giám đốc công nghệ Công ty Gianty Việt Nam, để có thể phân biệt nội dung do AI tạo ra cần ba lớp: (1) kỹ năng kiểm chứng của người dùng (cùng với các nguyên tắc vàng); (2) công cụ kỹ thuật như Content Credentials (C2PA, tạm dịch: thông tin xác thực và nguồn gốc nội dung), dấu hiệu nhận biết watermarking (SynthID, AudioSeal) và bộ dò deepfake; (3) quy trình phối hợp giữa các bên liên quan như: nền tảng, nhà mạng, ngân hàng...

Trong đó, nguyên tắc vàng phải được thực hiện rất nhanh trong khoảng thời gian từ 30 - 60 giây, bao gồm: không bấm link lạ, đồng thời vào app/website chính thức để kiểm chứng; dừng lại ngay khi gặp từ khóa ép hành động (OTP/chuyển tiền/khẩn cấp).

Đồng thời, người dùng nên xác thực lại bằng hai nguồn độc lập trước khi tin; kiểm tra ngày, giờ và bối cảnh (tin cũ đội lốt mới); gọi lại số chính thức do bạn tự tìm, không dùng số người khác đưa; với hình ảnh và video, người dùng có thể tìm kiếm ngược lại về kết quả liên quan...

Nhiều chuyên gia cho rằng giải pháp căn cơ nhất để đối phó với làn sóng nội dung giả mạo do AI tạo ra chính là nâng cao nhận thức cộng đồng. Thay vì chỉ tập trung vào các biện pháp kỹ thuật, cần xây dựng những chương trình đào tạo, cuộc thi hay mô phỏng tình huống thực tế giúp người dân thay đổi thói quen tiếp nhận thông tin.

Với giới trẻ, đặc biệt là sinh viên, việc kết hợp các cuộc thi trực tuyến, chiến dịch truyền thông cùng người nổi tiếng hoặc KOL có thể tạo sức hút tự nhiên, giúp họ vừa học, vừa trải nghiệm nhưng vẫn nắm được kỹ năng nhận diện tin giả, video giả. Trong khi đó, người cao tuổi, nhất là ở vùng nông thôn, lại cần các hình thức gần gũi và trực quan hơn như tờ rơi minh họa, video hướng dẫn hoặc buổi chiếu tại nhà văn hóa, sinh hoạt cộng đồng.

"Cách tiếp cận phù hợp với từng nhóm người sẽ giúp tạo ra một nền tảng nhận thức vững chắc, lâu dài, thay vì chỉ dừng lại ở các hoạt động ngắn hạn. Ví dụ một số đơn vị đã phát triển các tiện ích mở rộng (extension) có thể cài đặt trên trình duyệt Chrome nhằm hỗ trợ người dùng xác thực tin tức khi lướt web hoặc mạng xã hội...", ông Đặng Hữu Sơn chia sẻ.

Dùng AI phát hiện AI giả mạo

Mới đây, hãng điện thoại Honor đã tích hợp tính năng AI Deepfake Detection trong dòng điện thoại vừa ra mắt của mình. Tính năng này có thể phân tích hình ảnh, giọng nói trong 3 giây để cảnh báo giả mạo ngay trên các ứng dụng như Messenger, Zalo, Viber hay Google Meet, trở thành "lá chắn số" bảo vệ người dùng trước các thủ đoạn lừa đảo công nghệ cao.

Trước đó tháng 9-2025, MoMo đã công bố hợp tác với iProov triển khai công nghệ Dynamic Liveness giúp xác minh người dùng là người thật, đúng danh tính và hiện diện tại thời điểm giao dịch, ngăn chặn gian lận bằng deepfake, video hay hình ảnh giả mạo.

Trong những lĩnh vực rủi ro cao như tài chính, mức độ bảo mật này giữ vai trò then chốt trong việc ngăn chặn gian lận, ngăn truy cập trái phép và duy trì niềm tin của người dùng vào nền tảng.

Luật Trí tuệ nhân tạo: Làm sao để người trẻ không bị bỏ lại phía sau?

Bộ Khoa học và Công nghệ đã chủ trì xây dựng dự thảo Luật Trí tuệ nhân tạo, dự kiến trình Quốc hội cho ý kiến tại kỳ họp thứ 10.