Một đoạn video có thể cho thấy một chính trị gia nói điều chưa từng nói. Một bức ảnh có thể ghi lại một sự kiện chưa từng xảy ra. Khi AI khiến nội dung giả trở nên chân thực đến mức khó phân biệt, cuộc chiến chống tin giả đang bước sang một giai đoạn hoàn toàn mới.

Có một quy tắc từng khá đơn giản trên Internet: thấy hình ảnh thì tin vào mắt mình.

Một bức ảnh được xem như bằng chứng.

Một đoạn video được xem như sự xác nhận.

Một bản ghi âm được xem như lời nói của chính nhân vật trong đó.

Nhưng quy tắc ấy đang dần mất đi.

Với sự phát triển của Generative AI, việc tạo ra hình ảnh, video và âm thanh giả ngày càng trở nên dễ dàng.

Người dùng không cần phải là một chuyên gia kỹ thuật để tạo ra một đoạn video trong đó một người nổi tiếng nói những điều họ chưa từng nói.

Vấn đề đáng sợ nhất không phải là những nội dung giả trông quá hoàn hảo.

Mà là chúng đang trở nên đủ thật để con người tin vào chúng.

Từ trò giải trí thành công cụ thao túng

Deepfake ban đầu thường xuất hiện dưới dạng những video mang tính giải trí.

Gương mặt của một người nổi tiếng được ghép vào một bộ phim. Một nhân vật được đặt vào một tình huống hài hước. Những sản phẩm này có thể khiến người xem tò mò hoặc bật cười.

Nhưng công nghệ nhanh chóng vượt khỏi lĩnh vực giải trí.

Ngày nay, AI có thể tạo ra hình ảnh của những người chưa từng tồn tại, mô phỏng giọng nói của một người thật hoặc tạo ra video khiến một nhân vật dường như đang nói và làm những điều chưa từng xảy ra.

Khi công nghệ này được sử dụng cho mục đích lừa đảo, tuyên truyền hoặc thao túng thông tin, hậu quả trở nên nghiêm trọng hơn rất nhiều.

Một đoạn ghi âm giả có thể được sử dụng để lừa chuyển tiền.

Một video giả có thể tạo ra thông tin sai lệch về một chính trị gia.

Một hình ảnh giả về thiên tai hoặc xung đột có thể lan truyền trước khi các cơ quan báo chí kịp xác minh.

Và một khi nội dung đã lan truyền, việc đính chính không phải lúc nào cũng đủ để xóa bỏ ấn tượng ban đầu.

Nghịch lý của thời đại AI

Deepfake tạo ra một nghịch lý đặc biệt.

Trước đây, vấn đề của Internet là người ta có thể tạo ra thông tin giả.

Bây giờ, vấn đề còn nghiêm trọng hơn:

Người ta có thể tạo ra bằng chứng giả cho thông tin giả.

Một tin đồn trước đây có thể chỉ là một dòng chữ trên mạng xã hội.

Ngày nay, nó có thể đi kèm một bức ảnh.

Một đoạn video.

Một bản ghi âm.

Thậm chí là cả một chuỗi nội dung được tạo ra để khiến câu chuyện trở nên thuyết phục.

Điều này làm thay đổi cách thông tin sai lệch hoạt động.

Nội dung càng chân thực, người dùng càng có xu hướng chia sẻ trước khi kiểm chứng.

Các nền tảng mạng xã hội cũng phải đối mặt với một bài toán khó: làm thế nào để phát hiện nội dung do AI tạo ra khi chính công nghệ tạo nội dung cũng đang phát triển nhanh hơn các công cụ phát hiện?

Không phải lúc nào AI cũng tạo ra một lời nói dối hoàn chỉnh

Một điều đáng chú ý là deepfake không nhất thiết phải hoàn hảo mới có thể gây hại.

Chỉ cần một video đủ thuyết phục để khiến một bộ phận người xem tin vào nó trong vài giờ, tác động đã có thể xảy ra.

Đặc biệt, tốc độ lan truyền của mạng xã hội khiến thời gian trở thành yếu tố quan trọng.

Một thông tin giả có thể được chia sẻ hàng nghìn lần trước khi các tổ chức kiểm chứng xuất bản kết luận.

Đến lúc thông tin thật xuất hiện, người dùng đã có thể hình thành quan điểm.

Đây là lý do cuộc chiến chống deepfake không thể chỉ dựa vào một phần mềm phát hiện AI.

Nó cần cả một hệ thống.

Các nền tảng phải cải thiện công cụ phát hiện và gắn nhãn nội dung.

Các cơ quan báo chí phải tăng tốc độ kiểm chứng.

Các cơ quan quản lý phải xây dựng quy định phù hợp.

Và người dùng phải học cách nghi ngờ ngay cả những thứ tưởng như rất rõ ràng.

“Thấy” không còn đồng nghĩa với “biết”

Sự thay đổi lớn nhất mà AI mang đến có lẽ không nằm ở bản thân deepfake.

Nó nằm ở niềm tin.

Nếu người dùng biết rằng một video có thể bị làm giả, họ sẽ bắt đầu nghi ngờ cả những video thật.

Đây được gọi là “liar’s dividend” — một tình huống trong đó những người thực sự nói hoặc làm điều gì đó có thể phủ nhận bằng chứng thật bằng cách tuyên bố rằng nội dung đó là deepfake.

Nghịch lý xuất hiện:

Deepfake không chỉ khiến nội dung giả trở nên đáng tin.

Nó còn có thể khiến nội dung thật trở nên đáng ngờ.

Một chính trị gia thực sự phát biểu một câu gây tranh cãi có thể tuyên bố video là giả.