Ngay cả công cụ phát hiện lừa đảo Deepfake cũng có thể bị đánh lừa

Ở thời phát đạt triển nở rộ của internet cũng như các nền tảng truyền thông xã hội với hàng tỷ người sử dụng như hiện nay, tin giả đang thực thụ trở thành một vấn nạn gây nhức nhói trên toàn thế giới. Deepfake chính là một phần trong mớ hỗn độn đó.

Deepfake là một kỹ thuật tổng hợp hình ảnh loài người dựa theo trí tuệ nhân tạo (AI) bằng phương pháp dùng một kỹ thuật học máy (machine learning) được coi là Generative Adversarial Network. Với đặc tính này, nó thường được dùng làm tạo thông tin giả và những trò lừa đảo độc hại. Các video Deepfake bắt đầu tràn lan internet vài ba năm trước khi các tác nhân xấu nhận biết rằng chúng có thể được sử dụng để hạ nhục đáng tin cậy cá nhân, trục lợi trái phép và truyền bá thông tin chính trị sai sự thật. Với sự nâng cấp liên tiếp của các thuật toán AI, Deepfake đang ngày càng trở nên khó phát giác hơn khi nào hết.

Để ứng phó với vấn nạn Deepfake, các chuyên gia bảo mật đã phát triển những công cụ AI có thể phân tính phần tử mã cũng giống từng chi tiết nhỏ nhất của hình ảnh, video ở cấp độ pixel nhằm phát hiện hành vi giả mạo. Thế nhưng khi mà công nghệ bảo mật này đang dần tỏ ra hiệu quả, khó khăn lại tiếp tục xuất hiện.

Một nhóm các nhà nghiên cứu đến từ Đại học San Diego gần đây đã tìm ra một phương pháp tương đối dễ dàng để xí gạt chính các hệ thống phát giác video giả mạo dựa theo AI tối tân nhất hiện nay.

Theo đó, nhóm nghiên cứu đã thực hiện một vài tinh chỉnh về mã đối với những video giả mạo được tổng hợp bằng những cách thức tạo Deepfake hiện có. Cụ thể là đối với codec nén hình ảnh và video, từ đó tạo nên các nhiễu loạn đối nghịch phức tạp khiến công cụ phát giác Deepfake chẳng thể phân tính được và để lọt nội dung giả mạo.

Hình ảnh đầu tiên bên dưới cho thấy công cụ phát hiện Deepfake hoạt động bình thường, trong lúc video thứ 2 cho thấy những gì diễn ra khi các nhà nghiên cứu thi hành một vài tinh chỉnh được thiết kế để đánh lừa công cụ phát giác Deepfake, mặc dầu sự khác biệt là gần như không thể nhận biết bằng mắt thường.

Về cơ bản, các công cụ phát hiện video giả sẽ kiểm tra từng khung hình của video để xác định những thay đổi bất thường. Nhóm nghiên cứu Đại học San Diego đã phát triển một quy trình đưa thông tin gây nhiễu vào từng khung hình, khiến công cụ phát hiện Deepfake giả tưởng rằng đó video là bình thường.

Nghiên cứu này đã đã cho thấy các hệ thống phát giác video giả mạo tối tân vẫn chứa đựng những có hạn nghiêm trọng. Về bản chất, có thể kết luận rằng những tác nhân độc hại “có tay nghề cao” tận gốc cũng đều có thể tìm ra cách gạt gẫm mọi thứ các công cụ nhận diện Deepfake hiện tại.

Từ khóa bài viết: truongthinh.info, Deepfake, đánh lừa deepfake, trí tuệ nhân tạo, công cụ phát hiện Deepfake, tin giả, đánh lừa công cụ phát hiện Deepfake

Bài viết Ngay cả công cụ phát hiện lừa đảo Deepfake cũng có thể bị đánh lừa được tổng hợp và biên tập bởi: truongthinh.info. Mọi ý kiến đóng góp và phản hồi vui lòng gửi Liên Hệ cho truongthinh.info để điều chỉnh. truongthinh.info xin cảm ơn.