Deepfake là gì?
Thuật ngữ này là sự kết hợp của các khái niệm “deep learning” và “fake”, ám chỉ nội dung giả mạo được tạo ra bằng công nghệ trí tuệ nhân tạo. Deepfake thường là hình ảnh, âm thanh và video giả mạo nhân diện hoặc giọng nói của một người nhằm xài cho các mục đích bất chính.
Theo Diễn đàn Kinh tế Thế giới (WEF), các video deepfake đang tăng với tốc độ 900% hàng năm. Những tiến bộ công nghệ gần đây đã hỗ trợ việc sản xuất chúng trở nên chẳng khó khăn hơn.
Deepfake được xài như một phần trong cuộc tấn công nhằm gây ảnh hưởng đến hoạt động hoặc khởi chạy các chiến dịch thông báo sai lệch. Các mục đích xài khác gồm lừa đảo trực tuyến, đánh cắp danh tính và gian lận tài chính.
một trong số ví dụ deepfake đình đám nhất trong các ngày qua là hình ảnh cựu Tổng thống Mỹ Donald Trump bị bắt giữ.
Về cơ chế hoạt động, deepfake xài kỹ thuật trí tuệ nhân tạo hiện đại thu thập dữ liệu về chuyển động vật lý, đặc điểm khuôn mặt và thậm chí cả giọng nói, rồi xử lý thông qua thuật toán mã hóa AI hoặc Mạng đối kháng tạo sinh (GAN), để tạo ra âm thanh, hình ảnh giả Nhưng siêu giống thực.
Nói cách khác, đó là video, hình ảnh hoặc âm thanh được tạo bằng AI, bắt chước ngoại hình và/hoặc giọng nói của một người.
Hình ảnh giả mạo ông Trump bị bắt do Deepfake tạo ra.
Đây không phải là công nghệ hoàn toàn mới. trên thực tế, nó đã được xài trong nhiều năm ở các hãng phim Hollywood, Nhưng hiện trở nên phổ biến thông qua các ứng dụng thương mại. Nội dung này tăng nhiều đến mức Facebook đã cấm deepfake vào năm 2020.
Bản thân deepfake không xấu Nhưng thường bị lợi dụng cho những mục đích mờ ám. Một báo cáo gần đây của Europol cảnh báo rằng hầu hết các deepfake lan truyền đều có mục đích xấu. Những nội dung mà công nghệ này thường bị lợi dụng gồm:
Ghép mặt người vào những bối cảnh có toan tính riêng. xài hình ảnh và tiếng nói của một người để băng qua mật khẩu sinh trắc học. Lừa đảo trên nền tảng kỹ thuật số. Lan truyền tin giả và thông báo sai lệch, gây rủi ro phá vỡ thị trường tài chính và tạo bất ổn cho các mối quan hệ quốc tế. Trộm cắp danh tính, tống tiền.
Đáng quan ngại hơn, khi công nghệ này trở nên dễ tiếp cận, số vụ phạm tội có thể tăng lên. Do đó, các nhà chức trách khuyên công chúng cần phải hiểu rõ về deepfake và cách ngăn chặn hiểm họa liên quan.
Đã có nhiều trò lừa đảo deepfake gần đây, chẳng hạn như kẻ gian xài công nghệ deepfake để tạo ảnh ba chiều, tiếp sau đó xài trong các cuộc gọi video để giả làm giám đốc truyền thông, đánh lừa các giám đốc điều hành khác nhằm thu thập thông báo bí mật.
Với âm thanh deepfake, những kẻ đe dọa đã xài công nghệ sao chép giọng nói thời gian thực để đánh lừa một giám đốc ngân hàng Hồng Kông chuyển 35 triệu USD.
Trong một vụ lừa đảo đặc biệt nghiêm trọng, những kẻ đe dọa đã gửi thư thoại mô phỏng giọng nói của một CEO, yêu cầu nhân viên đóng góp cho các hoạt động từ thiện, cứu trợ thiên tai thông qua các trang web giả mạo để chuyển tiền vào các tài khoản ở nước ngoài.
Làm như thế nào để phát hiện deepfake?
Deepfake trở nên trở nên tinh vi và khó phát hiện hơn. Nhưng vẫn có một số cách để phát hiện thứ trước mặt bạn là lừa đảo hay không.
Số lần nháy mắt
Bằng cách chú ý đến số lần hình ảnh trong video nháy mắt, chúng ta có thể biết được đó là người thật hoặc deepfake, vì deepfake có xu hướng làm vậy ít hơn người thật, đôi khi theo cách gượng ép hoặc không tự nhiên.
Khuôn mặt và cơ thể
Giả mạo toàn bộ cá tính của một người đòi hỏi siêu nhiều công sức, Thế Bởi thế hầu hết các tác phẩm deepfake chỉ giới hạn ở việc thay thế khuôn mặt. Một cách để phát hiện hành vi giả mạo là xác định sự không hợp lý giữa tỷ lệ cơ thể và khuôn mặt, giữa nét mặt và chuyển động hoặc tư thế của cơ thể.
Thời lượng video
Một video giả mạo đòi hỏi vài giờ thực hiện và đào tạo thuật toán, Thế Bởi thế các video deepfake thường chỉ dài vài giây.
Âm thanh video
Deepfake vẫn còn hạn chế trong việc kết hợp cả giọng nói và khuôn mặt giả mạo. Hãy nghi ngờ nếu video không có âm thanh hoặc có âm thanh không khớp với khẩu hình.
bên trong miệng
Công nghệ tạo deepfakes không giỏi trong việc tái tạo một cách trung thực lưỡi, răng và khoang miệng khi người đó nói. Chính vì vậy, vết mờ bên trong miệng cho thấy đó là hình ảnh giả mạo.
Những chi tiết khác
Chi tiết cũng là điểm yếu của phần mềm deepfake. Chính vì vậy, chúng ta có thể phát hiện ra chúng bằng cách tập trung vào các khía cạnh nhỏ, chẳng hạn như quầng thâm quanh mắt, râu không thật trên khuôn mặt, da quá mịn hoặc nhăn nheo, nốt ruồi giả và màu môi không tự nhiên.
— Bài viết lấy từ Cafef —
