Phát biểu trong một cuộc họp báo, ông David Agranovich – Giám đốc phụ trách chính sách đối phó các mối đe dọa toàn cầu của Meta – cho biết: “Đây là mánh khóe mới trong các chiêu trò lừa đảo. Bọn chúng liên tục thay đổi phương thức và chúng tôi cũng phải liên tục cải tiến để bảo vệ người dùng”.

Hệ thống phát hiện lừa đảo của Meta trên các ứng dụng như Instagram và WhatsApp không chỉ dựa vào hình ảnh mà còn phân tích hành vi và tín hiệu kỹ thuật, giúp phát hiện hoạt động lừa đảo ngay cả khi chúng sử dụng trí tuệ nhân tạo (AI) tạo sinh để giả mạo khuôn mặt và giọng nói.

Công nghệ AI tạo sinh (GenAI) có thể thay đổi khuôn mặt và giọng nói trong các cuộc gọi video, giúp kẻ gian giả dạng người khác một cách tinh vi.

Bà Rachel Tobac - Giám đốc điều hành công ty an ninh SocialProof Security - cho biết: “Chúng có thể sử dụng các chatbot deepfake để tạo ra nhân vật giả mạo hoặc thực hiện cuộc gọi bằng giọng nói nhân tạo mà không cần con người tham gia”.

Theo các chuyên gia, kẻ gian thường lợi dụng sự cô đơn trong mùa Đông và tâm lý mong muốn kết nối trong dịp Lễ Tình nhân (14/2) để thực hiện các chiêu trò lừa đảo tình cảm. Sau khi nhanh chóng xây dựng niềm tin, chúng thường viện lý do khẩn cấp hoặc cơ hội đầu tư để yêu cầu gửi tiền hoặc thông tin cá nhân nhằm truy cập tài khoản tài chính của nạn nhân.

Bà Tobac khuyên người dùng nên “tỏ ý nghi ngờ một cách lịch sự” khi ai đó trên mạng thể hiện tình cảm quá nhanh hoặc yêu cầu hỗ trợ tài chính bất ngờ. Bà nêu rõ: “Việc kiểm chứng thông tin một cách cẩn trọng có thể giúp bạn tránh được các chiêu trò lừa đảo tinh vi”.

Trong năm 2024, Meta đã xóa hơn 408.000 tài khoản từ các quốc gia Tây Phi, nơi kẻ gian giả danh quân nhân hoặc doanh nhân để lừa tình cảm và tiền bạc của nạn nhân ở Australia, Anh, châu Âu, Mỹ và nhiều nơi khác.

Bên cạnh việc dẹp bỏ các mạng lưới lừa đảo, Meta đang thử nghiệm công nghệ nhận diện khuôn mặt nhằm phát hiện đối tượng mạo danh, dựa trên cả hệ thống phát hiện tự động và phản hồi từ người dùng.