Australia báo động tình trạng lạm dụng hình ảnh deepfake. Ảnh: Bnews/vnanet.vn phát

Theo phóng viên TTXVN tại Sydney, ngày 17/10, Ủy ban An toàn Điện tử Australia công bố báo cáo cho biết, trong 18 tháng qua, số vụ lạm dụng hình ảnh deepfake đã tăng gấp đôi tại quốc gia này, với ít nhất mỗi tuần có một vụ việc xảy ra tại các trường học. Báo cáo được công bố sau khi hãng ABC News đưa tin về cuộc điều tra của cảnh sát liên quan đến việc các nữ sinh bị nhắm mục tiêu tại một trường trung học ở phía Bắc thành phố Sydney.

Ủy viên Ủy ban An toàn Điện tử Australia, bà Julie Inman Grant, xác nhận các điều tra viên của ủy ban này đang làm việc với cảnh sát bang New South Wales (NSW) và Sở Giáo dục bang này về việc phát tán các hình ảnh nhạy cảm đã được chỉnh sửa kỹ thuật số trên các nhóm trực tuyến. Bà cho biết ủy bản đã đưa ra một công cụ quản lý sự cố lạm dụng hình ảnh deepfake dành cho các trường học để họ biết khi nào cần báo cảnh sát và khi nào cần liên hệ với ủy ban để yêu cầu gỡ bỏ nội dung.

Theo bà Inman Grant, số vụ việc xảy ra tại trường học chỉ chiếm một phần nhỏ trong tổng số báo cáo mà họ nhận được, và đây thực sự là một vấn đề đáng lo ngại, khiến những tác hại tiềm ẩn trên mạng trở nên trầm trọng hơn. Bà cảnh báo đây chỉ là “phần nổi của tảng băng chìm”, nhất là sau khi công ty OpenAI phát hành mô hình Sora. Đây là ứng dụng mạng xã hội do trí tuệ nhân tạo (AI) tạo ra, cho phép thu thập hình ảnh của người khác và tạo ra video deepfake siêu thực chỉ trong vài giây.

Ông Colm Gannon - Giám đốc điều hành của Trung tâm quốc tế về trẻ em mất tích và bị bóc lột - cho biết vấn đề này đang gia tăng không chỉ ở Australia mà còn ở Mỹ và trên toàn thế giới, với tỷ lệ gia tăng lên tới 1.325% các nội dung do AI tạo ra và deepfake. Chính vì vậy, chính quyền cần thông qua luật để đẩy lùi những tác hại, đặc biệt đối với trẻ em.

Bà Inman Grant cho biết Australia đang dẫn đầu trong việc ứng phó và tiếp tục thảo luận với các đối tác quốc tế nhằm hạn chế mối quan ngại này. Cũng theo bà, Cơ quan quản lý viễn thông Ofcom của Anh có tỷ lệ thành công lên tới 98% trong việc gỡ bỏ hoặc xóa bỏ những hình ảnh deepfake khỏi các nền tảng mạng xã hội.

Quyền Bộ trưởng Bộ Giáo dục bang NSW, bà Courtney Houssos, thông báo đang hợp tác với Ủy ban An toàn Điện tử để phát triển chương trình giáo dục kỹ năng số cho học sinh nhằm trang bị tốt hơn cho các em cách sử dụng Internet và AI một cách phù hợp.