Ngày 14/4, giới chuyên gia Hàn Quốc cảnh báo các video sử dụng công nghệ deepfake nhắm vào các ứng cử viên tổng thống trong cuộc bầu cử vào tháng 6 tới đang lan truyền nhanh chóng trên mạng xã hội, làm dấy lên lo ngại về nguy cơ suy yếu tính toàn vẹn của chiến dịch tranh cử.

Theo phóng viên TTXVN tại Seoul, mặc dù pháp luật Hàn Quốc đã có những quy định nghiêm ngặt về việc sử dụng nội dung do trí tuệ nhân tạo (AI) tạo ra trong hoạt động vận động tranh cử, song các nền tảng mạng xã hội lớn như TikTok và X vẫn tràn ngập các video deepfake mang tính châm biếm, thậm chí là sai sự thật. Đạo luật Bầu cử công chức sửa đổi cấm phát tán nội dung do AI tạo ra trong vòng 90 ngày trước ngày bỏ phiếu. Hành vi vi phạm có thể đối mặt mức án 7 năm tù giam hoặc tiền phạt lên tới 50 triệu won (hơn 35.000 USD). Tuy nhiên, việc thực thi quy định này vẫn còn nhiều hạn chế. Cho đến nay, cảnh sát chưa truy tố bất kỳ trường hợp vi phạm nào theo điều khoản mới, dù vẫn có thể áp dụng các quy định hiện hành về tội phỉ báng.

Giáo sư Bae Sang Hoon tại Đại học Woosuk cảnh báo việc tạo ra và chia sẻ video deepfake một cách thiếu thận trọng có thể làm suy yếu nền dân chủ của Hàn Quốc. Theo Giáo sư Bae, nội dung deepfake có khả năng ảnh hưởng tiêu cực đến nhận thức của công chúng, đặc biệt là những cử tri không liên kết chặt chẽ với bất kỳ đảng phái chính trị nào.  Những video mang tính giật gân hoặc khiêu khích có thể để lại ấn tượng tiêu cực về lâu dài, làm gia tăng định kiến về các ứng cử viên.

Các cơ quan bầu cử Hàn Quốc dự báo số vụ vi phạm luật bầu cử trong năm nay có thể sẽ tăng mạnh. Trong cuộc bầu cử năm 2022, nước này ghi nhận hơn 2.000 trường hợp vi phạm, mức cao nhất kể từ năm 2000, trong đó hơn 40% liên quan đến hành vi phát tán thông tin sai lệch về các ứng cử viên hoặc gia đình của họ. Các công tố viên lo ngại rằng, với sự phổ biến của công nghệ deepfake, con số này có thể gia tăng trong cuộc bầu cử năm nay.

Để ứng phó, Ủy ban Bầu cử quốc gia và cảnh sát Hàn Quốc đã nâng cao mức cảnh giác. Lực lượng cảnh sát đã thành lập các đội điều tra tại 278 khu vực bỏ phiếu trên toàn quốc để theo dõi và xử lý các hành vi vi phạm luật bầu cử, bao gồm cả các hành vi phạm tội liên quan đến deepfake. Tuy nhiên, do quy định bắt buộc dán hình mờ lên các nội dung do AI tạo ra chỉ có hiệu lực từ năm sau, nhiều chuyên gia lo ngại rằng nỗ lực kiểm soát thông tin sai lệch trong mùa bầu cử năm nay có thể là chưa đủ và quá muộn.