Malaysia đã tạm thời đình chỉ quyền truy cập chatbot Grok - công cụ trí tuệ nhân tạo (AI) do công ty xAI - thuộc tập đoàn X Corp. của tỷ phú Elon Musk - phát triển, sau khi phát hiện nền tảng này liên tục bị lạm dụng để tạo ra hình ảnh khiêu dâm, phản cảm và vi phạm quyền cá nhân, đặc biệt liên quan đến phụ nữ và trẻ vị thành niên.

Trong thông báo ngày 11/1, Ủy ban Truyền thông và Đa phương tiện Malaysia (MCMC) cho biết đã ra lệnh hạn chế truy cập Grok ngay lập tức đối với người dùng trong nước, sau nhiều lần cảnh báo nhưng không nhận được biện pháp khắc phục thỏa đáng từ phía X Corp. và xAI.

Theo cơ quan quản lý, Grok – vốn được tích hợp trực tiếp vào mạng xã hội X – đã bị lợi dụng để tạo ra các hình ảnh khiêu dâm, mang tính xúc phạm, thô tục và thao túng không có sự đồng thuận, chỉ thông qua những câu lệnh văn bản đơn giản. MCMC nhấn mạnh: “Nội dung vi phạm liên quan tới hình ảnh phụ nữ và trẻ em, bất chấp việc chúng tôi đã nhiều lần làm việc với nhà cung cấp và gửi thông báo chính thức”.

Theo MCMC, các biện pháp bảo vệ của Grok bị đánh giá là không đầy đủ, khi nền tảng này chủ yếu dựa vào cơ chế người dùng tự báo cáo, thay vì kiểm soát rủi ro ngay từ thiết kế và vận hành.

Thông báo của MCMC nêu rõ: “X Corp. đã không xử lý triệt để những rủi ro cố hữu xuất phát từ cách thức hoạt động của công cụ AI này”.

Malaysia cũng cho biết sẽ chỉ xem xét khôi phục quyền truy cập sau khi xAI chứng minh được rằng các biện pháp bảo vệ mới đã được triển khai và kiểm chứng hiệu quả.

Quyết định của Malaysia được đưa ra trong bối cảnh làn sóng phản ứng toàn cầu nhằm vào Grok bùng lên mạnh mẽ, sau khi công cụ tạo ảnh của chatbot này bị phát hiện cho phép tình dục hóa hình ảnh phụ nữ và trẻ em, làm dấy lên lo ngại nghiêm trọng về deepfake (những hình ảnh giả mạo) khiêu dâm do AI tạo ra.

Trước khi Malaysia đưa ra tuyên bố trên, Indonesia đã trở thành quốc gia đầu tiên cấm hoàn toàn Grok, trong khi tại nhiều thị trường khác, công cụ này chỉ còn hoạt động ở quy mô người dùng trả phí.

Theo giới chức châu Âu và các tổ chức vận động công nghệ, việc chuyển tính năng tạo ảnh sang mô hình thu phí – một chính sách thương mại mới được Grok công bố trên X ngày 9/1 – không thể giải quyết tận gốc vấn đề.