Biện pháp kiểm soát mới trên bao gồm cả tùy chọn tắt các cuộc trò chuyện riêng với nhân vật AI. Tuy nhiên, theo Meta, các bậc phụ huynh sẽ không thể vô hiệu hóa hoàn toàn trợ lý AI, vì công cụ này được thiết kế để “cung cấp thông tin hữu ích và cơ hội học tập phù hợp với lứa tuổi, cùng các biện pháp bảo vệ mặc định nhằm bảo đảm an toàn cho thanh thiếu niên”.

Ngoài ra, phụ huynh sẽ có thể xem “thông tin tổng quan” về nội dung con mình trao đổi với chatbot, song không được truy cập toàn bộ lịch sử trò chuyện.

Các biện pháp mới được đưa ra trong bối cảnh Meta đối mặt chỉ trích kéo dài về tác động tiêu cực của mạng xã hội đối với trẻ em, cũng như lo ngại về việc chatbot AI ảnh hưởng đến tâm lý trẻ vị thành niên, khi một số vụ kiện cáo buộc những tương tác này đã góp phần dẫn đến hành vi tự tử.

Một khảo sát của tổ chức phi lợi nhuận Common Sense Media cho thấy hơn 70% số thanh thiếu niên từng coi AI là bạn đồng hành và 50% trong số này sử dụng AI thường xuyên.

Trước đó, ngày 14/10, Meta cũng thông báo rằng tài khoản người dùng ở độ tuổi thiếu niên trên Instagram sẽ được mặc định giới hạn ở mức nội dung tương đương phim hạng PG-13 (dành cho người dưới 13 tuổi), và không thể thay đổi cài đặt này nếu không có sự đồng ý của phụ huynh. Quy định này cũng sẽ áp dụng cho các cuộc trò chuyện với AI.

Tuy nhiên, một số tổ chức bảo vệ trẻ em cho rằng các biện pháp trên mang tính đối phó hơn là cải cách thực chất. Ông Josh Golin - Giám đốc điều hành tổ chức Fairplay - nhận định: “Những thông báo này chủ yếu nhằm ngăn chặn các đạo luật siết chặt quản lý Meta và trấn an các bậc cha mẹ đang lo ngại về những gì con cái họ tiếp xúc trên Instagram”.