Động thái này diễn ra chỉ vài tuần sau khi một loạt nhân sự chủ chốt của OpenAI bất ngờ rời khỏi công ty, làm dấy lên những hoài nghi về cam kết của công ty này đối với việc giảm thiểu những nguy cơ từ AI.

OpenAI cho biết ủy ban mới được thành lập nhằm giám sát các vấn đề an toàn của AI, trong bối cảnh công ty này bắt đầu đào tạo một mô hình AI mới sau sự thành công của GPT-4, công nghệ cốt lõi của ChatGPT.

Ủy ban này, trong đó có các thành viên hội đồng quản trị và Giám đốc điều hành (CEO) Sam Altman, sẽ dành 90 ngày để đánh giá và củng cố toàn diện các quy trình xử lý và quản trị rủi ro xung quanh việc phát triển AI tiên tiến.

Công ty cũng sẽ tham vấn các chuyên gia bên ngoài trong giai đoạn xem xét này, trong đó có ông Rob Joyce, cựu Giám đốc phụ trách an ninh mạng của Cơ quan An ninh quốc gia Mỹ (NSA), và ông John Carlin, cựu quan chức cấp cao của Bộ Tư pháp Mỹ.

Trong thời gian 90 ngày, ủy ban trên sẽ xem xét kỹ lưỡng các quy định, biện pháp hiện tại của Open AI vốn được thiết kế để đảm bảo rằng AI được phát triển và ứng dụng một cách an toàn và đáng tin cậy, từ đó đưa ra các khuyến nghị để cải thiện và bổ sung.

Khi kết thúc 90 ngày, ủy ban sẽ chia sẻ các khuyến nghị của họ với toàn thể hội đồng quản trị trước khi công bố rộng rãi.

Việc ông Jan Leike, Giám đốc phụ trách vấn đề an toàn của OpenAI, mới đây bất ngờ tuyên bố rời khỏi công ty này đã gây xôn xao dư luận bởi vai trò quan trọng của ông trong dự án kiểm soát siêu trí tuệ AI tại công ty này.

Trước đó không lâu, ông Ilya Sutskever, đồng sáng lập OpenAI và cũng là nhà khoa học trưởng của công ty này, cũng rời đi

. Cả hai nhân vật này từng dẫn dắt nhóm "superalignment" - một dự án đầy tham vọng nhằm đảm bảo rằng AI siêu việt, với trí thông minh vượt trội con người, sẽ luôn hành động theo ý muốn của con người. OpenAI đã đầu tư 20% nguồn lực tính toán của mình cho dự án này với mục tiêu tìm ra giải pháp kiểm soát AI trong vòng 4 năm.

Việc thành lập Ủy ban An toàn và Bảo mật AI phản ánh sự chú trọng nhiều hơn của OpenAI vào mức độ an toàn của mô hình trí tuệ nhân tạo. Hiện tại, OpenAI đặt mục tiêu đi trước các đối thủ trong phát triển công nghệ AI. Đồng thời, công ty cũng mong muốn loại bỏ sự lo lắng của công chúng khi AI bị đánh giá ẩn chứa nhiều mối nguy hiểm như phát tán thông tin sai lệch, thay thế việc làm và thậm chí đe dọa sự an toàn của nhân loại.

Ông Sam Altman, đã lên tiếng khẳng định công nghệ AI của công ty an toàn để sử dụng phổ biến, giữa lúc có nhiều lo ngại về rủi ro tiềm ẩn và thiếu các biện pháp bảo vệ thích hợp cho các hệ thống AI kiểu ChatGPT.

Theo ông Altman, công ty biết điều hiển nhiên là mô hình ngôn ngữ GPT-4 không hoàn hảo, nhưng nó được đánh giá đủ mạnh mẽ và đủ an toàn cho nhiều mục đích sử dụng khác nhau. CEO Altman nhấn mạnh rằng OpenAI đã thực hiện "một khối lượng công việc khổng lồ" để đảm bảo tính an toàn cho các mô hình của họ.

Tuy nhiên, các câu hỏi về cam kết của OpenAI lại xuất hiện vào tuần trước khi công ty giải thể một nhóm chuyên phụ trách giảm thiểu những mối nguy hiểm lâu dài của AI.

Khi tuyên bố rời đi trong một loạt bài đăng trên nền tảng X (trước đây là Twitter), đồng trưởng nhóm Jan Leike đã chỉ trích OpenAI vì đã ưu tiên các sản phẩm mới hơn là vấn đề an toàn. Ông bày tỏ lo ngại rằng những vấn đề về an toàn AI khá khó giải quyết và họ đang không đi đúng quỹ đạo để đạt được điều đó.

Mạng xã hội Reddit mới đây thông báo sẽ cho phép OpenAI, nhà cung cấp dịch vụ hỏi đáp trực tuyến kết hợp trí tuệ nhân tạo (AI) ChatGPT, truy cập vào kho dữ liệu của diễn đàn này để đào tạo các mô hình AI, trong đó có phần mềm ChatGPT. Phía OpenAI cũng sẽ triển khai công nghệ của hãng vào nền tảng thảo luận phổ biến này.

CEO Reddit Steven Huffman cho biết, Reddit đã trở thành một trong những kho lưu trữ mở lớn nhất trên mạng Internet, với độ xác thực cao và tính cập nhật liên tục về mọi vấn đề. Ông Huffman đánh giá việc tích hợp ChatGPT vào nền tảng này sẽ hỗ trợ việc tìm kiếm, cũng như giúp những người dùng mới tìm thấy cộng đồng của mình trên Reddit.

Cụ thể, OpenAI sẽ có quyền truy cập theo thời gian thực vào dữ liệu Reddit, cho phép nâng cao nội dung trong ChatGPT và phát triển các công cụ trên nền tảng này. OpenAI tiết lộ Giám đốc điều hành Sam Altman của công ty cũng là một cổ đông của Reddit. Cả OpenAI và Reddit đều không công bố thông tin tài chính trong thỏa thuận hợp tác giữa hai công ty.

Nguồn thu chính của Reddit hiện nay là từ quảng cáo và hãng cũng đang tìm cách tận dụng các cuộc thảo luận đa dạng trên nền tảng này để cải thiện doanh thu. Reddit cũng mới được niêm yết trên Sàn giao dịch chứng khoán New York vào tháng 3/2024.