Đây là tiêu chuẩn quốc tế đầu tiên dành cho việc kiểm thử các hệ thống AI tạo sinh.

 

Theo phóng viên TTXVN tại Singapore, tiêu chuẩn ISO/IEC 42119-8 mới của Singapore tập trung vào các phương pháp đánh giá hiệu suất và kiểm thử phản biện (red teaming) cho hệ thống AI tạo sinh với các phương pháp kiểm thử tiêu chuẩn hóa.

Tiêu chuẩn thiết lập một khuôn khổ quan trọng cho việc kiểm thử AI, giúp tăng cường khả năng tái tạo và so sánh kết quả, từ đó thúc đẩy sự đảm bảo và niềm tin vào các hệ thống AI và cho phép các nhà triển khai và người dùng AI áp dụng an toàn hơn, đáng tin cậy hơn.

Tiêu chuẩn ISO/IEC 42119-8 được xây dựng dựa trên những thành quả của Cơ quan Phát triển Truyền thông Thông tin (IMDA) trong việc phát triển các khung thử nghiệm trong nước, bao gồm Bộ công cụ kiểm chứng AI và Bộ công cụ khởi đầu để thử nghiệm các ứng dụng dựa trên Mô hình ngôn ngữ lớn (LLM) về an toàn và độ tin cậy, cũng như trong lĩnh vực đảm bảo chất lượng AI mới nổi thông qua Hộp cát đảm bảo chất lượng AI toàn cầu.

Đây là một phần trong cam kết rộng lớn hơn của Singapore đối với các tiêu chuẩn AI quốc tế, như đã thấy trong chương trình quốc gia áp dụng và công nhận tiêu chuẩn ISO/IEC 42001, do EnterpriseSG dẫn đầu và sự đóng góp của các trường hợp sử dụng thực tế để hỗ trợ tài liệu của ISO/IEC TR 24030 về các ứng dụng AI trong thực tiễn.

Những nỗ lực này đặt nền tảng cho việc AI được xây dựng và triển khai một cách đáng tin cậy cho cả cá nhân và doanh nghiệp.

Đề xuất trên sẽ được thảo luận tại phiên họp quốc tế lần thứ 17 của Tiểu ban kỹ thuật số 42 thuộc Ủy ban kỹ thuật hỗn hợp ISO/IEC JTC 1 (một tổ chức chung giữa hai cơ quan tiêu chuẩn hóa quốc tế lớn là ISO và IEC), diễn ra tại Singapore từ ngày 20-24/4. Được đồng tổ chức bởi IMDA và Enterprise Singapore (EnterpriseSG), và lần đầu tiên được tổ chức tại khu vực Hiệp hội Các quốc gia Đông Nam Á (ASEAN), phiên họp toàn thể hai năm một lần này quy tụ hơn 35 cơ quan quốc gia và hơn 250 chuyên gia AI từ khắp nơi trên thế giới, bao gồm Mỹ, Anh, Trung Quốc, Nhật Bản, Đức, Pháp và Hàn Quốc.

Bên lề phiên họp, IMDA và EnterpriseSG cũng tổ chức một loạt sáng kiến xây dựng năng lực, như Hội thảo Đào tạo nền tảng toàn diện, được tổ chức với sự hợp tác của Viện Tiêu chuẩn quốc gia Mỹ (ANSI) nhằm tăng cường năng lực tiêu chuẩn AI của các quốc gia thành viên ASEAN; Hội thảo về Tiêu chuẩn và Chính sách AI, hội thảo toàn cầu lần thứ 3 do ISO tổ chức, hướng đến các cơ quan tiêu chuẩn quốc gia và các nhà hoạch định chính sách AI từ 15 quốc gia…