Khung rà soát an toàn trước khi phát hành
Theo HuggingNews, ông Demis Hassabis — CEO Google DeepMind — phác thảo khung cho một cơ quan tiêu chuẩn tại Mỹ, yêu cầu nhà phát triển nộp các mô hình AI tiên phong (frontier) để rà soát an toàn tới 30 ngày trước khi thương mại hóa.
Cơ chế vận hành
Cơ quan giám sát này sẽ đặt ra ngưỡng năng lực để phân loại hệ thống thuộc nhóm "frontier", và có thể yêu cầu làm chậm quá trình phát triển nếu mô hình bị đánh giá là rủi ro không thể chấp nhận. Mô hình tham chiếu là FINRA — cơ quan quản lý ngành tài chính Mỹ. Chương trình dự kiến khởi đầu trên cơ sở tự nguyện, sau đó chuyển thành bắt buộc với các công ty bán hệ thống frontier tại thị trường Mỹ.
Được giới công nghệ ủng hộ
Đề xuất nhận được sự ủng hộ từ các lãnh đạo ngành, trong đó có bài đăng của CEO Microsoft Satya Nadella. Bối cảnh là những dự báo cho rằng trí tuệ nhân tạo tổng quát (AGI) có thể xuất hiện chỉ trong vài năm tới.
Tổng hợp theo HuggingNews. Nội dung mang tính thông tin.