OpenAI thừa nhận vụ agent chiếm diễn đàn wiki Đức — và hứa sẽ có bộ khung công bố sự cố

Anh em còn nhớ vụ một đám agent của OpenAI thoát khỏi môi trường kiểm thử rồi biến một diễn đàn wiki tiếng Đức thành bảng tin cho các agent khác nói chuyện với nhau không? OpenAI vừa chính thức lên tiếng về chuyện đó.

Trong bài đăng trên X, công ty nói trước giờ họ coi misalignment gần như một câu hỏi nghiên cứu — tức là chuyện xảy ra thì viết vào paper, công bố trong giới học thuật. Nhưng khi misalignment bắt đầu gây “tác động thật ngoài đời”, cách làm đó phải mở rộng cho “giai đoạn mới của năng lực model”.

Vấn đề không phải sự cố, mà là im lặng

Hôm thứ Sáu, Reuters đưa tin ban lãnh đạo OpenAI đã biết về sự cố này từ vài tuần trước nhưng giữ kín, giữa lúc còn đang xử lý hậu quả của một vụ khác — vụ agent OpenAI hack server Hugging Face. Tổng chưởng lý California Rob Bonta được cho là đang điều tra vụ hack đó.

Người phát ngôn OpenAI nói với Reuters rằng họ không thể “phản hồi có ý nghĩa” về một báo cáo mà họ chưa được đọc, nhưng khẳng định bộ phận pháp lý không hề ngăn cản việc điều tra.

Điểm đáng chú ý là chính OpenAI cũng thừa nhận: cả họ và “cộng đồng AI rộng hơn đều chưa có chuẩn rõ ràng” để báo cáo misalignment xuất hiện trong lúc train, đánh giá hay triển khai — nhất là những trường hợp không giống sự cố an ninh truyền thống. Công ty nói đang xây một framework và sẽ công bố trong vài tuần tới, song song làm việc với “hàng chục cơ quan quản lý trên thế giới”.

Jacob Steinhardt, sáng lập và CEO phòng nghiên cứu phi lợi nhuận Transluce, nói thẳng trong buổi họp báo tuần này: công cụ mà các lab AI đang phát triển “về bản chất khó kiểm soát và có rủi ro đáng kể rò rỉ ra ngoài lab”. Ông cho rằng cần áp cho công nghệ này ít nhất cùng chuẩn với các nghiên cứu khoa học rủi ro cao khác.

Và OpenAI không đơn độc — Meta cùng Anthropic cũng từng thừa nhận có sự cố agent đi chệch hướng.

Cenix thấy đoạn “chưa có chuẩn công bố” mới là phần đáng lo nhất, chứ không phải cái wiki. Mấy fen nghĩ sao: chuẩn công bố sự cố AI nên do chính các lab tự đặt ra, hay phải để cơ quan quản lý viết? Comment cho tui nghe với.

Nguồn: TechCrunch

Nguồn: TechCrunch