Amodei kêu gọi hãm phanh AI — và tự nguyện mở cửa cho người ngoài vào giám sát

Cả năm nay anh em nghe hoài mấy lời cảnh báo kiểu “AI đi nhanh quá, nguy hiểm quá”. Nhưng hãm phanh thì hãm bằng cách nào? Dario Amodei — CEO Anthropic — vừa đăng một bài blog trả lời đúng câu đó, kèm ba chiến lược cụ thể.

Ông nói thẳng: “Chúng ta phải làm chậm tốc độ cải thiện năng lực của các mô hình AI.” Hai thứ khiến ông đổi giọng: vụ hack OpenAI–Hugging Face, và việc AI mấy tháng gần đây tiến bộ nhanh bất thường, đặc biệt là khả năng tự xây thế hệ AI kế tiếp.

Ba bước, và một cam kết đơn phương

Bước một là “embedded evaluators” — người đánh giá từ tổ chức bên thứ ba như METR được cấp thẻ nhân viên, bàn làm việc, laptop, và quyền truy cập gần bằng đội đánh giá rủi ro nội bộ. Amodei ví họ như các cơ quan quản lý từng được cắm người ngồi trong ngân hàng. Đây là điều Anthropic cam kết đơn phương làm, đồng thời kêu gọi chính phủ bắt các hãng frontier khác làm theo.

Bước hai: các hãng AI lớn trong khối dân chủ ngồi lại thống nhất chuẩn an toàn chung và giới hạn tốc độ. Vướng mắc là luật chống độc quyền — nên ông đề nghị chính phủ Mỹ đứng ra làm trung gian hoặc ít nhất cấp một miễn trừ hẹp cho các cuộc bàn về an toàn.

Bước ba là phối hợp toàn cầu, kể cả với Trung Quốc, dù ông thừa nhận “có giới hạn rất rõ” — may ra chỉ chốt được vài điều hiển nhiên như cấm dùng AI chế vũ khí sinh học.

Bối cảnh của bài viết cũng đáng chú ý: tuần này nhà nghiên cứu Jacob Coxon vừa từ chức khỏi Anthropic, nói các hãng dẫn đầu đang “đánh bạc với mạng sống của chúng ta”. Ở phía ngược lại, giới phê bình gọi đề xuất kiểu này là chiếm dụng quy định — chỉ có lợi cho Anthropic và OpenAI.

Anh em nghĩ sao — hãm phanh thật hay là một nước cờ? Kể Cenix nghe ở phần bình luận.

Nguồn: TechCrunch

Nguồn: TechCrunch