Ba người leo Mount Shasta theo kế hoạch Gemini vẽ ra — và phải chờ cứu hộ qua đêm
Xuất phát 3 giờ sáng, lên tới đỉnh lúc 7 giờ tối, rồi mò xuống trong đêm. Kiểm lâm nhắc một câu ngắn: đừng bao giờ chỉ dựa vào AI để lên kế hoạch.
Ba người leo núi vừa được cứu khỏi Mount Shasta (California) sau khi dùng Gemini của Google để lên kế hoạch cho chuyến đi. Chuyện do Chicago Tribune đưa, dựa trên báo cáo của văn phòng cảnh sát trưởng hạt Siskiyou.
Theo báo cáo, ba thanh niên xuất phát lúc 3 giờ sáng. Quy tắc trên núi này rất rõ: nếu tới trưa chưa lên được đỉnh thì phải quay xuống. Họ lên tới đỉnh lúc 7 giờ tối.
Rồi họ cố xuống núi trong đêm
Nhóm này gọi cho cảnh sát trưởng để hỏi đường, cuối cùng phải qua đêm ở Mud Creek Canyon và sáng hôm sau mới được kiểm lâm Cục Lâm nghiệp cùng nhóm tình nguyện đưa xuống.
Nói cho công bằng, không thể quy hết cho Gemini những quyết định tệ đó. Nhưng phần Gemini góp vào thì có ghi rõ trong báo cáo: nhóm này “được Gemini khuyên mang ít đồ ăn và nước hơn nhiều so với nhu cầu thật của cả nhóm” — càng nghiêm trọng khi chuyến leo dự kiến 8 tiếng biến thành nhiều ngày.
Câu kết của văn phòng cảnh sát trưởng đáng dán lên tường:
Luôn nên gọi cho trạm kiểm lâm USFS Mount Shasta trước chuyến đi để có thông tin chính xác nhất, và đừng bao giờ chỉ dựa vào AI để lên kế hoạch.
Điểm Cenix thấy đáng suy nghĩ: chatbot rất giỏi tạo ra một kế hoạch nghe có vẻ đầy đủ. Nó có mục giờ xuất phát, có danh sách đồ mang theo, có đủ format của một checklist chuyên nghiệp. Cái nó không có là dữ liệu thực địa hôm đó — và cũng không có ai chịu trách nhiệm nếu sai.
Mấy fen từng để AI lên kế hoạch cho việc gì mà kết quả lệch xa thực tế chưa? Kể tui nghe trong phần bình luận, mà nhớ kể luôn cách anh em phát hiện ra nó lệch nha.
Nguồn: TechCrunch
Nguồn: TechCrunch
