นักปีนเขาได้รับการช่วยเหลือหลังใช้ Google Gemini วางแผนการเดินทางบน Mount Shasta

ย่อหน้านำ นักปีนเขาจำนวน 3 คนถูกช่วยเหลือจากภูเขา Mount Shasta ในรัฐแคลิฟอร์เนีย หลังจากใช้แชตบอท AI ของ Google ชื่อ Gemini ในการวางแผนการเดินทาง รายงานจากสำนักงานนายอำเภอของเขต Siskiyou ระบุว่าการพึ่งพาคำแนะนำจาก AI อาจทำให้เตรียมสิ่งจำเป็นไม่เพียงพอและตัดสินใจเสี่ยงจนต้องขอความช่วยเหลือ

เรื่องเกิดขึ้นอย่างไร

Siskiyou County sheriff's office ระบุว่านักปีนเขากลุ่มนี้เริ่มออกเดินทางเวลา 3am และแม้จะมีคำแนะนำทั่วไปให้เลี้ยวกลับหากยังไม่ถึงยอดก่อน noon พวกเขากลับขึ้นไปถึงยอดได้จริงที่ 7pm จากนั้นพยายามลงเขาในความมืด ก่อนจะโทรศัพท์ติดต่อสำนักงานนายอำเภอเพื่อขอทิศทาง และใช้เวลาคืนหนึ่งอยู่ในพื้นที่ Mud Creek Canyon ก่อนที่จะได้รับการช่วยเหลือจาก Forest Service rangers และอาสาสมัครในเช้าวันถัดมา

ปัญหาที่พบกับคำแนะนำของ AI

สำนักงานนายอำเภอระบุว่า Gemini ให้คำแนะนำเรื่องปริมาณอาหารและน้ำที่น้อยกว่าความจำเป็นของกลุ่ม โดยเฉพาะเมื่อการเดินทางที่คาดว่าจะใช้เวลาประมาณ 8 hours กลับยืดออกเป็นหลายวัน เหตุการณ์นี้ชี้ให้เห็นจุดอ่อนสำคัญในการนำ AI มาใช้วางแผนกิจกรรมที่มีความเสี่ยง - โมเดลอาจให้คำแนะนำที่ไม่ครอบคลุมบริบท หรือไม่ประเมินปัจจัยฉุกเฉินและความไม่แน่นอนได้เพียงพอ

ข้อควรระวังเมื่อใช้ AI เพื่อวางแผนการเดินทาง

เหตุการณ์นี้เตือนให้เห็นว่าการใช้ AI ควรเป็นเพียงส่วนหนึ่งของการเตรียมตัว ไม่ควรพึ่งพาเพียงแหล่งเดียว โดยข้อแนะนำพื้นฐานได้แก่

• โทรหรือเช็กข้อมูลกับหน่วยงานท้องถิ่น เช่น USFS Mount Shasta ranger station เพื่อรับข้อมูลที่เป็นปัจจุบัน
• เตรียมอาหารและน้ำสำรองเผื่อเหตุการณ์ยืดเยื้อ และมีแผนสำรองหากสภาพอากาศเปลี่ยนแปลง
• ใช้ AI เพื่อประกอบการตัดสินใจ แต่ตรวจสอบข้ามแหล่งข้อมูลและคำนึงถึงความไม่แน่นอน

ผลกระทบต่อการออกแบบและการพัฒนา AI

สำหรับชุมชนนักพัฒนาและคนทำงานด้าน AI เหตุการณ์ดังกล่าวเป็นสัญญาณเตือนเรื่องความรับผิดชอบของระบบ - ทั้งด้านการออกแบบ UI ที่เตือนผู้ใช้อย่างชัดเจน การระบุความเชื่อมั่นของคำตอบ และการให้คำแนะนำเพื่อการยืนยันข้อมูลจากแหล่งภายนอก นอกจากนี้ยังเป็นกรณีตัวอย่างที่เน้นความสำคัญของการทดสอบโมเดลในสถานการณ์เสี่ยง และการออกแบบระบบเตือนเมื่อความไม่แน่นอนสูง

ย่อหน้าปิด เหตุการณ์นักปีนเขาที่พึ่งพา Google Gemini บน Mount Shasta เป็นการเตือนชัดเจนว่า AI แม้จะมีประโยชน์ แต่ยังมีข้อจำกัดในบริบทความเสี่ยงสูง ผู้ใช้ควรตรวจสอบข้อมูลจากหน่วยงานท้องถิ่นและเตรียมแผนสำรอง ส่วนคนทำงานด้านเทคโนโลยีควรผลักดันการออกแบบระบบที่แสดงความไม่แน่นอน และเพิ่มเครื่องมือสำหรับการยืนยันข้อมูลในโลกจริง เราควรติดตามว่าผู้พัฒนา AI และหน่วยงานกำกับจะมีแนวทางใดมารองรับการใช้งานในสถานการณ์เช่นนี้ต่อไป

ที่มา: TechCrunch - เรียบเรียงและสรุปเป็นภาษาไทยโดยทีมงาน IT Genius