Meta Muse บนแมคชวนกังวลเรื่องความเป็นส่วนตัว แต่ปัญหาอาจมาจาก 'ความไม่รู้ของตัวมันเอง'

Meta เปิดตัว Muse ผู้ช่วย AI ที่ทำงานได้ค่อนข้างฉลาดและเชื่อมต่อกับแอปบน Mac อย่าง Messages, Calendar และ Notes แต่วงการเริ่มไม่สบายใจเมื่อมีบทสนทนาหนึ่งที่ Muse อธิบายว่าเห็น "notification previews" ของข้อความบน Mac แม้ว่าผู้ใช้จะบอกว่าไม่ได้ให้สิทธิ์การเข้าถึงข้อความก็ตาม เหตุการณ์นี้ชี้ปัญหาสำคัญสองด้านคือ ความเป็นส่วนตัวของข้อมูลผู้ใช้ และความสามารถของโมเดล AI ในการอธิบายการทำงานของตัวเองอย่างถูกต้อง

บทสนทนาและคำตอบที่ขัดแย้ง

Jason Aten บรรณาธิการผู้โพสต์ภาพหน้าจอบน Threads แสดงบทสนทนากับ Muse ที่ถามเกี่ยวกับข้อความใน Messages แต่ Aten ระบุว่าเขาไม่ได้ให้สิทธิ์สำหรับข้อความ เมื่อ Aten ถาม Muse ว่ามันรู้เนื้อความได้อย่างไร Muse ตอบว่า มันเห็นเฉพาะ notification previews ไม่ใช่ประวัติการสนทนา และยังบอกด้วยว่าไม่ได้อ่านข้อความของผู้ใช้ แต่เมื่อถูกกดรายละเอียดเกี่ยวกับวิธีรับพรีวิวข้อความ Muse กลับตอบไม่ได้ชัดเจนว่าใช้กลไกใด โดยบอกว่า "ผมให้คำตอบที่ตรงไปตรงมาไม่ได้เกี่ยวกับ plumbing" ซึ่งทำให้ผู้ใช้เกิดความกังวล

คำชี้แจงจาก Meta และปัญหาที่แท้จริง

David Singleton จาก Meta Superintelligence Labs เข้ามาชี้แจงในเธรด โดยไล่สิทธิ์ต่างๆ ที่ Muse ต้องการถ้าต้องอ่านข้อความ ซึ่งรวมถึงการให้สิทธิ์ Full Disk Access กับแอป Mac และยืนยันว่าฟีเจอร์เหล่านี้เป็นแบบ opt-in หรือผู้ใช้ต้องกดอนุญาตเอง เขาย้ำว่า Muse ไม่ได้เฝ้าดูการแจ้งเตือนบน Mac โดยตรง แต่จะซิงก์ข้อมูลจาก Messages ก็ต่อเมื่อผู้ใช้เปิดสิทธิ์ไว้ อย่างไรก็ดี Singleton ก็ยอมรับว่าข้อความตอบกลับของ Muse ในกรณีนี้ไม่ถูกต้อง และทีมกำลังปรับปรุงให้ Muse เข้าใจระบบภายในตัวเองดีขึ้นเพื่อให้ตอบคำถามเกี่ยวกับการทำงานได้สอดคล้องกันมากขึ้น

ความเสี่ยงเชิงความเชื่อถือและวิธีรับมือ

กรณีนี้สะท้อนปัญหาที่ใหญ่กว่าเรื่องเทคนิค - คือความสามารถของโมเดลแชทบอทที่จะให้คำตอบมั่นใจแต่ไม่ถูกต้อง หรือให้คำอธิบายที่ทำให้ผู้ใช้สับสน ส่งผลเสียต่อความไว้วางใจและความเป็นส่วนตัวของข้อมูลผู้ใช้ นักพัฒนาและทีมรักษาความปลอดภัยควรตระหนักว่าฟังก์ชัน opt-in และการจัดการสิทธิ์เป็นหัวใจสำคัญเมื่อนำ AI มารวมกับแอปที่มีข้อมูลส่วนตัวสูง

• ตรวจสอบสิทธิ์แอปบน macOS และนโยบายการซิงก์ข้อมูลอย่างสม่ำเสมอ
• ทดสอบคำตอบของ AI ในเรื่องการอธิบายการทำงานภายใน เพื่อหลีกเลี่ยงคำอธิบายที่ทำให้ผู้ใช้เข้าใจผิด
• ออกแบบ UX แจ้งชัดเจนเมื่อแอปจะเข้าถึง notification หรือข้อมูลส่วนตัว

สรุปคือ เหตุการณ์ Muse ทำให้เรื่องความโปร่งใสของระบบ AI และการจัดการสิทธิ์บนอุปกรณ์เดสก์ท็อปถูกหยิบขึ้นมาพิจารณาอีกครั้ง Meta รับทราบปัญหาและกำลังปรับปรุง แต่บทเรียนสำหรับคนทำงานสายไอทีคือการทดสอบอย่างเข้มงวดทั้งฝั่งสิทธิ์และการตอบคำถามของโมเดลก่อนนำขึ้นระบบจริง เพื่อรักษาความเชื่อมั่นของผู้ใช้และป้องกันความเข้าใจผิดเกี่ยวกับการเข้าถึงข้อมูลส่วนตัว

ที่มา: The Verge - เรียบเรียงและสรุปเป็นภาษาไทยโดยทีมงาน IT Genius