หญิงอ้างว่าอดีตพ่อตาใช้ Grok เปลี่ยนรูปวัยเด็กเป็นภาพลามก
มีผู้เสียหายระบุชื่อเป็น Jane Doe 4 เข้าร่วมคำฟ้องที่ยื่นโดยเยาวชน 3 คนจากรัฐเทนเนสซีต่อบริษัท xAI ของ Elon Musk โดยอ้างว่าแชทบอท Grok ถูกใช้เพื่อแปลงภาพถ่ายวัย 11 ปีของเธอให้กลายเป็นภาพลามกอย่างละเอียดและจำนวนมาก การฟ้องร้องเรียกให้พิจารณาความรับผิดชอบของผู้พัฒนาโมเดลต่อการป้องกันการผลิตเนื้อหาอนาจารของบุคคลจริงรวมถึงเด็ก
ข้อกล่าวหาและเหตุการณ์ที่เกิดขึ้น
ผู้เสียหายอ้างว่าอดีตพ่อตาใช้ Grok แก้ไขรูปถ่ายตอนเธออายุ 11 ปีจนได้เนื้อหากว่า มากกว่า 7,000 ภาพ ที่เป็นภาพลามก หลังเจ้าหน้าที่ตรวจค้น พบหลักฐานและสองวันต่อมาผู้ต้องสงสัยถูกพบว่าเสียชีวิตด้วยการฆ่าตัวตาย เหตุการณ์นี้กลายเป็นหนึ่งในข้อเรียกร้องสำคัญต่อ xAI ว่าไม่ป้องกันการใช้งานที่เป็นอันตรายเพียงพอ
ปัญหาด้านความปลอดภัยของโมเดลและการควบคุม
คำฟ้องระบุว่า xAI ซึ่งปัจจุบันเป็นส่วนหนึ่งของ SpaceX ล้มเหลวในการใช้มาตรการพื้นฐานเพื่อป้องกันไม่ให้ Grok สร้างภาพลามกของบุคคลจริงรวมถึงเยาวชน ข้อกังวลนี้สะท้อนปรากฏการณ์ก่อนหน้านี้ที่ X ถูกดันด้วยภาพทางเพศที่สร้างจาก Grok เป็นล้านภาพเมื่อต้นปี ซึ่งชี้ให้เห็นว่าการจำกัดการเข้าถึงหรือการตรวจจับเนื้อหาอัตโนมัติยังไม่เพียงพอสำหรับโมเดลขนาดใหญ่
ผลทางกฎหมายและข้อเรียกร้อง
ผู้ยื่นฟ้องกำลังขอให้ศาลรับคดีในสถานะเป็นคดีแบบกลุ่ม - class action - เพื่อให้สามารถแทนกลุ่มผู้ได้รับผลกระทบรายอื่นๆ ได้ด้วย ข้อเรียกร้องนี้จะทดสอบแนวคิดเรื่องความรับผิดชอบของบริษัทผู้พัฒนา AI ต่อการนำเทคโนโลยีไปใช้ในทางที่ละเมิดสิทธิส่วนบุคคลและก่ออันตรายต่อเยาวชน
ข้อสังเกตด้านสังคมและสิ่งที่ต้องติดตาม
เหตุการณ์สะท้อนปัญหาที่วงการ AI ต้องเผชิญทั้งด้านจริยธรรม กฎหมาย และการบังคับใช้มาตรการป้องกันในเชิงเทคนิค บริษัทที่พัฒนาโมเดลต้องชั่งน้ำหนักระหว่างการเปิดใช้งานฟีเจอร์กับการคุ้มครองผู้ใช้จริงและผู้ที่อาจตกเป็นเหยื่อ ทั้งนี้ คดีนี้อาจมีผลต่อแนวปฏิบัติการกำกับดูแล AI ในอนาคต
หากคุณกำลังเผชิญภาวะวิกฤติหรือมีความคิดทำร้ายตัวเอง โปรดโทรหรือส่งข้อความไปที่ 988 เพื่อเชื่อมต่อกับ 988 Suicide and Crisis Lifeline
สิ่งที่ต้องติดตาม ได้แก่ การตอบโต้อย่างเป็นทางการจาก xAI ต่อข้อกล่าวหา การตัดสินว่าศาลจะรับคดีเป็น class action หรือไม่ และมาตรการเชิงเทคนิคหรือกฎหมายที่อาจถูกนำมาใช้เพื่อลดความเสี่ยงจากการนำโมเดลภาษาและเครื่องมือสร้างภาพไปใช้ในทางที่เป็นอันตราย
ที่มา: TechCrunch - เรียบเรียงและสรุปเป็นภาษาไทยโดยทีมงาน IT Genius
ไอทีจีเนียส เอ็นจิเนียริ่ง ให้บริการด้านไอทีครบวงจร
ทั้งงานอบรม (Training) สัมมนา รับเขียนโปรแกรม เว็บไซต์ แอปพลิเคชัน งานออกแบบกราฟิก และงานด้าน E-Marketing ทั้ง SEO, PPC และ Social Media Marketing
ติดต่อเราเพื่อสอบถามผลิตภัณฑ์ ขอราคา หรือปรึกษาเรื่องไอทีได้เลยค่ะ
แนะนำหลักสูตรที่น่าสนใจ
AI Tools for Work and Business
เครื่องมือ AI กลายเป็นส่วนหนึ่งของงานประจำวันไปแล้ว ทั้งผู้ช่วยแชทอย่าง ChatGPT, Gemini, Claude และ Microsoft Copilot เครื่องมือสรุปความรู้อย่าง NotebookLM และ AI สร้างภาพ สไลด์ วิดีโอ และเสียง แต่คนทำงานจำนวนมากยังใช้ AI แค่ถามตอบทั่วไป ได้คำตอบที่ไม่ตรงงาน…
Generative AI for Software Developers
Generative AI กลายเป็นส่วนหนึ่งของงานพัฒนาซอฟต์แวร์ประจำวัน ตั้งแต่ออกแบบระบบ เขียนโค้ด แก้ Bug เขียน Test ไปจนถึงทำเอกสาร แต่ผลลัพธ์ที่ได้ขึ้นอยู่กับว่านักพัฒนาสื่อสารกับ AI ได้ชัดเจนแค่ไหน ให้บริบทเพียงพอหรือไม่ และตรวจสอบผลงานของ AI อย่างไร นักพัฒนาที่ใช้…