หญิงอ้างว่าอดีตพ่อตาใช้ Grok เปลี่ยนรูปวัยเด็กเป็นภาพลามก

มีผู้เสียหายระบุชื่อเป็น Jane Doe 4 เข้าร่วมคำฟ้องที่ยื่นโดยเยาวชน 3 คนจากรัฐเทนเนสซีต่อบริษัท xAI ของ Elon Musk โดยอ้างว่าแชทบอท Grok ถูกใช้เพื่อแปลงภาพถ่ายวัย 11 ปีของเธอให้กลายเป็นภาพลามกอย่างละเอียดและจำนวนมาก การฟ้องร้องเรียกให้พิจารณาความรับผิดชอบของผู้พัฒนาโมเดลต่อการป้องกันการผลิตเนื้อหาอนาจารของบุคคลจริงรวมถึงเด็ก

ข้อกล่าวหาและเหตุการณ์ที่เกิดขึ้น

ผู้เสียหายอ้างว่าอดีตพ่อตาใช้ Grok แก้ไขรูปถ่ายตอนเธออายุ 11 ปีจนได้เนื้อหากว่า มากกว่า 7,000 ภาพ ที่เป็นภาพลามก หลังเจ้าหน้าที่ตรวจค้น พบหลักฐานและสองวันต่อมาผู้ต้องสงสัยถูกพบว่าเสียชีวิตด้วยการฆ่าตัวตาย เหตุการณ์นี้กลายเป็นหนึ่งในข้อเรียกร้องสำคัญต่อ xAI ว่าไม่ป้องกันการใช้งานที่เป็นอันตรายเพียงพอ

ปัญหาด้านความปลอดภัยของโมเดลและการควบคุม

คำฟ้องระบุว่า xAI ซึ่งปัจจุบันเป็นส่วนหนึ่งของ SpaceX ล้มเหลวในการใช้มาตรการพื้นฐานเพื่อป้องกันไม่ให้ Grok สร้างภาพลามกของบุคคลจริงรวมถึงเยาวชน ข้อกังวลนี้สะท้อนปรากฏการณ์ก่อนหน้านี้ที่ X ถูกดันด้วยภาพทางเพศที่สร้างจาก Grok เป็นล้านภาพเมื่อต้นปี ซึ่งชี้ให้เห็นว่าการจำกัดการเข้าถึงหรือการตรวจจับเนื้อหาอัตโนมัติยังไม่เพียงพอสำหรับโมเดลขนาดใหญ่

ผลทางกฎหมายและข้อเรียกร้อง

ผู้ยื่นฟ้องกำลังขอให้ศาลรับคดีในสถานะเป็นคดีแบบกลุ่ม - class action - เพื่อให้สามารถแทนกลุ่มผู้ได้รับผลกระทบรายอื่นๆ ได้ด้วย ข้อเรียกร้องนี้จะทดสอบแนวคิดเรื่องความรับผิดชอบของบริษัทผู้พัฒนา AI ต่อการนำเทคโนโลยีไปใช้ในทางที่ละเมิดสิทธิส่วนบุคคลและก่ออันตรายต่อเยาวชน

ข้อสังเกตด้านสังคมและสิ่งที่ต้องติดตาม

เหตุการณ์สะท้อนปัญหาที่วงการ AI ต้องเผชิญทั้งด้านจริยธรรม กฎหมาย และการบังคับใช้มาตรการป้องกันในเชิงเทคนิค บริษัทที่พัฒนาโมเดลต้องชั่งน้ำหนักระหว่างการเปิดใช้งานฟีเจอร์กับการคุ้มครองผู้ใช้จริงและผู้ที่อาจตกเป็นเหยื่อ ทั้งนี้ คดีนี้อาจมีผลต่อแนวปฏิบัติการกำกับดูแล AI ในอนาคต

หากคุณกำลังเผชิญภาวะวิกฤติหรือมีความคิดทำร้ายตัวเอง โปรดโทรหรือส่งข้อความไปที่ 988 เพื่อเชื่อมต่อกับ 988 Suicide and Crisis Lifeline

สิ่งที่ต้องติดตาม ได้แก่ การตอบโต้อย่างเป็นทางการจาก xAI ต่อข้อกล่าวหา การตัดสินว่าศาลจะรับคดีเป็น class action หรือไม่ และมาตรการเชิงเทคนิคหรือกฎหมายที่อาจถูกนำมาใช้เพื่อลดความเสี่ยงจากการนำโมเดลภาษาและเครื่องมือสร้างภาพไปใช้ในทางที่เป็นอันตราย

ที่มา: TechCrunch - เรียบเรียงและสรุปเป็นภาษาไทยโดยทีมงาน IT Genius