เอกสารศาลเผย OpenAI และ Microsoft รู้ว่ากำลังกระตุ้น 'doom loop' ทำลายเว็บ แต่ยังเดินหน้าต่อ

เอกสารศาลที่ถูกเปิดเผยในคดีของ The New York Times ต่อ OpenAI และ Microsoft ระบุชัดว่าทั้งสองบริษัทรู้ตัวว่ากระบวนการเก็บข้อมูลเพื่อฝึกโมเดลภาษาใหญ่จะสร้างผลกระทบร้ายแรงต่อเว็บสาธารณะ ซึ่งถูกเรียกว่า "doom loop" ที่ทำให้แหล่งข้อมูลต้นทางสูญเสียผู้เข้าชมและรายได้ อย่างไรก็ตามบริษัทกลับเดินหน้าต่อเพื่อพัฒนาผลิตภัณฑ์เชิงพาณิชย์

ข้อความภายในที่รุนแรงและคำยอมรับว่ากำลังก่อปัญหา

ในเอกสาร 92 หน้าซึ่งมีคำพูดจากพนักงานระดับต่างๆ ปรากฏข้อความจาก Brent Hecht แห่ง Microsoft ที่เรียกการรวบรวมข้อมูลของ ChatGPT และ Copilot ว่าเป็น "การขโมยแรงงานครั้งใหญ่ที่สุดในประวัติศาสตร์มนุษย์" และวิจารณ์การอ้างสิทธิ์ fair use ว่าไม่มีน้ำหนัก ข้อความภายในอื่นๆ ระบุว่ากลยุทธ์เนื้อหาของ AI ได้เริ่มสร้าง "doom loop" ที่จะทำลายทั้งการทำงานของโมเดลและระบบนิเวศของเว็บไปพร้อมกัน

พฤติกรรมของโมเดล - จำของเดิมและไม่กระตุ้นให้คลิกไปยังต้นทาง

เอกสารยังแสดงว่า OpenAI รับรู้ว่า GPT-4 มีแนวโน้มจะ "จำ" ข้อความจำนวนมากจนสามารถยกข้อความจากบทความเดิมมาได้ตรงๆ ถึงแม้จะรู้ว่าการกันการจดจำเป็นเรื่องสำคัญเพื่อหลีกเลี่ยงการละเมิดลิขสิทธิ์ ตัวอย่างการตอบคำถามที่คืนข้อความจาก The New York Times, Mercury News และสำนักอื่นๆ ถูกยกมาเป็นหลักฐานด้วย นอกจากนี้บางข้อความภายในยืนยันว่าการได้คำตอบจาก chatbot ทำให้ "ไม่มีเหตุผลดีพอ" ที่ผู้ใช้จะคลิกกลับไปยังลิงก์ต้นทาง

การรับรู้ผลกระทบทางเศรษฐกิจและการตอบโต้ของบริษัท

เอกสารระบุว่าทั้ง Microsoft และ OpenAI เข้าใจว่าการใช้เนื้อหาแบบนี้จะทำให้ผู้สร้างเนื้อหาไม่ได้รับค่าตอบแทน ทั้งยังอาจทำลายฐานรายได้ของผู้จัดพิมพ์ Satya Nadella ถูกอ้างว่าเห็นว่าบอทสนทนาแทนที่การค้นหาแบบเดิม ขณะที่โฆษกของ Microsoft พยายามแยกมุมมองส่วนบุคคลของพนักงานออกจากแนวทางบริษัท และ OpenAI ก็ถูกวิจารณ์ว่าขาดมาตรการตรวจจับเนื้อหาที่อยู่หลัง paywall

ผลกระทบต่อผู้ทำเว็บ นักพัฒนา และคนทำคอนเทนต์

เรื่องนี้มีนัยตรงไปยังคนที่ทำงานด้านเว็บและการตลาดออนไลน์ - การลดลงของ referral traffic จากการที่ AI สรุปข้อมูลแทนการส่งคนไปยังต้นทาง จะกระทบ SEO, ยอดโฆษณา และโมเดลหารายได้ของเว็บไซต์ ข่าวนี้จึงเป็นสัญญาณให้ทีมพัฒนาเว็บ นักการตลาด และผู้สร้างเนื้อหาเริ่มพิจารณากลยุทธ์ใหม่ เช่น การปรับเนื้อหาเพื่อ AI, หาวิธีสร้างคุณค่าเหนือการสรุปอัตโนมัติ และติดตามแนวทางปฏิบัติทางกฎหมายและเทคนิคที่อาจเปลี่ยนแปลงเร็ว

ท้ายที่สุด เอกสารที่ถูกเปิดเผยชี้ให้เห็นว่าบริษัทเทคโนโลยีใหญ่รับรู้ความเสี่ยงเชิงระบบต่อสื่อมวลชนและเว็บสาธารณะ แต่เลือกเดินหน้าตามแรงจูงใจเชิงพาณิชย์ ประเด็นที่ต้องติดตามต่อคือผลของคดี ความเปลี่ยนแปลงนโยบายด้านการฝึกโมเดล และการออกมาตรการทั้งทางเทคนิคและกฎหมายที่จะกำกับการใช้เนื้อหาออนไลน์ในยุค AI

ที่มา: The Verge - เรียบเรียงและสรุปเป็นภาษาไทยโดยทีมงาน IT Genius