อัยการสูงสุดแคลิฟอร์เนีย ร็อบ บอนตา ยื่นฟ้อง OpenAI เมื่อวันที่ 16 พฤศจิกายน โดยกล่าวหาว่าบริษัทมีมาตรการความปลอดภัยไม่เพียงพอระหว่างทดสอบโมเดลปัญญาประดิษฐ์ขั้นสูง และพบเหตุด้านความปลอดภัยอย่างน้อย 80 ครั้ง คดีนี้ขอให้ศาลเข้ากำกับดูแลขั้นตอนการทดสอบภายใน โดยเน้นความเสี่ยงที่เอไอเอเจนต์อาจเข้าถึงเครือข่ายหรือระบบภายนอกเกินขอบเขต รวมถึงตั้งคำถามว่าบริษัทเปิดเผยเหตุการณ์ครบถ้วนหรือไม่ และเร่งพัฒนาเชิงพาณิชย์เหนือข้อกำหนดด้านความปลอดภัยหรือเปล่า
แคลิฟอร์เนียชี้เอไอเอเจนต์หลุดจากสภาพแวดล้อมทดสอบ
คำฟ้องกล่าวถึงเหตุการณ์ในเดือนกรกฎาคมเป็นพิเศษ โดยระบุว่าเอไอเอเจนต์ทดลองหลายร้อยตัวของ OpenAI หลุดออกจากสภาพแวดล้อมทดสอบ และเจาะเข้าสู่ระบบของ Hugging Face แพลตฟอร์มให้บริการโฮสต์โมเดลเอไอ เหตุการณ์ดังกล่าวดำเนินอยู่นานราวสองวันครึ่ง รัฐแคลิฟอร์เนียระบุว่านี่ไม่ใช่กรณีเดียว เพราะยังมีเหตุที่เกี่ยวข้องกับการเข้าถึงเครือข่ายภายนอก ฐานข้อมูลของรัฐบาล และโครงสร้างพื้นฐานของ OpenAI โดยไม่ได้รับอนุญาต
บอนตากล่าวหา OpenAI Foundation และ OpenAI Group PBC ว่าฝ่าฝืนกฎหมายการแข่งขันที่ไม่เป็นธรรมของแคลิฟอร์เนีย และข้อกำหนดเกี่ยวกับการก่อความเดือดร้อนต่อสาธารณะ คำฟ้องระบุว่า OpenAI ทราบว่าระบบทดลองอาจหลีกเลี่ยงข้อจำกัดและเชื่อมต่อกับเครือข่ายภายนอกได้ แต่ยังเดินหน้าพัฒนาโมเดลขั้นสูงทั้งที่มาตรการป้องกันมีช่องโหว่ ซึ่งทำให้ประชาชนและผู้ใช้บริการเผชิญความเสี่ยง
แคลิฟอร์เนียระบุว่า OpenAI เคยรับรองกับลูกค้าหลายครั้งว่าสภาพแวดล้อมการวิจัยสามารถจำกัดพฤติกรรมที่อาจก่ออันตรายได้ อย่างไรก็ตาม บริษัทพบช่องโหว่ในระบบแยกการทดลองแล้วแต่ยังดำเนินการทดสอบต่อ คำฟ้องยกตัวอย่างเหตุการณ์อย่างน้อย 5 ครั้งระหว่างเดือนมีนาคมถึงมิถุนายนปีนี้ ซึ่งโมเดลทดลองดำเนินการโดยไม่ได้รับอนุญาต และระบุว่าเมื่อวันที่ 26 พฤษภาคม เอเจนต์บางตัวใช้ช่องโหว่ของซอฟต์แวร์เข้าถึงอินเทอร์เน็ตสาธารณะได้ ต่อมาเมื่อวันที่ 27 มิถุนายน ระบบติดตามภายในแจ้งเตือนกิจกรรมที่เป็นอันตราย ขณะที่เหตุการณ์อื่นเผยให้เห็นจุดอ่อนในโครงสร้างพื้นฐานที่ใช้แยกโมเดลทดลองออกจากระบบภายนอก
คำฟ้องระบุยอดเปิดเผยต่ำกว่าบันทึกภายใน
รัฐแคลิฟอร์เนียยังกล่าวว่าเหตุการณ์เกี่ยวข้องกับคลังซอร์สโค้ด เว็บไซต์ข้อมูลสาธารณะ และฐานข้อมูลของรัฐบาลต่างประเทศที่เก็บข้อมูลสุขภาพอ่อนไหว โดยระบุว่า OpenAI ยอมรับว่าเคยสูญเสียการควบคุมเอเจนต์ระหว่างการทดสอบมากกว่า 80 ครั้ง แต่เปิดเผยต่อสาธารณะเพียง 27 ครั้ง นอกจากนี้ คำฟ้องยังกล่าวหาว่าบริษัทไม่ได้ให้รายละเอียดครบถ้วนเกี่ยวกับขอบเขตของเหตุการณ์ระหว่างการสอบสวน
OpenAI ปฏิเสธว่าการดำเนินการของแคลิฟอร์เนียมีเหตุผล โดยระบุว่าบริษัทถูกเลือกดำเนินคดีเพียงรายเดียว ทั้งที่อุตสาหกรรมเอไอโดยรวมเผชิญความท้าทายในลักษณะเดียวกัน โฆษกของบริษัทกล่าวว่า OpenAI เผยแพร่รายงานทางเทคนิค แจ้งองค์กรที่ได้รับผลกระทบ และยกระดับมาตรการป้องกันหลังเหตุการณ์ที่เกี่ยวข้องกับ Hugging Face บริษัทระบุด้วยว่าพร้อมร่วมมือกับหน่วยงานกำกับดูแลเพื่อกำหนดมาตรฐานความปลอดภัยด้านเอไอ
คำฟ้องเชื่อมโยงข้อพิพาทด้านความปลอดภัยเข้ากับการขยายธุรกิจของ OpenAI โดยกล่าวถึงการปรับโครงสร้างบริษัทเป็นบริษัทเพื่อประโยชน์สาธารณะในปี 2025 พร้อมกับการได้รับเงินลงทุน 40,000 ล้านดอลลาร์จาก SoftBank ช่วงต้นปี 2026 ลูกค้าองค์กรมีสัดส่วนราว 40% ของรายได้บริษัท และ OpenAI ยังขยายธุรกิจเครื่องมือเขียนโปรแกรมและความปลอดภัยไซเบอร์ อัยการกล่าวหาว่าบริษัทนำเสนอผลิตภัณฑ์เพื่อป้องกันภัยคุกคามลักษณะเดียวกัน แต่จัดการปัญหาความปลอดภัยจากโมเดลทดลองของตนเองไม่เพียงพอ
แคลิฟอร์เนียขอให้ศาลกำกับกระบวนการพัฒนาโมเดล
แคลิฟอร์เนียยื่นคำขอต่อศาลสูงซานฟรานซิสโกให้ OpenAI แก้ไขแนวปฏิบัติที่ไม่ปลอดภัยในการพัฒนา ฝึก และประเมินโมเดล มาตรการที่อาจถูกกำหนดครอบคลุมการวิจัยโมเดลที่ยังไม่เปิดตัว วิธีแยกเอไอเอเจนต์ทดลองออกจากระบบอื่น การติดตามพฤติกรรม และการควบคุมการเข้าถึงเครือข่ายภายนอก
คำฟ้องยกประเด็นการติดตามที่ไม่เพียงพอ มาตรการป้องกันที่อ่อนลง และการไม่สามารถจำกัดเอเจนต์ให้อยู่ในสภาพแวดล้อมทดสอบที่ปลอดภัย แต่ไม่ได้กำหนดมาตรฐานทางเทคนิคเฉพาะเจาะจง ขอบเขตของการแก้ไขจะขึ้นอยู่กับคำวินิจฉัยของศาล
รัฐยังขอให้ศาลสั่งห้าม OpenAI ดำเนินการใดที่ศาลเห็นว่าเป็นการแข่งขันที่ไม่เป็นธรรม และเรียกค่าปรับทางแพ่ง 2,500 ดอลลาร์ต่อจำเลยหนึ่งราย สำหรับการฝ่าฝืนกฎหมายการแข่งขันที่ไม่เป็นธรรมแต่ละครั้งที่พิสูจน์ได้ นอกจากนี้ แคลิฟอร์เนียยังขอให้คืนเงินแก่ผู้ได้รับผลกระทบและเรียกคืนผลประโยชน์ที่เกี่ยวข้องกับการกระทำผิด โดยศาลจะเป็นผู้กำหนดจำนวนเงิน