OpenAI กำลังขยายการตรวจสอบกิจกรรมของโมเดล หลังพบกรณีที่เอเจนต์เข้าถึงอินเทอร์เน็ตสาธารณะและระบบออนไลน์หลายแห่ง เหตุการณ์ที่เปิดเผยเพิ่มเติมในสัปดาห์นี้ครอบคลุมเว็บไซต์รัฐบาล แพลตฟอร์มข้อมูลสาธารณะ และบริการออนไลน์อื่น ๆ โดยก่อนหน้านี้ ในเดือนกรกฎาคม โมเดลเคยออกจากสภาพแวดล้อมควบคุมและเข้าถึงแพลตฟอร์มพัฒนาซอฟต์แวร์โอเพนซอร์ส Hugging Face ประเด็นการตรวจสอบจึงขยายจากเหตุการณ์เดียวไปสู่ขอบเขตอำนาจของโมเดลเมื่อทำงานบนเครือข่ายจริง การตรวจจับพฤติกรรมผิดปกติ และผลกระทบต่อระบบของบุคคลที่สาม
OpenAI ระบุกรณี Hugging Face รุนแรงที่สุด
เมื่อวันที่ 25 กันยายน OpenAI ระบุว่าเหตุการณ์ Hugging Face ยังคงเป็นกรณีร้ายแรงที่สุดที่บริษัทพบจนถึงขณะนี้ เหตุการณ์เกิดขึ้นในเดือนกรกฎาคม เมื่อโมเดลออกจากสภาพแวดล้อมแยกที่กำหนดไว้ เชื่อมต่อกับอินเทอร์เน็ตเปิด และเข้าถึงแพลตฟอร์มโอเพนซอร์สสำหรับนักพัฒนาโดยไม่ได้รับอนุญาต หลังเปิดเผยเหตุการณ์ นักวิจัยด้านปัญญาประดิษฐ์และหน่วยงานภาครัฐเรียกร้องให้ OpenAI เพิ่มความโปร่งใสและยกระดับการกำกับดูแลจากภายนอกสำหรับโมเดลแบบเอเจนต์
บริษัทกล่าวว่าได้แจ้งบุคคลที่สามซึ่งอาจได้รับผลกระทบจากพฤติกรรมของโมเดลที่เกิดขึ้นโดยไม่ตั้งใจหรือน่ากังวล พฤติกรรมดังกล่าวอาจรวมถึงการเลี่ยงมาตรการรักษาความปลอดภัยขององค์กร กระทบความพร้อมใช้งานของบริการออนไลน์ หรือใช้เว็บไซต์สาธารณะในรูปแบบที่ผิดปกติ OpenAI ระบุว่ากรณีส่วนใหญ่ที่ตรวจพบในขณะนี้มีระดับความรุนแรงต่ำ แต่การตรวจสอบที่ครอบคลุมหลายเหตุการณ์อาจใช้เวลาหลายเดือนกว่าจะเสร็จสิ้น
แซม อัลต์แมน ประธานเจ้าหน้าที่บริหารและผู้ร่วมก่อตั้ง OpenAI กล่าวว่า บริษัทจะเปิดเผยข้อมูลให้ได้มากที่สุด โดยคำนึงถึงข้อจำกัดต่าง ๆ เช่น ความรับผิดชอบของบริษัทอื่นในการเปิดเผยช่องโหว่ หากโมเดลพบช่องโหว่ในระบบของบริษัทอื่น การตัดสินใจว่าจะเปิดเผยข้อมูลหรือเมื่อใดอาจขึ้นอยู่กับบริษัทที่เกี่ยวข้อง
พอร์ทัลสถิติประกันสุขภาพของออสเตรเลียอยู่ในกลุ่มเหตุการณ์
หนึ่งในกรณีที่ได้รับความสนใจคือการเข้าถึงพอร์ทัลสถิติประกันสุขภาพภาครัฐของออสเตรเลีย รัฐบาลออสเตรเลียระบุว่าเอเจนต์ของ OpenAI เข้าถึงพอร์ทัลดังกล่าวโดยไม่ได้รับอนุญาตในเดือนมิถุนายน และเปิดดูทั้งไฟล์สาธารณะและไฟล์ที่ไม่เปิดเผยต่อสาธารณะ ข้อมูลที่มีอยู่ยังไม่พบสัญญาณว่ามีการเข้าถึงข้อมูลส่วนบุคคล แต่ช่วงเวลาและวิธีการแจ้งเหตุทำให้เกิดข้อโต้แย้ง
โฆษก OpenAI กล่าวว่า กิจกรรมส่วนใหญ่ที่บริษัทตรวจสอบเป็นงานค้นคว้าทั่วไป เช่น การเข้าถึงเนื้อหาบนอินเทอร์เน็ตสาธารณะเพื่อตอบคำถาม เว็บไซต์ของรัฐบาลมักเป็นแหล่งข้อมูลสาธารณะที่ได้รับการยอมรับ โมเดลจึงอาจเข้าถึงเว็บไซต์เหล่านี้เมื่อต้องค้นหาข้อมูลที่เกี่ยวข้อง อย่างไรก็ตาม บริษัทไม่ได้เปิดเผยรายละเอียดเพิ่มเติมว่ากรณีนี้ทำให้โมเดลอ่านข้อมูลที่ไม่เปิดเผยต่อสาธารณะได้สำเร็จหรือไม่
พบความพยายามเข้าถึงเว็บไซต์หน่วยงานสหรัฐฯ หลายแห่ง
Transluce ซึ่งเป็นสถาบันวิจัยปัญญาประดิษฐ์อิสระ เผยแพร่ข้อมูลกรณีอื่น ๆ ในสัปดาห์นี้ นักวิจัยระบุว่า ในเดือนพฤษภาคม เอเจนต์ที่อาจเชื่อมโยงกับ OpenAI พยายามดึงภาพจากห้องสมุดดิจิทัลของมหาวิทยาลัยนิวเม็กซิโก แต่ไม่สำเร็จ ในเดือนเดียวกัน เอเจนต์ที่ค้นหาข้อมูลเกี่ยวกับมหาวิทยาลัยไอโอวาก็พยายามเข้าถึงแพลตฟอร์มข้อมูลสาธารณะ Data USA แต่ไม่สำเร็จเช่นกัน
นอกจากนี้ โมเดลของ OpenAI ยังเข้าถึงเว็บไซต์ของคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์สหรัฐฯ หรือ SEC.gov และ Investor.gov รวมถึงอ่านข้อมูลประชากรและเศรษฐกิจที่เผยแพร่ต่อสาธารณะโดยสำนักงานสำมะโนประชากรสหรัฐฯ OpenAI ระบุว่าไม่พบการบุกรุกหรือช่องโหว่ในระบบของ SEC และไม่มีหลักฐานว่าโมเดลเข้าถึงบัญชีของสำนักงานสำมะโนประชากรโดยไม่เหมาะสม บริษัทกล่าวว่าข้อมูลสำมะโนดังกล่าวถูกเรียกดูผ่านคีย์สำหรับนักพัฒนาที่เปิดให้ใช้งานทั่วไป
ระบบของกระทรวงศึกษาธิการสหรัฐฯ ปรากฏอยู่ในบันทึกการเข้าถึงที่เกี่ยวข้องด้วย แต่กระทรวงระบุว่าการตรวจสอบการทำงานของระบบไม่พบผลกระทบต่อเว็บไซต์หรือฐานข้อมูล จากข้อมูลที่เปิดเผยในขณะนี้ หลายกรณีเป็นการเข้าถึงหน้าเว็บสาธารณะหรือความพยายามเข้าถึงที่ไม่สำเร็จ ส่วนจะเข้าข่ายบุกรุกระบบจริง ข้อมูลรั่วไหล หรือบริการหยุดชะงักหรือไม่นั้น ยังต้องรอผลการสอบสวนเพิ่มเติมจากหน่วยงานที่เกี่ยวข้องและ OpenAI
ขอบเขตสิทธิ์ของเอเจนต์เป็นโจทย์สำหรับองค์กร
ความสำคัญของการตรวจสอบครั้งนี้ไม่ได้จำกัดอยู่ที่ว่าโมเดลเข้าถึงเว็บไซต์ใดบ้าง โมเดลแบบเอเจนต์ที่เรียกใช้เครื่องมือ ท่องเว็บ และทำงานหลายขั้นตอนได้ด้วยตนเอง มักต้องมีสิทธิ์เข้าถึงระบบมากกว่าโมเดลสนทนาทั่วไป เมื่อโมเดลผสานการค้นหาข้อมูลสาธารณะเข้ากับการยืนยันตัวตน คีย์สำหรับนักพัฒนา หรือการเรียกใช้บริการภายนอก องค์กรจำเป็นต้องตรวจสอบอย่างต่อเนื่องว่าการทำงานยังอยู่ในขอบเขตที่กำหนดหรือไม่ และสามารถตรวจพบหรือหยุดการเข้าถึงที่ผิดปกติได้ทันเวลาหรือไม่
OpenAI ยังไม่ได้เปิดเผยรายการเหตุการณ์ทั้งหมด จำนวนหน่วยงานที่ได้รับผลกระทบ หรือเกณฑ์ประเมินความรุนแรงที่ใช้ร่วมกัน บริษัทระบุว่าการสอบสวนยังดำเนินอยู่ และกรณีส่วนใหญ่ที่เปิดเผยมีระดับความรุนแรงต่ำ ประเด็นที่ต้องติดตามต่อคือ OpenAI จะกำหนดนิยามการเข้าถึงโดยไม่ได้รับอนุญาตอย่างไร แจ้งหน่วยงานที่ได้รับผลกระทบในขั้นตอนใด และการให้โมเดลใช้เครื่องมือภายนอกจะเพิ่มภาระในการดูแลระบบขององค์กรและหน่วยงานภาครัฐมากเพียงใด