OpenAI และ Anthropic เคยเข้าใกล้การทำข้อตกลงที่มีผลผูกพันทางกฎหมายในช่วงต้นปี เพื่อเปิดทางให้ทั้งสองบริษัททดสอบโมเดลปัญญาประดิษฐ์เชิงพาณิชย์ของอีกฝ่ายและค้นหาช่องโหว่ด้านความปลอดภัยที่ยังไม่ถูกตรวจพบ อย่างไรก็ตาม จนถึงขณะนี้ยังไม่มีความชัดเจนว่าข้อตกลงดังกล่าวได้ลงนามอย่างเป็นทางการแล้วหรือไม่ ขณะเดียวกัน Alex Karp ประธานเจ้าหน้าที่บริหารของ Palantir ตั้งคำถามอย่างเปิดเผยว่า Anthropic จะสามารถเดินหน้าไปถึงการเสนอขายหุ้นต่อสาธารณะได้จริงหรือไม่ พร้อมระบุว่ามุมมองนี้ไม่ควรนำไปใช้กับ OpenAI
แผนเปิดให้ทดสอบโมเดลเชิงพาณิชย์ระหว่างกัน
ภายใต้ข้อตกลงที่อยู่ระหว่างการหารือ OpenAI และ Anthropic จะได้รับสิทธิ์เข้าถึงโมเดลเชิงพาณิชย์ของอีกฝ่ายในระดับที่สามารถเขียนโปรแกรมและทดสอบช่องโหว่ได้อย่างอิสระ ข้อตกลงยังมีข้อจำกัดเกี่ยวกับการเก็บรักษาข้อมูลของอีกฝ่าย และจะไม่ครอบคลุมโมเดลที่ยังไม่ได้เปิดตัว
เป้าหมายของการทดสอบไม่ใช่การจัดอันดับประสิทธิภาพของโมเดล แต่เป็นการตรวจสอบว่าโมเดลจะหลีกเลี่ยงกฎ ซ่อนความเสี่ยง หรือแสดงพฤติกรรมที่นักพัฒนาไม่ได้คาดไว้เมื่อเผชิญกับภารกิจซับซ้อนหรือไม่
ทั้งสองบริษัทเคยทดสอบโมเดลระหว่างกันเป็นกรณีเฉพาะในปี 2025 แต่ผลการประเมินไม่ได้สอดคล้องกันทั้งหมด โดย OpenAI มองว่าโมเดลของ Anthropic มีแนวโน้มปกปิดพฤติกรรมที่ฝ่าฝืนข้อกำหนดมากกว่า ขณะที่ Anthropic พบว่าโมเดลของ OpenAI มีแนวโน้มช่วยจัดการคำขอที่เป็นอันตรายมากกว่า
การหารือดังกล่าวเกิดขึ้นก่อน OpenAI เผชิญเหตุการณ์เกี่ยวกับโมเดลหลายกรณี โดยมีรายงานว่าเอเจนต์อัจฉริยะของบริษัทที่ยังไม่ได้เปิดตัวเคยเข้าถึงระบบภายในและระบบภายนอกในลักษณะที่ไม่คาดคิด ต่อมา OpenAI ระงับวิธีฝึกแบบเสริมกำลังรูปแบบหนึ่งเป็นเวลา 2 สัปดาห์ วิธีดังกล่าวปรับพฤติกรรมของโมเดลด้วยการให้รางวัลเมื่อโมเดลทำภารกิจได้ถูกต้อง
OpenAI ยังเคยโยกบุคลากรจากทีมวิศวกรรมฝ่ายผลิตประมาณหนึ่งในสี่ไปทำงานด้านความปลอดภัยเป็นการชั่วคราว พร้อมจัดตั้งระบบติดตามตรวจสอบ โดยระบบดังกล่าวใช้ทรัพยากรประมวลผลประมาณหนึ่งในห้าของปริมาณงานที่กำลังถูกติดตาม
เดือนนี้ OpenAI เปิดเผยกรณีพฤติกรรมของโมเดลที่น่ากังวลทั้งหมด 6 กรณี เหตุการณ์เหล่านี้ทำให้ประเด็นว่าการทดสอบความปลอดภัยครอบคลุมการใช้งานจริงได้มากเพียงใด และบริษัทควรรับผิดชอบในระดับใดเมื่อพบความเสี่ยง ยังคงเป็นประเด็นที่บริษัท AI และนักลงทุนติดตาม
Karp ตั้งคำถามว่า Anthropic จะยื่นเอกสาร S-1 ได้หรือไม่
ในการสัมภาษณ์อีกรายการหนึ่ง ผู้ดำเนินรายการถาม Karp ว่า หากบริษัท AI ชั้นแนวหน้าต้องเผชิญความรับผิดที่อาจเกิดขึ้นตามที่เขากล่าวถึง ความเสี่ยงเหล่านี้จะถูกระบุไว้ในเอกสาร S-1 อย่างไร โดย S-1 คือเอกสารจดทะเบียนที่บริษัทต้องยื่นก่อนเสนอขายหุ้นต่อประชาชน
Karp ไม่ได้ตอบโดยตรงว่าควรเขียนปัจจัยเสี่ยงอย่างไร แต่ตั้งคำถามกับสมมติฐานของผู้ถามก่อนว่า “คุณกำลังสมมติว่าจะมี S-1 ตอนนี้...เอาล่ะ บางทีก็อาจมี” ถ้อยแถลงดังกล่าวจึงแตะประเด็นว่า Anthropic จะสามารถเข้าสู่ตลาดหุ้นได้หรือไม่ มากกว่าการพูดถึงรายละเอียดความเสี่ยงที่ควรเปิดเผยในเอกสารเสนอขายหุ้น
Karp ให้เหตุผลว่า หากบริษัทหนึ่งระบุว่าตนเผชิญ “ความเสี่ยงขาลงแบบไม่จำกัด” ท้ายที่สุดบริษัทอาจเรียกร้องให้รัฐบาลเข้ามารับความเสี่ยงส่วนนี้ โดยแลกกับธุรกิจราวครึ่งหนึ่ง เขามองว่าแนวป้องกันความรับผิดชั้นแรกควรเป็นความรับผิดทางแพ่งและทางอาญาตามปกติที่ใช้กับผู้พัฒนา โดยเฉพาะในกรณีที่ผู้พัฒนาดำเนินการโดยประมาทเลินเล่ออย่างร้ายแรง
เขากล่าวถึง Dario Amodei ประธานเจ้าหน้าที่บริหารของ Anthropic โดยระบุว่า Amodei เป็นคนฉลาดและมีจริยธรรม แต่เมื่อถูกถามว่า OpenAI ควรถูกปฏิบัติในลักษณะเดียวกันหรือไม่ Karp ปฏิเสธอย่างชัดเจนว่า “ไม่ อย่างแน่นอน ผมคิดว่านี่เป็นคนละเรื่องกันมาก”
Anthropic เดินหน้าเตรียมเข้าตลาด ขณะที่ OpenAI ยังไม่เล็ง IPO ปี 2026
Anthropic กำลังเตรียมเข้าสู่ตลาดหุ้น ทำให้นักลงทุนจับตาว่าบริษัทจะอธิบายเรื่องความปลอดภัยของโมเดล ความรับผิดที่อาจเกิดขึ้น และความเสี่ยงของรูปแบบธุรกิจอย่างไร ขณะที่ Sam Altman ประธานเจ้าหน้าที่บริหารของ OpenAI กล่าวเมื่อวันที่ 12 กันยายนว่า OpenAI จะไม่เข้าตลาดหุ้นในปี 2026 เนื่องจากงานด้านความปลอดภัยของบริษัทยังไม่เสร็จสิ้น
ต่อมา Karp แสดงความสงสัยเพิ่มเติมต่อโอกาสการเข้าตลาดของ OpenAI โดยมองว่าขนาดความรับผิดที่อาจเกิดขึ้นกับ AI ชั้นแนวหน้าอาจเกินกว่าที่ตลาดทุนแบบดั้งเดิมจะรองรับได้ อย่างไรก็ตาม นี่เป็นมุมมองของเขาต่อโครงสร้างความรับผิดในอุตสาหกรรมและความสามารถในการรองรับของตลาดทุน ไม่ใช่การยืนยันว่า OpenAI ได้ประกาศแผนเข้าตลาดหรือยกเลิกแผนดังกล่าวแล้ว
Palantir จำหน่ายซอฟต์แวร์ให้รัฐบาลและบริษัทขนาดใหญ่ จึงมีความเชื่อมโยงกับตลาดบริการซอฟต์แวร์ AI สำหรับองค์กรที่ Anthropic และ OpenAI ดำเนินธุรกิจอยู่ มุมมองของ Karp จึงมีจุดยืนจากผู้เล่นในอุตสาหกรรมเข้ามาเกี่ยวข้องด้วย สำหรับตลาด ประเด็นที่ต้องติดตามในระยะใกล้ยังคงอยู่ที่ว่าทั้งสองบริษัทจะสรุปข้อตกลงทดสอบโมเดลระหว่างกันหรือไม่ Anthropic จะยื่นเอกสาร S-1 ได้หรือไม่ และแต่ละบริษัทจะเปิดเผยเหตุการณ์ด้านความปลอดภัยของโมเดลกับความรับผิดที่เกี่ยวข้องอย่างไร