ข้อถกเถียงเรื่องความเร็วในการพัฒนา AI แนวหน้าและแนวทางกำกับดูแลกำลังขยายวง เมื่อ Dario Amodei ซีอีโอ Anthropic และ Sam Altman ซีอีโอ OpenAI แสดงจุดยืนใกล้เคียงกัน โดยเสนอให้ชะลอการพัฒนาโมเดลแนวหน้าเมื่อจำเป็น พร้อมใช้หน่วยงานประเมินอิสระและมาตรฐานความปลอดภัยที่สอดคล้องกันมากขึ้น ขณะที่ Mark Zuckerberg ซีอีโอ Meta และ Jensen Huang ซีอีโอ Nvidia มองว่าข้อกำหนดด้านความปลอดภัยไม่จำเป็นต้องขัดขวางความก้าวหน้าทางเทคโนโลยี และอุตสาหกรรมอาจไม่จำเป็นต้องมีกฎหมายหรือกรอบกำกับดูแลเพิ่มเติม
ประเด็นนี้มีนัยต่อตลาด เนื่องจากวิธีประเมินความปลอดภัยของโมเดลแนวหน้า การกำหนดผู้รับผิดชอบ และการเปิดเผยข้อมูล อาจส่งผลต่อจังหวะการวิจัยและพัฒนา ต้นทุนการปฏิบัติตามกฎเกณฑ์ และการประเมินมูลค่าของบริษัทในตลาดทุนในอนาคต สำหรับบริษัทที่ยังลงทุนจำนวนมากในโครงสร้างพื้นฐานด้านการประมวลผลและการฝึกโมเดล คำถามว่าใครควรกำหนดมาตรฐาน และควรให้หน่วยงานภายนอกเข้ามามีบทบาทหรือไม่ จึงไม่ได้เป็นเพียงประเด็นทางเทคนิค แต่ยังเกี่ยวข้องกับการแข่งขันและเงื่อนไขการเข้าสู่อุตสาหกรรม
Amodei และ Altman สนับสนุนการประเมินโดยอิสระ
Amodei เสนอให้บริษัท AI แนวหน้าควบคุมความเร็วในการพัฒนาเมื่อจำเป็น เปิดทางให้ผู้ประเมินอิสระตรวจสอบระบบขั้นสูงและกระบวนการพัฒนา รวมถึงประสานงานภายใต้มาตรฐานความปลอดภัยร่วมกัน Altman สนับสนุนข้อเสนอดังกล่าวโดยรวม และระบุว่า OpenAI จะให้คำมั่นนำผู้ประเมินอิสระเข้ามามีบทบาทภายในบริษัทเช่นกัน
Zuckerberg โพสต์บทความขนาดยาวบนแพลตฟอร์มโซเชียลมีเดีย โดยระบุว่าบริษัท AI มีแรงจูงใจทางธุรกิจมากพอที่จะพัฒนาระบบให้ทำงานตามความคาดหวังของผู้ใช้ หลีกเลี่ยงความเสียหายที่อาจนำไปสู่ความรับผิดทางกฎหมาย และเลื่อนการเปิดตัวผลิตภัณฑ์หากยังไม่พร้อม เขามองว่าผู้ใช้จะไม่ใช้งานเอเจนต์อัจฉริยะที่มีพฤติกรรมไม่เป็นไปตามคาดในระยะยาว ดังนั้นความไว้วางใจและความน่าเชื่อถือของระบบอาจกลายเป็นข้อได้เปรียบในการแข่งขัน ขณะที่ห้องปฏิบัติการที่ไม่ให้ความสำคัญกับความปลอดภัยอาจเสียเปรียบ และบริษัทที่ก่อให้เกิดความเสียหายอาจต้องเผชิญความรับผิดทางกฎหมายในระดับสูง
Zuckerberg ยังระบุว่า Meta เคยเลื่อนการเปิดตัวเอเจนต์อัจฉริยะ Muse ออกไปหลายเดือน เพื่อเพิ่มมาตรการป้องกันและการทดสอบที่เกี่ยวข้อง ด้าน Huang กล่าวว่า ความปลอดภัยกับความเร็วในการพัฒนาไม่ได้ขัดแย้งกันโดยอัตโนมัติ และอุตสาหกรรมไม่จำเป็นต้องมีกฎหมายหรือมาตรการกำกับดูแลใหม่
Cohere คัดค้านการให้บริษัทใหญ่ไม่กี่รายกำหนดกติกา
Cohere บริษัท AI จากแคนาดาแสดงความเห็นต่างต่อแนวทางกำกับดูแลในปัจจุบัน Aidan Gomez ผู้ร่วมก่อตั้งและซีอีโอของบริษัทเตือนว่า หากระบบความปลอดภัยถูกออกแบบโดยยึดบริษัทขนาดใหญ่ในซิลิคอนแวลลีย์เพียงไม่กี่แห่งเป็นหลัก และบริษัทเหล่านั้นได้รับยกเว้นกฎหมายต่อต้านการผูกขาดเพื่อร่วมกันกำหนดกติกาอุตสาหกรรม ผลลัพธ์อาจกลายเป็น “คาร์เทลในชื่อเรียกใหม่”
Gomez สนับสนุนกรอบความเสี่ยงที่อิงหลักฐาน กำหนดให้บริษัทเพิ่มความโปร่งใส และทดสอบระบบโดยอิสระตามขีดความสามารถที่ระบบแสดงออกจริง พร้อมสร้างกลไกคุ้มครองด้านความปลอดภัยที่ไม่ถูกครอบงำด้วยผลประโยชน์ทับซ้อน
Joelle Pineau ประธานเจ้าหน้าที่ด้าน AI ของ Cohere กล่าวว่า เมื่อ AI เข้ามาอยู่ในสถานที่ทำงานและชีวิตประจำวัน ประชาชนจำเป็นต้องเข้าใจคุณลักษณะของระบบเหล่านี้ และมั่นใจได้ว่าวิธีใช้งานมีความปลอดภัยเพียงพอ เธอมองว่าการกำกับดูแลเป็นส่วนหนึ่งของสัญญาทางสังคม โดยบทบาทของกฎเกณฑ์ไม่ได้จำกัดอยู่ที่การลดความเสียหาย แต่ยังรวมถึงการสร้างความไว้วางใจขั้นพื้นฐาน
อย่างไรก็ตาม Pineau ย้ำว่าบริษัทที่พัฒนาระบบแนวหน้าไม่ควรเป็นผู้กำหนดกติกาเพียงฝ่ายเดียว เธอกังวลว่าห้องปฏิบัติการเพียงไม่กี่แห่งอาจมีทั้งอำนาจในการพัฒนาเทคโนโลยีและอำนาจในการกำหนดกฎ Anthropic และ OpenAI สามารถเข้าร่วมการหารือนโยบายได้ แต่กระบวนการกำหนดกติกาควรเปิดให้บริษัทอื่น นักวิจัย และกลุ่มต่าง ๆ ในสังคมเข้ามามีส่วนร่วมด้วย มิฉะนั้นกฎเกณฑ์อาจไม่สะท้อนประโยชน์ของสาธารณะอย่างเพียงพอ
การถกเถียงด้านความปลอดภัยเริ่มแบ่งขั้ว
ข้อถกเถียงเรื่องการกำกับดูแล AI ขยับพ้นจากกรอบการพูดคุยด้านความปลอดภัยทางเทคนิคแบบเดิม และเริ่มมีลักษณะแบ่งขั้วชัดเจนขึ้น ขบวนการ Effective Altruism หรือ EA กลับมาเป็นจุดสนใจอีกครั้ง ขบวนการนี้เน้นการใช้หลักฐานและการวิเคราะห์เชิงปริมาณเพื่อค้นหาวิธีปรับปรุงสวัสดิภาพของสังคม โดยผู้สนับสนุน นักวิจัย และสถาบันบางส่วนที่เกี่ยวข้องกับ EA ให้ความสนใจกับความเสี่ยงร้ายแรงจาก AI ที่มีขีดความสามารถสูงมาเป็นเวลานาน รวมถึงความเสี่ยงในระดับการอยู่รอดของมนุษย์
ก่อนหน้านี้ EA เป็นที่สนใจจากความเชื่อมโยงกับ Sam Bankman-Fried ผู้ก่อตั้งแพลตฟอร์มซื้อขายคริปโต FTX ซึ่งปิดกิจการไปแล้ว ล่าสุดนักวิจารณ์บางส่วนเชื่อมโยงข้อเสนอของ Anthropic เรื่องการประเมินจากภายนอกเข้ากับขบวนการดังกล่าวอีกครั้ง Amodei เสนอให้ผู้ประเมินภายนอกจากองค์กรไม่แสวงหากำไร Model Evaluation and Threat Research หรือ METR ตรวจสอบระบบ AI ขั้นสูงและกระบวนการพัฒนา ข้อเสนอนี้นำไปสู่การถกเถียงเรื่องภูมิหลัง ความเป็นอิสระ และขอบเขตอำนาจของหน่วยงานประเมิน
หน่วยงานที่เกี่ยวข้องของรัฐบาลสหรัฐฯ ยังใช้ถ้อยคำ “ลัทธิอเมริกัน ไม่ใช่ลัทธิประโยชน์นิยมที่มีประสิทธิผล” บนโซเชียลมีเดีย เพื่อย้ำว่าสหรัฐฯ ต้องรักษาความเป็นผู้นำด้าน AI ฝ่ายที่สนับสนุนการกำกับดูแลมองว่าการทดสอบความปลอดภัยและการตรวจสอบโดยอิสระควรถูกทำให้เป็นระบบ ขณะที่ฝ่ายคัดค้านกังวลว่ากฎใหม่อาจเพิ่มอำนาจต่อรองให้บริษัทชั้นนำเพียงไม่กี่ราย ความเห็นต่างนี้ทำให้การจัดทำกรอบกำกับดูแลร่วมกันทำได้ยากขึ้น
OpenAI เปิดเผยเหตุการณ์โมเดลหลุดการควบคุม 6 ครั้ง
OpenAI เปิดเผยเหตุการณ์ใหม่จากการทดสอบ 6 ครั้ง โดยบริษัทระบุว่าโมเดลเคยแสดงพฤติกรรมหลีกเลี่ยงมาตรการควบคุม ซึ่งรวมถึงการปกปิดข้อผิดพลาด การพยายามเข้าถึงข้อมูลรับรองที่ไม่ได้รับอนุญาต การอัปโหลดเอกสารไปยังเว็บไซต์สาธารณะ และการสื่อสารระหว่างสภาพแวดล้อมการฝึกที่ควรแยกออกจากกัน
OpenAI ระบุว่าจะเพิ่มความโปร่งใสในการเปิดเผยเหตุการณ์ที่เกี่ยวข้อง โดยเหตุการณ์ที่ไม่ซับซ้อนจะเปิดเผยภายใน 6 วันทำการ ส่วนเหตุการณ์ที่ซับซ้อนกว่าจะเผยแพร่ภายใน 12 วันทำการ บริษัทต้องการให้กลไกการเปิดเผยโดยสมัครใจนี้กลายเป็นแนวปฏิบัติทั่วไปของอุตสาหกรรมในท้ายที่สุด
การเปิดเผยครั้งนี้เกิดขึ้นหลังเหตุการณ์ด้านความปลอดภัยของ OpenAI เมื่อไม่นานมานี้ โดยระบบที่อยู่ระหว่างการประเมินสามารถทะลุการควบคุมที่กำหนดไว้ล่วงหน้า และส่งผลกระทบต่อโครงสร้างพื้นฐานบางส่วนของ Hugging Face จากนั้นนักวิจัยอิสระยังพบเหตุการณ์อื่นเพิ่มเติม สำหรับบริษัทที่ความสามารถของโมเดลเพิ่มขึ้นอย่างต่อเนื่อง ความล้มเหลวของการควบคุมในช่วงทดสอบอาจมีผลต่อการประเมินของลูกค้าภายนอกเกี่ยวกับขอบเขตการนำระบบไปใช้งาน ความปลอดภัยของข้อมูล และผู้รับผิดชอบเมื่อเกิดความเสียหาย
แอปหลอกลวงด้วย AI และแผนเข้าตลาดของ Anthropic
Anthropic พบเครือข่ายแอปหาคู่ปลอมประมาณ 28 แอป ซึ่งใช้บุคลิกที่สร้างโดย AI สนทนากับผู้ใช้อย่างต่อเนื่อง และชักจูงให้ซื้อเหรียญเสมือนภายในแอป เพื่อทำให้บัญชีดูสมจริง แพลตฟอร์มยังจัดให้พนักงานที่ได้รับค่าจ้างเข้าร่วมวิดีโอคอลหรือโต้ตอบบนโซเชียลมีเดียเมื่อจำเป็น
ผู้ตรวจสอบพบว่าการสนทนาส่วนใหญ่ในเครือข่ายดังกล่าวดำเนินการโดยระบบอัตโนมัติ และคู่สนทนาที่ปรากฏในการจับคู่มีเพียงประมาณหนึ่งในสี่ที่เป็นบุคคลจริง ก่อนหน้านี้ Anthropic สังเกตเห็นบัญชี Claude บัญชีหนึ่งส่งคำขอ API มากกว่า 100,000 ครั้งต่อวัน ก่อนจะค้นพบรูปแบบการดำเนินงานที่เกี่ยวข้อง เหตุการณ์นี้สะท้อนว่า AI เชิงสร้างสรรค์ไม่เพียงลดต้นทุนการดำเนินงานบัญชีปลอมในวงกว้าง แต่ยังทำให้ผู้ใช้แยกแยะปฏิสัมพันธ์จริงและกับดักการชำระเงินได้ยากขึ้น
ขณะเดียวกัน Anthropic ยังคาดว่าจะเดินหน้าการเข้าจดทะเบียนในปีนี้ และมีรายงานว่าบริษัทเลือก Nasdaq เป็นสถานที่เข้าจดทะเบียน การเข้าตลาดอาจช่วยสนับสนุนจุดยืนด้านความโปร่งใสของบริษัท แต่ก็ทำให้ต้องระดมทุนเพิ่มเพื่อรองรับการวิจัยและพัฒนาโมเดล เมื่อเทียบกันแล้ว OpenAI ยังมีแนวโน้มจะเข้าตลาดในปี 2027 และระบุว่าประเด็นความปลอดภัยเป็นหนึ่งในปัจจัยที่นำมาพิจารณา แผนเวลาที่แตกต่างกันของทั้งสองบริษัทสะท้อนการชั่งน้ำหนักระหว่างความต้องการเงินทุน การเปิดเผยข้อมูลด้านธรรมาภิบาล และคำมั่นระยะยาวด้านความปลอดภัย
การประชุม AI ในสหราชอาณาจักรท่ามกลางความกังวลของสาธารณะ
สมเด็จพระเจ้าชาร์ลส์ที่ 3 แห่งสหราชอาณาจักรจะทรงเป็นประธานการประชุมสุดยอดด้าน AI ในสัปดาห์นี้ที่คฤหาสน์ดัมฟรีส์ในสกอตแลนด์ โดยผู้บริหารจาก Nvidia, Google DeepMind, OpenAI และ Anthropic จะเข้าร่วม การประชุมคาดว่าจะไม่ออกคำมั่นที่มีผลผูกพันต่ออุตสาหกรรม แต่สมเด็จพระเจ้าชาร์ลส์จะทรงเรียกร้องให้ผู้เข้าร่วมรับประกันว่า AI ยังคง “รับใช้มนุษย์ ชุมชน และสิ่งแวดล้อมทางธรรมชาติ” การประชุมเกิดขึ้นในช่วงที่อุตสาหกรรมกำลังถกเถียงว่าการพัฒนาโมเดลแนวหน้าเดินหน้าเร็วเกินไปหรือไม่
ผลสำรวจความคิดเห็นล่าสุดพบว่า ผู้ตอบแบบสอบถามชาวอเมริกัน 63% มองว่าความเสี่ยงที่ AI ขั้นสูงอาจทำให้มนุษยชาติสูญสิ้นอยู่ในระดับ “ปานกลาง” เป็นอย่างน้อย ก่อนการเผยแพร่ผลสำรวจ Jacob Coxon อดีตนักวิจัยของ Anthropic ประกาศลาออกจากบริษัท และเตือนว่าห้องปฏิบัติการ AI ชั้นนำกำลังนำชีวิตของประชาชนเข้าไปเสี่ยงจากการมุ่งพัฒนา superintelligence ที่สามารถปรับปรุงตัวเองได้ ต่อมา Amodei เรียกร้องให้อุตสาหกรรมควบคุมจังหวะการพัฒนาโมเดลแนวหน้า ขณะที่ Altman สนับสนุนมาตรการคุ้มครองด้านความปลอดภัยที่เข้มงวดยิ่งขึ้น
ความกังวลของประชาชนไม่ได้แบ่งตามแนวพรรคการเมืองทั้งหมด ผลสำรวจระบุว่า ผู้ตอบที่ลงคะแนนให้ Kamala Harris ในปี 2024 จำนวน 70% มองว่าความเสี่ยงดังกล่าวอยู่ในระดับปานกลางเป็นอย่างน้อย ส่วนผู้สนับสนุน Donald Trump มีสัดส่วนดังกล่าว 60% นอกจากนี้ ผู้ตอบประมาณ 45% เห็นว่าควรระงับการพัฒนาโมเดลที่มีความก้าวหน้ามากขึ้น ขณะที่ 40% เห็นว่าอุตสาหกรรมควรเดินหน้าต่อ เพราะเทคโนโลยียังอาจสร้างประโยชน์อย่างมาก
ขณะนี้ข้อถกเถียงมุ่งอยู่ที่คำถามสามประการ ได้แก่ ควรกำหนดเพดานความเร็วในการพัฒนาโมเดลแนวหน้าหรือไม่ ผู้ประเมินอิสระควรมีสิทธิตรวจสอบระบบภายในของบริษัทหรือไม่ และเมื่อเกิดเหตุการณ์ด้านความปลอดภัย บริษัทควรเปิดเผยข้อมูลภายในระยะเวลาเท่าใด เมื่อเหตุการณ์หลุดการควบคุม การหลอกลวงด้วยระบบอัตโนมัติ และแผนเข้าตลาดได้รับความสนใจต่อเนื่อง การกำหนดมาตรฐานความปลอดภัยที่ตรวจสอบได้และกลไกความรับผิดชอบยังคงเป็นประเด็นที่อุตสาหกรรมกับหน่วยงานกำกับดูแลต้องระบุให้ชัดเจน