ประธานและซีอีโอของไมโครซอฟท์ สัตยา นาเดลลา กล่าวว่าเมื่อวันที่ 10 ตุลาคม ระบบปัญญาประดิษฐ์ขั้นสูงควรมีระบบแยกออกจากส่วนอื่น การควบคุมที่เป็นอิสระ และ “ระบบหยุดฉุกเฉิน” ที่เปิดให้ผู้มีอำนาจระงับหรือปิดโมเดลได้ระหว่างที่กำลังทำงาน แนวคิดนี้ขยายประเด็นความปลอดภัยของ AI จากตัวโมเดลไปสู่การควบคุมการทำงานและกระบวนการตรวจสอบ ซึ่งเกี่ยวข้องโดยตรงกับการจัดการความเสี่ยงจากการหยุดชะงักทางธุรกิจและการสูญเสียการควบคุมระบบเมื่อบริษัทนำ AI ไปใช้งาน
นาเดลลาเสนอให้ใช้ระบบควบคุมกำกับโมเดล
นาเดลลาเขียนบนแพลตฟอร์ม X ว่า โมเดลที่ให้ผลลัพธ์ไม่แน่นอนควรถูกล้อมด้วยการออกแบบระบบที่มีความแน่นอนในระดับสูง การควบคุมโดยมนุษย์ และขั้นตอนการปฏิบัติงานที่เชื่อถือได้ หากมาตรฐานที่มีอยู่ยังไม่เพียงพอ อุตสาหกรรมก็ควรพัฒนากฎเกณฑ์ใหม่เพิ่มเติม เขายังเสนอให้มองโมเดลแนวหน้าทั้งแบบปิดซอร์สและแบบเปิดน้ำหนักโมเดลเป็น “ความเสี่ยงภายใน” เพื่อออกแบบระบบป้องกันให้เหมาะสม
หลักการที่นาเดลลาเสนอรวมถึงการทำให้ระบบสามารถตรวจสอบและติดตามได้ โดยใช้โมเดลที่หลากหลาย บันทึกการทำงานของโมเดลในรูปแบบที่มนุษย์อ่านเข้าใจ ทดสอบระบบอย่างต่อเนื่อง และจัดให้มีการควบคุมกับการตรวจสอบที่เป็นอิสระ รวมถึงมาตรการแยกระบบและแนวทางเปิดเผยเหตุขัดข้อง
สำหรับบริษัทและนักลงทุน ข้อกำหนดเหล่านี้ไม่ได้เกี่ยวข้องเฉพาะกับประสิทธิภาพของโมเดล แต่ยังครอบคลุมต้นทุนการติดตั้ง AI ความรับผิดชอบในการดำเนินงาน และการจัดการความเสียหายที่อาจเกิดขึ้นด้วย
นาเดลลากล่าวว่า ระบบซูเปอร์อินเทลลิเจนซ์ที่น่าเชื่อถือที่สุดไม่ควรพึ่งพาเพียงโมเดลเดียวที่ผู้คนไว้วางใจมากที่สุด แต่ควรเป็นระบบที่ทำให้ผู้คนเชื่อมั่นในกลไกการทำงานโดยรวมได้ แม้จะยังคงใช้ความระมัดระวังต่อโมเดลอยู่ก็ตาม
ผู้นำเทคโนโลยีเห็นต่างเรื่องความเร็วกับความปลอดภัย
ความเห็นของนาเดลลาเกิดขึ้นท่ามกลางการถกเถียงในอุตสาหกรรมเทคโนโลยีเกี่ยวกับมาตรการความปลอดภัยของ AI อย่างต่อเนื่อง บิล เกตส์ ผู้ร่วมก่อตั้งไมโครซอฟท์ ดาริโอ อาโมเดอี ซีอีโอของ Anthropic แซม อัลต์แมน ซีอีโอของ OpenAI และอีลอน มัสก์ ซีอีโอของ SpaceX ต่างเคยแสดงความกังวลเกี่ยวกับมาตรการคุ้มครองที่ยังไม่เพียงพอ หรือความเร็วในการพัฒนาเทคโนโลยีที่มากเกินไป
เมื่อเดือนที่แล้ว นักวิจัยด้าน AI รายหนึ่งออกจาก Anthropic พร้อมกล่าวหาว่าบริษัทดังกล่าวและ OpenAI ซึ่งเป็นคู่แข่ง กำลังนำชีวิตมนุษย์ไปเสี่ยง ในวันเดียวกัน ผู้บริหารฝ่ายการปรับให้ AI สอดคล้องกับเป้าหมายมนุษย์ของ Anthropic ระบุว่า ภายใน 10 ปีข้างหน้า มีโอกาสมากกว่า 10% ที่เทคโนโลยีนี้จะทำให้มนุษยชาติสูญพันธุ์
ถ้อยแถลงเหล่านี้สะท้อนความสนใจของคนในอุตสาหกรรมต่อความเสี่ยงขั้นรุนแรง แต่ก็ทำให้การประเมินความเสี่ยง มาตรการกำกับดูแล และการสื่อสารต่อสาธารณะกลายเป็นประเด็นถกเถียงมากขึ้น
นโยบายสหรัฐฯ ยังมุ่งแข่งขันกับจีน
ประธานาธิบดีโดนัลด์ ทรัมป์ของสหรัฐฯ เคยลดทอนความเสี่ยงที่ AI อาจนำไปสู่การสูญพันธุ์ของมนุษย์หลายครั้ง พร้อมย้ำว่าสหรัฐฯ จำเป็นต้องเป็นผู้นำจีนในด้าน AI เมื่อไม่นานมานี้ ทรัมป์ยังประกาศจัดตั้ง “AI Force” ชุดใหม่ภายใต้การนำของเจย์ เคลย์ตัน ผู้อำนวยการข่าวกรองแห่งชาติ โดยมีภารกิจผลักดันการพัฒนาอุตสาหกรรมและตรวจสอบผู้ดำเนินการที่มีพฤติกรรมไม่เหมาะสม
สถานการณ์ดังกล่าวทำให้การกำกับดูแล AI เดินไปพร้อมกันสองด้าน ด้านหนึ่ง ผู้บริหารบริษัทและนักวิจัยเรียกร้องให้เพิ่มการควบคุมความปลอดภัย และบางส่วนสนับสนุนให้ชะลอการพัฒนาเทคโนโลยีแนวหน้า ขณะที่รัฐบาลสหรัฐฯ ยังคงเน้นความสามารถในการแข่งขันของอุตสาหกรรม พร้อมจัดตั้งกลไกที่เกี่ยวข้องกับความปลอดภัย
ข้อเสนอของนาเดลลาเรื่องการหยุดระบบโดยมนุษย์ การแยกระบบ การตรวจสอบ และการเปิดเผยเหตุขัดข้อง จึงมุ่งตอบคำถามที่เป็นรูปธรรมว่า จะเดินหน้าพัฒนาและใช้งาน AI ต่อไปอย่างไร โดยยังคงความสามารถของมนุษย์ในการแทรกแซงระบบไว้