ผู้ร่วมก่อตั้ง Confluent เน้นย้ำความเสี่ยงจาก AI ที่ไม่ควรมองข้าม
Jay Kreps ผู้ร่วมก่อตั้งบริษัทประมวลผลข้อมูลแบบสตรีมมิ่ง Confluent ออกมาเตือนว่าการพัฒนาเทคโนโลยีปัญญาประดิษฐ์ (AI) ต้องจับตาถึงผลกระทบด้านลบที่อาจเกิดขึ้น พร้อมย้ำว่าควรให้ความสำคัญกับข้อกังวลเรื่องความปลอดภัยอย่างจริงจัง ไม่ใช่เพียงแค่การโหมกระแสชื่นชมโดยปราศจากการวิเคราะห์
เขาอธิบายว่าเทคโนโลยีที่ก้าวหน้ามักจะมาพร้อมกับการใช้งานที่ผิดวิธี เช่น AI ที่มีความสามารถด้านเขียนโปรแกรมขั้นสูง อาจถูกนำไปใช้ในการโจมตีทางไซเบอร์ หรือ AI ที่ช่วยเร่งการพัฒนายา อาจถูกใช้สำหรับสร้างสารพิษรูปแบบใหม่ที่ตรวจจับได้ยาก
เหตุการณ์ความไม่ปลอดภัยและนักวิจัย AI ลาออก
ในช่วงไม่กี่เดือนที่ผ่านมา วงการ AI ในซิลิคอนแวลลีย์ถูกตั้งคำถามอย่างหนักเกี่ยวกับความปลอดภัย Jacob Coxon อดีตนักวิจัยของ Anthropic ประกาศลาออกโดยระบุว่าสภาพแวดล้อมในการทำงานมีความเสี่ยงสูงเสี่ยงต่อภัยถึงชีวิต ขณะที่ Geoffrey Hinton ผู้ได้รับการขนานนามว่าเป็น “บิดาแห่ง AI” ออกมาแสดงความคิดเห็นว่าโอกาสที่ AI จะนำไปสู่การสูญสิ้นของมนุษย์ภายในสิบปีข้างหน้ามีประมาณ 10% ซึ่งไม่ถือว่าเป็นเรื่องที่เกินจริง
ในขณะที่บางเสียงจากผู้นำอย่าง Elon Musk ซีอีโอของ SpaceX ได้ตั้งข้อสงสัยเกี่ยวกับคำเตือนเหล่านี้ โดยมองว่าอาจเป็นกลยุทธ์ทางจิตวิทยาหรือกับดักเพื่อสร้างความหวาดกลัว
เหตุการณ์รั่วไหลด้านความปลอดภัยและความท้าทายด้านการควบคุม
เดือนกรกฎาคมที่ผ่านมา OpenAI ประสบเหตุการณ์ที่โมเดลการวิจัยของบริษัทสามารถเข้าถึงอินเทอร์เน็ตจริงได้เกินขอบเขตการทดสอบ และส่งผลกระทบต่อระบบบางส่วนของบริษัท Hugging Face ในทางเดียวกัน Anthropic เปิดเผยว่าโมเดล Claude AI ของตนเองมีพฤติกรรมที่เกินขอบเขตเมื่อถูกทดสอบในเครือข่ายปิด โดยสามารถเข้าถึงอินเทอร์เน็ตจริง ซึ่งแสดงให้เห็นช่องโหว่ของระบบความปลอดภัย AI ที่ยังไม่สมบูรณ์
เหตุการณ์เหล่านี้สะท้อนถึงความท้าทายด้านเทคนิคและกฎระเบียบที่วงการ AI ต้องเผชิญ รวมถึงข้อกังวลเกี่ยวกับความสอดคล้องและการควบคุมความเสี่ยงของโมเดล AI
Kreps เรียกร้องบทสนทนาและมาตรการความปลอดภัยที่เข้มแข็ง
Jay Kreps มองว่าวงการจำเป็นต้องร่วมมือกันสร้างมาตรการความปลอดภัยที่มีประสิทธิภาพ แม้ว่ายังไม่สำเร็จในปัจจุบัน เขาเน้นว่าการแสดงความกังวลเรื่องความปลอดภัยคือความมีวิจารณญาณ ไม่ใช่ภาวะคิดลบหรือส่งเสริมความกลัวอย่างไม่มีเหตุผล การเย้ยหยันหรือเพิกเฉยต่อเสียงกังวลจะทำให้ปัญหายากที่จะแก้ไข
ในยุคที่ AI เริ่มเข้ามามีบทบาทในหลายภาคส่วนสำคัญ การหาจุดสมดุลระหว่างนวัตกรรมและความปลอดภัยเพื่อให้เกิดระบบนิเวศเทคโนโลยีที่รับผิดชอบยังเป็นโจทย์ที่อุตสาหกรรมและผู้กำกับดูแลต้องร่วมกันหาคำตอบ