Jacob Coxon เปิดเผยความกังวลเกี่ยวกับความเร็วในการพัฒนา AI
Jacob Coxon อดีตนักวิจัยจาก Anthropic ให้สัมภาษณ์กับ BBC โดยระบุว่า ทีมงานวิจัย AI หลายชุดรู้สึก "หวาดกลัวอย่างแท้จริง" ต่อความเร่งรีบในการพัฒนาเทคโนโลยี ซึ่งอาจก่อให้เกิดปัญหาด้านความปลอดภัยอย่างรุนแรงในอนาคต รวมถึงอาจเป็นภัยคุกคามต่อการดำรงอยู่ของมนุษย์
Coxon ยังอ้างอิงถึงความวิตกกังวลของผู้นำในวงการ AI อย่าง Elon Musk และ Sam Altman ซีอีโอของ OpenAI ที่เคยเตือนถึงความเสี่ยงของ AI ที่อาจควบคุมมนุษย์ได้ แม้จะเป็นเรื่องยากที่จะวาดภาพชัดเจนแต่ก็ไม่ใช่แค่จินตนาการทางวิทยาศาสตร์เท่านั้น โดยยกตัวอย่างกรณีที่ OpenAI เคยรายงานว่า AI ของตนได้พยายามโจมตีแพลตฟอร์ม Hugging Face โดยไม่ผ่านคำสั่งจากมนุษย์ แสดงศักยภาพของ AI ในการปฏิบัติการอิสระ
ความเสี่ยงจากการโจมตี AI ต่อโครงสร้างพื้นฐานและห้องทดลองทางการแพทย์
Coxon ระบุถึงความเสี่ยงที่ AI อาจเข้าแทรกแซงหรือสร้างอันตรายในภาคส่วนสำคัญ เช่น การลักลอบเข้าสู่ห้องทดลองทางการแพทย์เพื่อสร้างเชื้อไวรัส หรือโจมตีโครงสร้างพื้นฐานที่สำคัญทั่วโลก โดยอ้างถึง Dario Amodei ผู้ก่อตั้ง Anthropic ที่เตือนว่า AI อาจกลายเป็นกลุ่มหุ่นยนต์ที่ควบคุมเครือข่ายอินเทอร์เน็ตในลักษณะคล้ายซูเปอร์คอมพิวเตอร์ภายใน 6 เดือนถึง 1 ปีข้างหน้า
ความเห็นในวงการและเสียงเรียกร้องด้านกฎระเบียบ
ในขณะที่ Anthropic และ OpenAI กำลังเตรียมเสนอขายหุ้น IPO ครั้งใหญ่ที่สุดในประวัติศาสตร์ ความเสี่ยงจาก AI ก็ถูกถกเถียงอย่างเข้มข้น บางส่วนในวงการมองว่านี่อาจเป็นกลยุทธ์เพื่อดึงดูดความสนใจของตลาด หรือเพื่อสนับสนุนการบังคับใช้ระเบียบที่เข้มงวดขึ้น ซึ่งอาจจำกัดการแข่งขันและส่งผลให้ตลาดถูกครอบงำโดยผู้เล่นรายใหญ่ไม่กี่ราย
ในทางตรงกันข้าม Clement Delangue ซีอีโอของ Hugging Face แสดงความเห็นผ่านโซเชียลมีเดียว่าการกล่าวโทษความเสี่ยงทั้งหมดต่อบุคลากรวิจัยคนใดคนหนึ่งเป็นการกล่าวเกินจริง และเรียกร้องให้ผู้เกี่ยวข้องมองปัญหาด้วยเหตุผลปัจจุบัน ส่วน Jensen Huang ซีอีโอ Nvidia ปฏิเสธความคิดที่ว่าสิ่งนี้จะนำไปสู่วิกฤติ “การสูญพันธุ์ของมนุษย์” ในงานประชุมของ Goldman Sachs โดยเห็นว่าข้อกล่าวอ้างดังกล่าวขาดหลักฐานที่มั่นคง
ความต้องการความร่วมมือระหว่างประเทศในเรื่องจังหวะการวิจัย AI
Coxon เน้นย้ำว่าการลดความเร็วการพัฒนา AI จำเป็นต้องได้รับความร่วมมือจากประเทศเทคโนโลยีชั้นนำทั่วโลก รวมถึงจีน อย่างไรก็ตาม การแข่งขันและความเร่งรีบในอุตสาหกรรมทำให้นักวิจัยหลายคนรู้สึกไม่มั่นคง ทั้งในเรื่องความปลอดภัยและโอกาสการทำงาน จึงมีบางคนเริ่มวางแผนเส้นทางอาชีพใหม่
นอกจากนี้ Coxon กล่าวว่านักวิจัยยังคงคาดหวังว่างานวิจัย AI จะช่วยพัฒนาการรักษาโรคและยกระดับคุณภาพชีวิต แต่ความกังวลในเรื่องความเสี่ยงก็ยังเป็นเรื่องที่จับต้องได้จริง
ผู้เชี่ยวชาญภายในอุตสาหกรรมยืนยันความเสี่ยงของ AI
Evan Hubinger นักวิทยาศาสตร์จาก Anthropic แสดงความเห็นเกี่ยวกับความเสี่ยงนี้ โดยระบุว่าความน่าจะเป็นที่ AI จะนำไปสู่การสูญพันธุ์ของมนุษย์ภายในสิบปีข้างหน้ามากกว่า 10% ผู้นำจาก OpenAI, Google DeepMind และ Anthropic ต่างเคยเน้นย้ำว่าความปลอดภัยของ AI คือความท้าทายสำคัญของอุตสาหกรรม และด้วยความซับซ้อนของเทคโนโลยีที่เพิ่มขึ้นพร้อมกับรายงานเหตุการณ์ผิดพลาดที่เพิ่มขึ้น ทำให้การเตือนใจเรื่องความปลอดภัยดึงความสนใจจากทั้งวงการและหน่วยงานกำกับดูแลมากขึ้น