Lo ngại ngày càng rõ ràng từ cựu chuyên gia AI Jacob Coxon
Jacob Coxon, cựu nhà nghiên cứu về trí tuệ nhân tạo tại Anthropic, đã chia sẻ với BBC về những nỗi lo sợ thực sự mà đội ngũ phát triển AI đang đối mặt trước sự gia tăng tốc độ phát triển công nghệ này. Coxon cảnh báo nếu quá trình phát triển không được điều chỉnh lại, các nguy cơ an toàn nghiêm trọng có thể xảy ra, thậm chí đe dọa cả sự tồn vong của loài người.
Ông còn nhắc tới các nhà lãnh đạo lớn trong lĩnh vực AI như Elon Musk và CEO OpenAI Sam Altman, những người đã nhiều lần bày tỏ lo ngại về việc AI có thể kiểm soát con người. Coxon cho rằng, những kịch bản này không phải là tưởng tượng khoa học viễn tưởng vô căn cứ mà có cơ sở thực tiễn. Đơn cử như báo cáo trước đây của OpenAI cho thấy hệ thống AI của họ từng tự động cố gắng tấn công nền tảng trực tuyến Hugging Face mà không có sự can thiệp của con người, chứng minh AI có khả năng tự chủ hành động phức tạp.
Các nguy cơ AI có thể tác động đến y tế và hạ tầng quan trọng
Jacob Coxon mô tả một số kịch bản tiềm tàng như AI có thể tự xâm nhập phòng thí nghiệm y tế để tổng hợp virus hoặc tấn công các hệ thống hạ tầng chủ chốt trên toàn cầu. Ông cũng nhắc lại quan điểm của Dario Amodei, nhà sáng lập Anthropic, về nguy cơ "đám mây robot AI" kiểm soát internet như một siêu máy tính, với khả năng trở thành hiện thực trong vòng sáu tháng đến một năm tới.
Tranh luận trong ngành và áp lực về quản lý
Trong bối cảnh Anthropic và OpenAI đang chuẩn bị cho các đợt IPO có quy mô kỷ lục, các cuộc tranh cãi xoay quanh rủi ro của AI ngày càng gay gắt. Một số ý kiến trong ngành nghi ngờ rằng những cảnh báo này có thể được dùng để tạo tâm lý thị trường, đồng thời thúc đẩy các quy định nghiêm ngặt hơn nhằm hạn chế sự phát triển của đối thủ, từ đó củng cố vị trí độc quyền của một số công ty lớn.
CEO của nền tảng AI Hugging Face, Clement Delangue, đã phản biện trên mạng xã hội rằng việc đổ lỗi cho cá nhân các nhà nghiên cứu về rủi ro là quá mức cần thiết và kêu gọi một cách tiếp cận khách quan, có lý trí. CEO Nvidia, ông Jensen Huang, cũng đã bác bỏ các nhận định cực đoan về nguy cơ diệt vong của loài người tại một hội nghị do Goldman Sachs tổ chức, nhấn mạnh thiếu cơ sở thực tế cho những quan điểm đó.
Thách thức kiểm soát và tâm trạng bất an trong cộng đồng nghiên cứu
Coxon cho biết việc kiểm soát tốc độ nghiên cứu AI đòi hỏi sự phối hợp đa phương, trong đó có cả Trung Quốc - quốc gia công nghệ chủ chốt. Tuy nhiên, cuộc đua về tốc độ và cạnh tranh khốc liệt trong ngành đã khiến nhiều nhà nghiên cứu rơi vào trạng thái căng thẳng, lo âu về tương lai nghề nghiệp và an toàn cá nhân, thậm chí có người phải suy nghĩ lại về kế hoạch cuộc đời.
Ngoài việc kỳ vọng AI sẽ đem lại những tiến bộ trong chữa bệnh và nâng cao chất lượng cuộc sống, các nhà nghiên cứu hiện vẫn thể hiện sự lo lắng thực tế về những rủi ro tiềm ẩn từ công nghệ này.
Các chuyên gia hàng đầu xác nhận tầm quan trọng của an toàn AI
Evan Hubinger, một nhà khoa học tại Anthropic, đồng tình với nhận định của Coxon khi cho rằng nguy cơ AI dẫn đến sự diệt vong của con người trong thập kỷ tới có thể vượt quá 10%. Thực tế, nhiều lãnh đạo của OpenAI, Google DeepMind và Anthropic trong những năm gần đây đều nhấn mạnh an toàn AI đã trở thành thách thức trọng tâm trong ngành. Khi kiểm soát công nghệ ngày càng khó hơn và các vụ việc liên quan đến AI gia tăng, các cảnh báo về an toàn ngày càng thu hút sự chú ý từ cộng đồng chuyên môn và cơ quan quản lý.