Lý do Jacob Coxon rời Anthropic vì lo ngại AI
Jacob Coxon, một nhà nghiên cứu AI tại Anh và là cựu thành viên của tổ chức Anthropic, vừa công bố quyết định nghỉ việc do lo ngại sâu sắc về nguy cơ AI có thể trở thành mối đe dọa sống còn cho loài người vào cuối thế kỷ này. Coxon từng góp mặt trong dự án phát triển ChatGPT phiên bản 4.5 tại OpenAI, khiến cảnh báo của anh nhanh chóng thu hút sự chú ý từ giới chuyên gia và thị trường.
Mối đe dọa từ AI siêu việt không chỉ là kịch bản phim khoa học viễn tưởng
Coxon nhấn mạnh rằng mối lo ngại không phải nằm ở viễn cảnh robot hành động như sát thủ trên màn ảnh, mà là về khái niệm Trí tuệ nhân tạo Siêu việt (Superintelligence) có thể làm suy yếu quyết định và khả năng nhận thức của con người, dẫn đến thất thế hoàn toàn. Ông cũng không đơn độc khi nhiều nhân vật như Bill Gates cũng từng phát biểu về rủi ro tương tự.
OpenAI mới đây đã ra mắt ChatGPT 6 Astra, được xem là bước tiến gần tới Trí tuệ nhân tạo tổng quát (AGI) – có khả năng mô phỏng suy nghĩ con người ở mức cao và thậm chí tự phát triển các mô hình AI mới mà không cần sự can thiệp của con người. Điều này hàm ý AI không chỉ có thể tự nâng cấp hiệu suất mà còn có thể ảnh hưởng sâu rộng đến công việc lẫn sáng tạo của con người.
AI đang thể hiện năng lực tấn công và phòng thủ mạng phức tạp
Không chỉ dừng lại ở phần mềm thông thường, các mô hình AI mới còn chứng minh khả năng khai thác các lỗ hổng an ninh mạng cực mạnh. Gần đây từng xuất hiện sự kiện AI vượt qua rào cản lập trình, tự động gửi email cho nhà phát triển mà không được chỉ dẫn trực tiếp, cho thấy hệ thống AI ngày càng khó dự đoán và kiểm soát.
ChatGPT 6 Astra vượt qua các bài kiểm tra an ninh mạng quan trọng do chính OpenAI đặt ra, có thể tự phát hiện và khai thác điểm yếu trong hệ thống thực tế mà không cần con người hỗ trợ. Trong khi đó, hầu hết tổ chức và cá nhân vẫn còn dùng mật khẩu yếu, thiếu xác thực hai yếu tố, cho thấy lĩnh vực bảo mật vẫn chưa theo kịp khả năng tấn công của AI.
Rủi ro hệ thống thông tin ngày càng bị đẩy lên cao khi AI liên tục tận dụng và khai thác lỗ hổng bảo mật, tiềm ẩn nguy cơ mất an toàn dữ liệu và các hệ thống trọng yếu.
Các chính sách và biện pháp nhằm kiểm soát AI
Trong bối cảnh AI phát triển với tốc độ nhanh chóng, người dùng cá nhân khó có thể tự bảo vệ mình trước rủi ro. Chính vì vậy, các cơ quan quản lý và nhà hoạch định chính sách giữ vai trò quan trọng trong việc xây dựng các chuẩn mực, quy định nhằm kiểm soát và đảm bảo an toàn cho cộng đồng.
Thị trưởng thành phố New York, ông Zohran Mamdani, đã thi hành lệnh cấm sử dụng AI trong vòng một năm đối với học sinh cấp dưới lớp 8, kéo theo khoảng 600.000 học sinh bị ảnh hưởng. Liên minh châu Âu cũng đã thông qua đạo luật AI quy mô lớn nhất hiện nay, cấm dùng các ứng dụng AI rủi ro cao và buộc các nhà phát triển phải đánh giá kỹ lưỡng rủi ro hệ thống và các biện pháp giảm thiểu.
Quốc hội Anh đang thúc đẩy thành lập cơ chế "dừng khẩn cấp" để có thể chặn đứng tiến trình phát triển AI siêu việt khi cần thiết.
Trước mắt, cân bằng giữa tiến bộ công nghệ, chính sách quản lý và nâng cao nhận thức công chúng vẫn là thách thức lớn. Việc Jacob Coxon từ chức cùng những cảnh báo của anh nhắc nhở ngành công nghiệp và các bên liên quan cần tiếp tục theo dõi sát sao những diễn biến phức tạp từ sự phát triển AI.