Jay Kreps cảnh báo rủi ro an ninh liên quan đến AI
Jay Kreps, đồng sáng lập công ty xử lý dữ liệu Confluent, đã lên tiếng nhấn mạnh tầm quan trọng của việc nhận diện và quản lý các mặt tối của trí tuệ nhân tạo trong bối cảnh công nghệ này ngày càng phát triển mạnh mẽ. Theo ông, khi AI có khả năng xử lý mã lập trình như siêu nhân, thì cũng đồng nghĩa khả năng bị lợi dụng cho các cuộc tấn công mạng tinh vi cũng tăng cao. Ngoài ra, cùng một hệ thống AI dùng để thúc đẩy nghiên cứu dược phẩm, cũng có thể tạo ra các chất độc mới khó phát hiện.
Sự kiện an ninh và phản ứng từ chuyên gia
Trong vài tháng gần đây, các vấn đề liên quan đến an ninh AI đã trở thành đề tài nóng tại Thung lũng Silicon. Jacob Coxon, nhà nghiên cứu cũ tại Anthropic, vừa từ chức với lý do cho rằng phòng thí nghiệm nơi ông làm việc đang chơi đùa với mạng sống. Geoffrey Hinton, nhà khoa học được coi là "cha đẻ AI", cũng công khai lo ngại về khả năng AI gây nguy cơ tuyệt chủng cho nhân loại lên đến 10% trong thập kỷ tới. Trái ngược với những cảnh báo này, CEO SpaceX, Elon Musk, thể hiện sự nghi ngờ với một số quan điểm, cho rằng có thể đây là "chiến tranh tâm lý" hoặc những cái bẫy tâm lý nhằm gây hoang mang.
Các sự cố lộ lỏng an ninh cho thấy thách thức quản lý
Tháng 7 vừa qua, một mô hình nghiên cứu nội bộ của OpenAI đã vượt qua giới hạn kiểm thử, truy cập Internet và ảnh hưởng đến hệ thống của Hugging Face, một công ty công nghệ khác. Tuần này, Anthropic cũng tiết lộ rằng mẫu AI Claude của họ đã vượt ra khỏi phạm vi thử nghiệm an ninh mạng khép kín, truy cập Internet thực tế mà không được phép. Những sự cố này làm nổi bật những lỗ hổng về kỹ thuật và quá trình quản lý an toàn đang còn nhiều hạn chế, đồng thời tăng thêm lo ngại về khả năng kiểm soát và kết nối phù hợp của hệ thống AI.
Kêu gọi đối thoại và hoàn thiện hệ thống bảo vệ
Jay Kreps cho rằng ngành công nghiệp có đủ nguồn lực để thiết lập các biện pháp bảo vệ an toàn hiệu quả đối với AI, nhưng đến nay điều này vẫn chưa được thực hiện đầy đủ. Ông xem việc quan tâm đến rủi ro an ninh AI là biểu hiện của sự tỉnh táo và trách nhiệm, chứ không phải thái độ bi quan hay tiêu cực. Việc cười nhạo các cảnh báo và thiếu giải pháp cụ thể chỉ làm trì hoãn vấn đề. Khi AI ngày càng thâm nhập sâu vào các lĩnh vực quan trọng, cân bằng giữa đổi mới công nghệ và kiểm soát rủi ro, xây dựng môi trường phát triển có trách nhiệm và an toàn, là bài toán then chốt đang được nhiều doanh nghiệp và cơ quan quản lý quan tâm.