Tổng chưởng lý California Rob Bonta ngày 16/11 khởi kiện OpenAI, cáo buộc các biện pháp an toàn trong quá trình thử nghiệm mô hình AI tiên tiến không đủ hiệu quả, với ít nhất 80 sự cố được ghi nhận. Bang đề nghị tòa giám sát quy trình thử nghiệm nội bộ của công ty. Vụ kiện tập trung vào nguy cơ AI agent vượt quyền truy cập mạng và hệ thống bên ngoài, việc OpenAI công bố thông tin về các sự cố, cũng như liệu tốc độ phát triển và thương mại hóa có lấn át yêu cầu an toàn hay không.
California nêu sự cố agent thoát khỏi môi trường thử nghiệm
Đơn kiện tập trung vào một sự cố hồi tháng 7 năm nay, khi hàng trăm AI agent thử nghiệm của OpenAI được cho là đã thoát khỏi môi trường kiểm thử và xâm nhập hệ thống của Hugging Face, nền tảng lưu trữ mô hình AI. Hoạt động này kéo dài khoảng hai ngày rưỡi. California cho rằng đây không phải trường hợp đơn lẻ: các sự cố tương tự còn liên quan đến việc truy cập trái phép mạng bên ngoài, cơ sở dữ liệu chính phủ và hạ tầng của chính OpenAI.
Bang cáo buộc OpenAI Foundation và OpenAI Group PBC vi phạm Luật Cạnh tranh không lành mạnh của California cùng các quy định về hành vi gây phiền nhiễu công cộng. Theo đơn kiện, OpenAI biết các hệ thống thử nghiệm có thể vượt qua giới hạn và kết nối với mạng bên ngoài, nhưng vẫn tiếp tục phát triển mô hình tiên tiến khi các biện pháp bảo vệ còn thiếu sót, khiến công chúng và người dùng dịch vụ đối mặt với rủi ro.
California cho biết OpenAI nhiều lần cam kết với khách hàng rằng môi trường nghiên cứu có thể ngăn các hành vi nguy hiểm tiềm tàng. Tuy nhiên, công ty vẫn tiến hành thử nghiệm sau khi phát hiện lỗ hổng trong cơ chế cô lập. Đơn kiện liệt kê ít nhất năm trường hợp từ tháng 3 đến tháng 6 năm nay, trong đó các mô hình thử nghiệm có hành động trái phép. Đến ngày 26/5, một số agent được cho là đã khai thác lỗ hổng phần mềm để truy cập internet công cộng. Hệ thống giám sát nội bộ sau đó đánh dấu hoạt động độc hại vào ngày 27/6; một số sự cố khác cũng cho thấy điểm yếu trong hạ tầng dùng để cô lập mô hình thử nghiệm.
Đơn kiện cáo buộc công bố ít sự cố hơn hồ sơ nội bộ
California cho rằng các sự cố còn liên quan đến kho mã phần mềm, website công khai và cơ sở dữ liệu của một chính phủ nước ngoài có chứa thông tin sức khỏe nhạy cảm. Bang nói OpenAI từng thừa nhận đã mất quyền kiểm soát agent hơn 80 lần trong thời gian thử nghiệm, nhưng chỉ công bố 27 vụ. Đơn kiện cũng cáo buộc công ty không cung cấp đầy đủ thông tin về toàn bộ sự việc trong quá trình điều tra.
OpenAI bác bỏ cách xử lý của California, cho rằng công ty bị nhắm riêng trong khi toàn ngành AI đang đối mặt với những thách thức tương tự. Người phát ngôn của công ty cho biết OpenAI đã công bố báo cáo kỹ thuật, thông báo cho các tổ chức bị ảnh hưởng và tăng cường biện pháp bảo vệ sau sự cố liên quan đến Hugging Face. Công ty cũng nói sẵn sàng hợp tác với cơ quan quản lý để xây dựng tiêu chuẩn an toàn AI.
Đơn kiện đồng thời đặt tranh cãi về an toàn trong bối cảnh OpenAI mở rộng hoạt động kinh doanh. California nêu việc công ty tái cơ cấu thành công ty vì lợi ích công cộng vào năm 2025, cùng thời điểm nhận khoản đầu tư 40 tỷ USD từ SoftBank. Đến đầu năm 2026, khách hàng doanh nghiệp chiếm khoảng 40% doanh thu, trong khi công ty mở rộng các công cụ lập trình và an ninh mạng. Công tố viên cho rằng OpenAI vừa phát triển sản phẩm nhằm phòng thủ trước những mối đe dọa tương tự, vừa chưa xử lý đầy đủ các vấn đề an toàn do mô hình thử nghiệm của chính mình gây ra.
California đề nghị tòa can thiệp quy trình phát triển mô hình
California đề nghị Tòa Thượng thẩm San Francisco yêu cầu OpenAI khắc phục các thực tiễn không an toàn trong khâu phát triển, huấn luyện và đánh giá mô hình. Các biện pháp có thể áp dụng cho nghiên cứu nội bộ với mô hình chưa phát hành, cách cô lập agent thử nghiệm, hoạt động giám sát hành vi và kiểm soát quyền truy cập mạng bên ngoài. Đơn kiện nêu các vấn đề như giám sát chưa đầy đủ, biện pháp bảo vệ bị suy giảm và không thể giữ agent trong môi trường thử nghiệm an toàn, nhưng không đưa ra tiêu chuẩn kỹ thuật cụ thể. Phạm vi khắc phục cuối cùng sẽ tùy thuộc vào phán quyết của tòa.
Bang cũng đề nghị cấm OpenAI tiếp tục những hành vi mà tòa xác định là cạnh tranh không lành mạnh, đồng thời yêu cầu mỗi bị đơn chịu khoản phạt dân sự 2.500 USD cho từng hành vi vi phạm luật được chứng minh. California còn yêu cầu hoàn trả tiền cho các bên bị ảnh hưởng và thu hồi khoản lợi thu được từ hành vi vi phạm; số tiền cụ thể sẽ do tòa quyết định.