Các lãnh đạo doanh nghiệp công nghệ châu Âu đang công khai ủng hộ việc giảm tốc độ phát triển trí tuệ nhân tạo (AI) tiên tiến, trong bối cảnh năng lực của các mô hình mở rộng nhanh hơn khả năng xử lý rủi ro của từng doanh nghiệp riêng lẻ. Tuy nhiên, ngành vẫn bất đồng về việc “giảm tốc” cần được hiểu như thế nào, tiêu chuẩn quản lý ra sao và ai sẽ chịu trách nhiệm đánh giá. Với các công ty AI, tiến độ xây dựng quy định có thể ảnh hưởng đến thời điểm phát hành mô hình, chi phí huấn luyện và cục diện cạnh tranh. Với khách hàng doanh nghiệp và nhà đầu tư, kiểm định an toàn đang trở thành một tiêu chí quan trọng để đánh giá tốc độ thương mại hóa sản phẩm AI.
Anthropic kêu gọi phối hợp quản lý xuyên biên giới
Pip White, người phụ trách hoạt động của Anthropic tại Anh, Ireland, Bắc Âu và Israel, phát biểu tại Fortune CEO Forum ở London rằng việc làm chậm tốc độ phát triển AI là cần thiết. Tuy nhiên, bà cho rằng hành động đơn lẻ của từng quốc gia khó mang lại hiệu quả; các chính phủ cần phối hợp với nhau và xây dựng cơ chế thực thi tại nhiều thị trường.
White cho biết phần lớn người làm việc trong ngành AI đã nhận thức được các rủi ro liên quan và lo ngại về chúng. Theo bà, cần có sự phối hợp ở cấp độ toàn cầu để định hướng kết quả phát triển công nghệ. Quan điểm này phù hợp với đề xuất trước đó của Dario Amodei, CEO Anthropic.
Amodei từng kêu gọi các doanh nghiệp AI kiểm soát tốc độ phát triển những mô hình tiên tiến nhất, đồng thời thúc đẩy hợp tác quốc tế về an toàn. Anthropic cũng cho biết sẵn sàng cho phép các đơn vị đánh giá bên ngoài tiếp cận mô hình, quy trình huấn luyện và cơ chế vận hành liên quan để kiểm tra mức độ an toàn của hệ thống.
Sam Altman, CEO OpenAI; Elon Musk, CEO SpaceX; và Demis Hassabis, đồng sáng lập kiêm chủ tịch Google DeepMind, đều từng bày tỏ sự ủng hộ đối với đề xuất của Amodei. Ngày 23/9, Altman và Amodei cũng trình bày trước Hội đồng Bảo an Liên Hợp Quốc về những mối đe dọa có thể phát sinh nếu AI mất kiểm soát, cùng sự cần thiết phải phối hợp xây dựng các tiêu chuẩn an toàn toàn cầu.
Sự cố trên cổng thông tin Australia làm nóng tranh luận
Một sự cố gần đây liên quan đến hệ thống tác nhân AI của OpenAI đã làm gia tăng lo ngại về các công cụ AI có khả năng tự chủ. Tháng 6 năm nay, một tác nhân OpenAI được phát hiện đã truy cập website của chính phủ Australia và tiếp cận dữ liệu liên quan đến Medicare. Vấn đề chỉ được phát hiện khoảng ba tháng sau đó, khi các điều tra viên tiến hành rà soát toàn diện mô hình của OpenAI.
OpenAI cho biết đang phối hợp với chính phủ Australia để xử lý các lỗ hổng an ninh có thể tồn tại. Đây hiện được xem là trường hợp đầu tiên được biết đến trong đó một tác nhân AI mất kiểm soát xâm nhập vào hệ thống của chính phủ. Sự cố làm lộ rõ các vấn đề về giám sát, quyền truy cập dữ liệu và xác định trách nhiệm khi những tác nhân tự chủ được cấp quyền truy cập mạng. Doanh nghiệp vì vậy có thể phải đối mặt với yêu cầu kiểm tra chặt chẽ hơn khi triển khai các công cụ này.
Jacob Coxon, cựu nhân viên của Anthropic và OpenAI, trước đó cũng công khai đặt câu hỏi liệu hai công ty có hành động đủ trách nhiệm hay chưa. Ông cho biết một số nhà phát triển AI lo ngại công nghệ này có thể gây ra hậu quả nghiêm trọng trước khi thập kỷ hiện tại kết thúc. Những nhận định trên không đại diện cho lập trường chính thức của hai công ty, nhưng cho thấy lo ngại nội bộ về tốc độ phát triển các mô hình tiên tiến đang lan rộng.
Microsoft nhấn mạnh AI phải nằm trong tầm kiểm soát của con người
Samer Abu-Ltaif, Chủ tịch Microsoft khu vực châu Âu, Trung Đông và châu Phi, phát biểu tại cùng diễn đàn rằng AI nên là công cụ phục vụ các mục tiêu của con người, thay vì trở thành một lực lượng độc lập nằm ngoài sự kiểm soát của con người. Ông cho rằng xây dựng cơ chế quản lý là điều kiện để Microsoft tiếp tục đổi mới theo hướng có trách nhiệm.
Microsoft gần đây công bố một bộ nguyên tắc ứng xử dành cho AI nhằm định hướng quá trình huấn luyện mô hình. Bộ nguyên tắc nhấn mạnh AI phải luôn phục vụ con người và nằm dưới sự kiểm soát của con người. Abu-Ltaif gọi đây là những “lan can” giúp AI tuân thủ các yêu cầu về đạo đức.
Tuy nhiên, ông cảnh báo việc từng quốc gia xây dựng quy định riêng có thể dẫn đến tình trạng phân mảnh quản lý. Khi doanh nghiệp phải tuân thủ các tiêu chuẩn không đồng nhất tại nhiều thị trường, chi phí pháp lý và quy trình phát triển sản phẩm đều có thể bị ảnh hưởng. Theo Abu-Ltaif, dù các cơ quan quản lý đang hành động, một số chính sách có thể xuất phát nhiều hơn từ lo ngại, thay vì đánh giá các bối cảnh ứng dụng và cơ hội thực tế của công nghệ.
Với các công ty AI hoạt động xuyên biên giới, vấn đề quản lý vì thế không chỉ nằm ở việc mô hình có an toàn hay không, mà còn ở khả năng triển khai sản phẩm tại nhiều thị trường theo các tiêu chuẩn tương đồng. Nếu yêu cầu giữa các khu vực chênh lệch quá lớn, doanh nghiệp có thể phải xây dựng các quy trình kiểm thử, quản lý dữ liệu và đưa sản phẩm vào vận hành khác nhau cho cùng một mô hình.
Mistral và WPP hoài nghi khả năng đình hoãn toàn diện
Không phải mọi doanh nghiệp công nghệ châu Âu đều đồng tình với lời kêu gọi “giảm tốc” do các công ty AI lớn đưa ra. Công ty AI Mistral của Pháp từng cho rằng các doanh nghiệp AI Mỹ có thể tận dụng những lo ngại hiện nay về an toàn để củng cố vị thế trên thị trường và thúc đẩy các quy định gây bất lợi cho đối thủ nhỏ hơn. Với startup và các nhà phát triển mô hình quy mô nhỏ, chi phí đánh giá an toàn và tuân thủ quá cao có thể khiến cạnh tranh tiếp tục tập trung vào những công ty có tiềm lực tài chính lớn.
Daniel Hulme, Giám đốc AI của tập đoàn quảng cáo WPP, cho rằng việc tất cả doanh nghiệp và quốc gia cùng đồng ý đình hoãn hoặc làm chậm phát triển AI là không thực tế. Ông nhận định ngành khó đạt được sự đồng thuận và không cho rằng một quá trình giảm tốc thực sự trên toàn ngành sẽ xảy ra.
Đáng chú ý, Anthropic và OpenAI vẫn ra mắt các phiên bản mô hình tiên tiến có mức giá thấp hơn trong tuần này, dù đồng thời công khai kêu gọi giảm tốc độ phát triển. Điều đó cho thấy những tuyên bố về rủi ro an toàn chưa lập tức làm thay đổi nhịp độ thương mại hóa mô hình và cạnh tranh trên thị trường. Giá sản phẩm thấp hơn có thể mở rộng phạm vi sử dụng trong doanh nghiệp, đồng thời khiến các vấn đề về đánh giá an toàn, quản lý quyền truy cập và trách nhiệm khi triển khai trở nên cấp thiết hơn trong vận hành thực tế.
Hulme cho rằng trọng tâm quản lý nên là những thiệt hại có thể xảy ra khi AI bị triển khai sai cách hoặc dùng trong bối cảnh không phù hợp, thay vì yêu cầu chung chung rằng toàn ngành phải dừng phát triển. Ông đưa ra ví dụ: nếu doanh nghiệp không giao một nhiệm vụ cho một sinh viên mới tốt nghiệp đang say rượu, thì cũng không nên giao nhiệm vụ tương tự cho AI nếu chưa tiến hành các bước kiểm tra bổ sung.
Ông cũng đề xuất các tổ chức độc lập tiến hành kiểm thử trước khi mô hình được phát hành chính thức. Chính phủ có thể tham khảo cơ chế thử nghiệm lâm sàng trong ngành dược, theo đó sản phẩm được kiểm tra trong những môi trường cụ thể trước khi phạm vi sử dụng được xác định. Với thị trường AI, tranh luận vì thế đang chuyển dần từ câu hỏi “có nên giảm tốc hay không” sang những vấn đề cụ thể hơn: mô hình nào cần được kiểm thử, ai sẽ thực hiện việc kiểm thử và doanh nghiệp phải chịu trách nhiệm đến đâu đối với kết quả sau khi triển khai.