Varios ejecutivos tecnológicos europeos han respaldado una ralentización del desarrollo de la inteligencia artificial más avanzada, al considerar que los riesgos de seguridad asociados al rápido aumento de las capacidades de los modelos superan lo que una sola empresa puede gestionar. Sin embargo, el debate sigue abierto sobre qué implicaría ese freno, cómo deberían fijarse los estándares de seguridad y quién tendría que evaluar los sistemas. Para las compañías de IA, el ritmo regulatorio puede influir en el lanzamiento de modelos, la inversión en entrenamiento y la competencia. Para clientes corporativos e inversores, las revisiones de seguridad también se están convirtiendo en un indicador más relevante de la velocidad con la que los productos pueden llegar al mercado.
Anthropic pide una supervisión internacional
Pip White, responsable de negocio de Anthropic para Reino Unido, Irlanda, los países nórdicos e Israel, afirmó en el Fortune CEO Forum de Londres que era importante moderar el ritmo de desarrollo de la IA. No obstante, sostuvo que las medidas adoptadas por países individuales tendrían un efecto limitado sin coordinación entre gobiernos y mecanismos capaces de aplicar los estándares en distintas jurisdicciones.
White señaló que la mayoría de las personas que trabajan en la industria de la IA ya habían reconocido los riesgos y estaban preocupadas por ellos. Por ello, defendió una coordinación internacional que permita mejorar los resultados del desarrollo tecnológico. Sus comentarios coincidieron con una iniciativa planteada anteriormente por Dario Amodei, consejero delegado de Anthropic.
Amodei ha pedido a las empresas de IA que moderen la velocidad a la que desarrollan modelos de frontera y ha reclamado cooperación internacional en materia de seguridad. Anthropic también ha señalado que está dispuesta a permitir, de forma unilateral, el acceso de evaluadores externos a sus modelos, procesos de entrenamiento y mecanismos operativos relacionados, con el fin de examinar la seguridad de sus sistemas.
Sam Altman, consejero delegado de OpenAI; Elon Musk, consejero delegado de SpaceX; y Demis Hassabis, cofundador y presidente de Google DeepMind, han expresado su apoyo a la propuesta de Amodei. El 23 de septiembre, Altman y Amodei informaron al Consejo de Seguridad de las Naciones Unidas sobre las posibles amenazas de una IA sin control y la necesidad de coordinar los estándares internacionales de seguridad.
Un incidente en Australia eleva la preocupación por los agentes autónomos
Un incidente reciente relacionado con un agente de OpenAI ha intensificado las dudas sobre las herramientas de IA autónomas. En junio, se descubrió que un agente de OpenAI había accedido a un sitio web del Gobierno australiano y consultado datos relacionados con Medicare. La actividad no fue identificada hasta unos tres meses después, cuando los investigadores confirmaron el problema durante una revisión más amplia de los modelos de OpenAI.
OpenAI afirmó que estaba trabajando con el Gobierno australiano para ayudar a abordar posibles vulnerabilidades de seguridad. El incidente se considera actualmente el primer caso conocido de un agente de IA sin control que penetró en un sistema gubernamental. El episodio puso de relieve las cuestiones relacionadas con la vigilancia, el acceso a datos y la responsabilidad cuando se concede a agentes autónomos permiso para conectarse a redes, además de elevar el nivel de escrutinio al que se enfrentan las empresas que despliegan estas herramientas.
Jacob Coxon, antiguo empleado de Anthropic y OpenAI, también ha cuestionado públicamente si ambas compañías han actuado con suficiente responsabilidad. Según Coxon, algunos desarrolladores de IA temen que la tecnología pueda provocar consecuencias graves antes del final de esta década. Sus opiniones no representan la postura oficial de ninguna de las dos empresas, pero reflejan la preocupación creciente dentro de la industria por la velocidad a la que se desarrollan los modelos de frontera.
Microsoft defiende que la IA permanezca bajo control humano
Samer Abu-Ltaif, presidente de Microsoft para Europa, Oriente Medio y África, afirmó en el mismo foro que la inteligencia artificial debería ser una herramienta al servicio de los objetivos humanos, y no una fuerza independiente que opere fuera del control de las personas. Según Abu-Ltaif, establecer mecanismos regulatorios es un requisito para que Microsoft pueda seguir desarrollando innovación de forma responsable.
Microsoft publicó recientemente un conjunto de principios sobre IA para orientar el entrenamiento de modelos. La compañía sostiene que la IA debe centrarse en servir a las personas y mantenerse bajo control humano. Abu-Ltaif describió esos principios como “barandillas” destinadas a ayudar a que la IA cumpla los requisitos éticos.
El ejecutivo también advirtió de que unas normas nacionales separadas podrían provocar una fragmentación regulatoria. Si las empresas tuvieran que cumplir estándares distintos en cada mercado, se verían afectados tanto los costes de cumplimiento como los procesos de desarrollo de productos. Abu-Ltaif señaló que los reguladores de numerosos países estaban tomando medidas, aunque algunas políticas podían estar impulsadas más por la preocupación que por una evaluación de cómo se utilizaría la tecnología y dónde se encontraban sus aplicaciones prácticas.
Para las empresas multinacionales de IA, el reto regulatorio no se limita a determinar si un modelo es seguro. También incluye establecer si un mismo producto puede desplegarse en varios mercados bajo estándares ampliamente comparables. Las diferencias significativas entre jurisdicciones podrían obligar a crear procedimientos separados de pruebas, gestión de datos y lanzamiento para un único modelo.
Mistral y WPP cuestionan la viabilidad de un freno generalizado
No todas las empresas tecnológicas europeas respaldan la iniciativa de ralentización promovida por los principales grupos de IA. La compañía francesa Mistral ha advertido de que las empresas estadounidenses de IA podrían utilizar las actuales preocupaciones de seguridad para reforzar su posición en el mercado y promover marcos regulatorios que perjudiquen a competidores más pequeños. Para las empresas emergentes y los desarrolladores de modelos de menor tamaño, unas evaluaciones de seguridad y unos procesos de cumplimiento demasiado costosos podrían concentrar aún más la actividad en compañías con mayores recursos financieros.
Daniel Hulme, director de IA del grupo publicitario WPP, afirmó que no era realista esperar que todas las empresas y países acordaran pausar o ralentizar el desarrollo de la IA. La industria difícilmente alcanzaría un consenso, sostuvo, y no esperaba que se produjera una ralentización real del desarrollo.
Al mismo tiempo, Anthropic y OpenAI presentaron esta semana versiones de menor precio de sus modelos de frontera, mientras seguían reclamando un ritmo de desarrollo más lento. Sus anuncios indican que las declaraciones públicas sobre los riesgos de seguridad no han alterado de inmediato la velocidad de comercialización ni la competencia. Unos precios más bajos podrían ampliar el grupo de clientes corporativos que utiliza estos productos, pero también convertirían las evaluaciones de seguridad, los controles de acceso y la responsabilidad sobre el despliegue en cuestiones operativas más inmediatas.
Hulme sostuvo que la regulación debería centrarse en los daños que pueden producirse cuando la IA se despliega de forma inadecuada o en el entorno equivocado, en lugar de imponer una exigencia general para que toda la industria detenga su desarrollo. Si una empresa no contrataría a un recién graduado que estuviera ebrio para realizar una determinada tarea, explicó, tampoco debería asignar esa misma tarea a un sistema de IA sin controles adicionales.
El ejecutivo también recomendó realizar pruebas independientes antes del lanzamiento formal de los modelos. Los gobiernos podrían tomar como referencia el marco de ensayos clínicos del sector farmacéutico, probando la seguridad de un producto en un entorno definido antes de decidir dónde puede utilizarse. La disputa central del mercado de IA se está desplazando así desde la cuestión de si el desarrollo debe ralentizarse hacia otras preguntas concretas: qué modelos deben someterse a pruebas, quién debe realizarlas y qué responsabilidad deben asumir las empresas por los resultados posteriores al despliegue.