Brad Smith, presidente de Microsoft, reclama normas internacionales de seguridad para la inteligencia artificial que incluyan la notificación obligatoria de incidentes, mecanismos para detener sistemas en caso de emergencia y revisiones independientes de algunos productos antes de su lanzamiento. Sostiene que la IA está sujeta a menos exigencias de seguridad que productos cotidianos, como las lavadoras o la leche, y plantea qué responsabilidades deben asumir las empresas cuando sus sistemas fallan y qué información deben recibir los usuarios afectados.
Smith propone notificar incidentes y poder detener sistemas
En una entrevista con el programa Big Boss Interview de la BBC, Smith describió la IA como una «herramienta» y también como un «arma», y defendió que la regulación empiece ahora. Las empresas, dijo, deberían poder pausar o ralentizar sus sistemas si funcionan mal o causan problemas graves. Este tipo de mecanismo suele denominarse «interruptor de emergencia» o kill switch.
También planteó que la ley obligue a las compañías a informar de los incidentes. Si un agente de IA causa daños o un sistema queda comprometido, las personas afectadas deberían recibir una notificación. Para ciertos productos nuevos, propuso que evaluadores independientes del Gobierno los examinen antes de que lleguen al mercado.
Smith señaló las normas de seguridad de otros bienes de consumo como posible referencia. «Hoy las lavadoras están sujetas a más reglas de seguridad que la IA», afirmó. «Cada envase de leche que se vende en una tienda debe cumplir normas de seguridad y someterse a inspecciones».
Diferencias entre Washington y Londres sobre la regulación
La postura de Smith contrasta con la preferencia del presidente de Estados Unidos, Donald Trump, por la autorregulación del sector. Trump ha sostenido que las empresas estadounidenses no deberían verse frenadas por normas mientras compiten con China y ha repetido que «quien gane en IA lo tendrá todo». Smith considera que los compromisos voluntarios no bastan, especialmente cuando algunas compañías no están dispuestas a asumir responsabilidades.
El debate sobre el ritmo de desarrollo de la IA y las salvaguardas necesarias se ha intensificado. Responsables de Anthropic, OpenAI y Google DeepMind han respaldado propuestas para ralentizar el desarrollo, mientras que Trump se ha opuesto a esa posibilidad. Smith advirtió de que hacen falta reglas si los agentes de IA escapan al control humano o alcanzan una capacidad que amenace la ciberseguridad mundial.
El presidente de Microsoft cree que el Reino Unido puede contribuir a impulsar las conversaciones internacionales por sus capacidades de investigación en seguridad de la IA. El AI Safety Institute británico se creó durante el mandato del ex primer ministro Rishi Sunak y ahora se llama AI Security Institute. Smith afirmó que en el sector tecnológico se reconoce al país por sus capacidades técnicas en este ámbito.
Preguntado por la posibilidad de que Washington acepte normas impulsadas desde Londres, Smith dijo que los políticos estadounidenses ven al Reino Unido de forma distinta a la Unión Europea. A su juicio, eso podría facilitar que Estados Unidos aceptara estándares propuestos por Londres. No afirmó que ambos países hayan acordado un marco regulatorio concreto.
Smith considera insuficiente el compromiso firmado en la Casa Blanca
A finales del mes pasado, Trump se reunió en la Casa Blanca con responsables de OpenAI, Anthropic, Nvidia, SpaceX, Meta y Google. Las empresas firmaron un compromiso voluntario, basado en principios éticos, para colaborar con «auditores independientes» que comprueben si los sistemas de IA funcionan según lo previsto y si evitan acceder o interferir de forma no intencionada en infraestructuras técnicas.
Smith calificó el compromiso de «paso bueno y necesario» y señaló que Microsoft estaría dispuesta a firmarlo. Sin embargo, considera que los acuerdos voluntarios ya no son suficientes. Las empresas que se toman en serio el cumplimiento probablemente adoptarán salvaguardas; el reto, dijo, es cómo abordar a las que no se autorregulan.
Por tanto, la discusión no se limita a cómo evaluar los modelos de IA. También abarca quién realiza esas evaluaciones, qué deben comunicar las empresas después de un incidente y si las normas pueden aplicarse a compañías que no se imponen controles por sí mismas. La propuesta de Smith de establecer reglas mundiales de seguridad para la IA sigue pendiente de concreción.