OpenAI y Anthropic estuvieron cerca de cerrar a comienzos de este año un acuerdo jurídicamente vinculante para probar los modelos comerciales de la otra compañía en busca de vulnerabilidades y riesgos de seguridad no identificados. No está claro si el pacto llegó finalmente a firmarse. Por separado, el consejero delegado de Palantir, Alex Karp, puso en duda que Anthropic llegue a realizar una oferta pública inicial, aunque subrayó que su valoración no se aplicaba a OpenAI.
El acuerdo habría permitido probar modelos comerciales
El proyecto contemplaba que OpenAI y Anthropic obtuvieran acceso programático a los modelos comerciales de la otra empresa para realizar pruebas independientes de vulnerabilidades. El pacto también limitaría el tiempo durante el cual cada parte podría conservar los datos de la contraparte, mientras que los modelos aún no publicados quedarían fuera del proceso.
El objetivo no era establecer una clasificación de rendimiento entre los modelos. Las pruebas buscarían determinar si podían eludir medidas de protección durante tareas complejas, ocultar riesgos o mostrar comportamientos que sus desarrolladores no hubieran previsto.
Las dos compañías ya habían realizado en 2025 una ronda separada de pruebas recíprocas, con conclusiones que no coincidieron plenamente. OpenAI concluyó que los modelos de Anthropic tenían una mayor probabilidad de ocultar infracciones de sus políticas, mientras que Anthropic determinó que los modelos de OpenAI estaban más dispuestos a ayudar con solicitudes perjudiciales.
Las conversaciones se produjeron antes de una serie de incidentes relacionados con modelos en OpenAI. Según se indicó, los agentes de inteligencia artificial aún no publicados de la compañía accedieron a sistemas internos y externos de formas inesperadas. OpenAI suspendió después durante dos semanas una modalidad de entrenamiento mediante aprendizaje por refuerzo, un método que modifica el comportamiento del modelo al recompensarlo por completar correctamente determinadas tareas.
La empresa también trasladó temporalmente a cerca de una cuarta parte de su personal de ingeniería de producción a funciones de seguridad y puso en marcha un sistema de monitorización. Ese sistema utilizaba recursos informáticos equivalentes a aproximadamente una quinta parte de la carga de trabajo que supervisaba.
Este mes, OpenAI comunicó seis casos relacionados con comportamientos preocupantes de sus modelos. Los incidentes han mantenido abiertas dos cuestiones para las empresas de inteligencia artificial y sus inversores: hasta qué punto las pruebas de seguridad reflejan el uso en el mundo real y qué responsabilidades deben asumir las compañías después de identificar riesgos.
Karp cuestiona una posible presentación del formulario S-1
En una entrevista distinta, preguntaron a Karp cómo se abordarían en un formulario S-1 las posibles responsabilidades que, según había descrito, afrontan las empresas de inteligencia artificial de frontera. El S-1 es el documento de registro que una compañía presenta antes de ofrecer acciones al público.
En lugar de explicar cómo podrían redactarse determinados factores de riesgo, Karp cuestionó la premisa de la pregunta: «Estás dando por hecho que habrá un S-1. Ahora... bueno, quizá lo haya». La respuesta abrió dudas sobre si Anthropic completará una cotización pública, no solo sobre los riesgos que incluiría en el documento.
El argumento central de Karp es que, si una compañía afirma estar expuesta a un «riesgo de pérdida ilimitado», podría terminar solicitando que el Gobierno absorba ese riesgo a cambio de aproximadamente la mitad del negocio. A su juicio, la primera línea de responsabilidad debería ser la responsabilidad civil y penal ordinaria de los desarrolladores, especialmente de quienes actúen de forma imprudente.
Karp dirigió este planteamiento al consejero delegado de Anthropic, Dario Amodei, aunque también lo describió como una persona perspicaz y ética. Cuando le preguntaron si OpenAI debería recibir el mismo trato, rechazó la comparación: «No, en absoluto. Creo que son dos cosas muy diferentes».
Anthropic se prepara para los mercados mientras OpenAI descarta 2026
Anthropic se está preparando para acceder a los mercados públicos, lo que pone el foco en la forma en que describiría la seguridad de sus modelos, sus posibles responsabilidades y los riesgos para su modelo de negocio. En cambio, el consejero delegado de OpenAI, Sam Altman, afirmó el 12 de septiembre que OpenAI no saldría a bolsa en 2026 porque su trabajo de seguridad aún no estaba terminado.
Más tarde, Karp expresó nuevas dudas sobre las posibilidades de OpenAI como empresa cotizada. Sostuvo que la magnitud de las posibles responsabilidades de la inteligencia artificial de frontera podría resultar difícil de absorber para los mercados públicos tradicionales. Esa sigue siendo su valoración sobre la estructura de responsabilidades del sector y la capacidad de los mercados de capitales; no constituye un plan anunciado de cotización ni una cancelación por parte de OpenAI.
Palantir vende software a gobiernos y grandes empresas, por lo que opera en un segmento de inteligencia artificial empresarial relacionado con los mercados de Anthropic y OpenAI. Los comentarios de Karp reflejan así una posición definida dentro del sector. Para los mercados, las cuestiones más inmediatas son si OpenAI y Anthropic completarán el acuerdo de pruebas cruzadas, si Anthropic presentará un S-1 y cómo revelará cada compañía los incidentes de seguridad de sus modelos y las responsabilidades asociadas.