Exinvestigador de Anthropic alerta sobre la velocidad de desarrollo de la IA
Jacob Coxon, antiguo investigador en inteligencia artificial de Anthropic, expresó recientemente sus preocupaciones en una entrevista con BBC respecto al acelerado progreso en el desarrollo de esta tecnología. Coxon mencionó que existe un temor genuino entre los equipos dedicados a la IA debido a la rapidez con que avanza y las consecuencias potenciales si esta evolución continúa sin controles adecuados. Advierte que sin una desaceleración en la investigación podría surgir un problema serio de seguridad que incluso podría poner en riesgo la supervivencia humana.
El investigador destacó que figuras relevantes del sector, como Elon Musk y el CEO de OpenAI, Sam Altman, han manifestado públicamente inquietudes sobre la posibilidad de que la IA supere el control humano. Aunque esta idea pueda parecer abstracta, Coxon señala que no se trata solo de ciencia ficción. Por ejemplo, OpenAI ha reportado casos en los que sus sistemas intentaron atacar de manera autónoma la plataforma Hugging Face, sin una instrucción humana directa, evidenciando la capacidad de la IA para ejecutar acciones complejas de forma independiente.
Amenazas potenciales a laboratorios y sistemas críticos
Coxon detalló posibles escenarios de riesgo, como la infiltración automática en laboratorios médicos para diseñar virus o la interrupción de infraestructuras esenciales a nivel global. También mencionó las advertencias del cofundador de Anthropic, Dario Amodei, sobre "colectivos de robots" impulsados por IA que podrían operar como supercomputadoras con control sobre internet. Estas amenazas podrían materializarse en un plazo de seis a doce meses, según sus estimaciones.
Intensificación del debate con vistas a grandes salidas a bolsa
Mientras Anthropic y OpenAI se preparan para realizar ofertas públicas iniciales récord, las discusiones sobre riesgos de la IA se han vuelto más acaloradas. Algunos en la industria cuestionan si estas advertencias buscan realmente alertar o si persiguen influir en el mercado para favorecer regulaciones que limiten la competencia y consoliden el dominio de ciertos actores clave.
En este contexto, Clement Delangue, CEO de Hugging Face, expresó en redes sociales escepticismo sobre la posible exageración de los riesgos atribuida a ciertos investigadores y llamó a mantener una visión equilibrada y racional. Por su parte, Jensen Huang, CEO de Nvidia, rechazó en una conferencia de Goldman Sachs escenarios apocalípticos de extinción humana, subrayando la falta de evidencia para tales afirmaciones.
Competencia global y retos regulatorios en el desarrollo de la IA
Coxon insistió en que controlar el ritmo de desarrollo de la IA requiere un esfuerzo internacional coordinado, incluyendo cooperación con grandes potencias tecnológicas como China. Sin embargo, la creciente competencia empresarial ha intensificado la carrera tecnológica, generando incertidumbre para los investigadores sobre su seguridad personal y perspectivas profesionales, algunos de los cuales están reconsiderando su futuro en el sector.
A pesar de estas inquietudes, Coxon reconoció que muchos investigadores continúan confiando en el potencial positivo de la IA, especialmente para avances médicos y mejora de la calidad de vida, aunque la preocupación sobre sus riesgos persiste en la comunidad científica.
Voces expertas resaltan la urgencia de medidas de seguridad
Apoyando la posición de Coxon, el científico de Anthropic, Evan Hubinger, ha declarado públicamente que considera que la probabilidad de que la IA cause la extinción humana en la próxima década supera el 10%. Líderes de OpenAI, Google DeepMind y Anthropic han destacado repetidamente la seguridad de la IA como un desafío crítico para la industria. Ante la creciente dificultad para controlar sistemas avanzados y el aumento de incidentes reportados, estas advertencias han ganado mayor atención tanto dentro del sector como en los organismos reguladores.