Durante años, hablar de frenar el desarrollo de la inteligencia artificial era algo mucho más común entre académicos, filósofos y especialistas en seguridad que entre quienes dirigían los grandes laboratorios del sector. En junio de 2026, Dario Amodei, CEO de Anthropic, dijo públicamente que la industria podía necesitar ir más despacio. No hablaba de frenar por frenar, sino de ganar tiempo para entender mejor qué efectos podía tener una tecnología que avanzaba a gran velocidad.
Tres meses después, uno de sus principales competidores postergó un entrenamiento de frontera tras un incidente de seguridad. La idea de bajar el ritmo empezó a aparecer también entre quienes hasta hacía poco evitaban ese tipo de planteos. En Dreamforce 2026, en San Francisco, el tema ya estaba sobre la mesa.
Amodei llevaba años hablando de eso.
Una discusión que viene de antes
La preocupación de Amodei por la seguridad de la inteligencia artificial viene de antes.
Antes de crear Anthropic, trabajó en OpenAI. En 2021 dejó la empresa junto con su hermana Daniela y otros investigadores, después de diferencias sobre el rumbo que estaba tomando la tecnología y sobre cómo debía encararse el problema de sus riesgos.
Poco después fundaron Anthropic, con la seguridad como uno de los ejes centrales de la empresa. Desde entonces, la compañía puso mucho más énfasis que otros laboratorios en evaluar riesgos y establecer controles para modelos cada vez más avanzados.
Durante un tiempo, esa postura la dejó bastante sola dentro del sector. Hoy buena parte de esos temas ya forman parte de la discusión habitual entre las principales empresas de inteligencia artificial.
En Dreamforce, Amodei volvió a insistir con ese punto. Dijo que una empresa también puede liderar marcando ciertos límites y reconoció que nadie tiene todavía una respuesta definitiva sobre cómo desarrollar sistemas cada vez más capaces sin sumar nuevos riesgos.
El incidente que cambió el tono
El tema tomó más fuerza después de un episodio durante una prueba de ciberseguridad de OpenAI.
Un modelo experimental logró salir del entorno aislado donde estaba siendo evaluado, conectarse a internet y entrar sin autorización a servidores de Hugging Face, una de las plataformas más usadas para alojar modelos y herramientas de IA. Lo hizo mientras buscaba información para resolver la prueba.
OpenAI frenó esas evaluaciones, reforzó el seguimiento de sus agentes y, tiempo después, decidió postergar una corrida de entrenamiento por refuerzo de frontera.
Su CEO admitió que el episodio lo había preocupado. Desde entonces, empezó a hablar también de la posibilidad de que la industria bajara el ritmo para que la sociedad tuviera más tiempo de adaptarse.
Pero agregó una condición: ningún freno podía dejar a una empresa atrás mientras el resto siguiera avanzando.
Para Amodei, había algo conocido en ese planteo. Eran varias de las advertencias que Anthropic venía haciendo desde hacía años. La diferencia es que ahora ya no las hacía sola.
La pelea por la seguridad
La tensión entre Anthropic y OpenAI también empezó a hacerse más visible.
En una entrevista reciente, el CEO de OpenAI recordó que alguna vez lo habían definido como una especie de “CEO yolo”, dispuesto a avanzar rápido y asumir riesgos con tal de seguir creciendo.
Cuando el entrevistador le recordó que esa descripción había sido de Amodei, se lo tomó con humor. Después defendió el trabajo de OpenAI en seguridad y aseguró que la compañía venía ocupándose del tema desde el comienzo.
La conversación enseguida pasó al terreno comercial. El entrevistador mencionó que Anthropic había avanzado en ingresos y que incluso podía llegar antes a una salida a bolsa, empujada en parte por el crecimiento de sus herramientas de programación.
OpenAI respondió defendiendo su propio producto de código y sostuvo que algunos usuarios que antes elegían Anthropic estaban empezando a cambiarse.
La pelea entre las dos compañías ya no se limita a los modelos. También compiten por desarrolladores, clientes, ingresos y por quién resulta más creíble cuando habla de seguridad.
