La edición abierta · domingo 13 de septiembre 2026
El que lidera la carrera de IA pide bajar la velocidad
Dario Amodei, CEO de Anthropic, publicó el sábado un ensayo donde propone que las empresas de IA frenen el ritmo al que mejoran sus modelos. Anthropic ya dio el primer paso solo, dejando que evaluadores externos entren con acceso de empleado para auditar sus prácticas de seguridad. Es la primera vez que un líder de laboratorio pide, en público, ir más despacio en la carrera que él mismo encabeza.
El sábado 12 de septiembre, Dario Amodei publicó un ensayo público en el que propone un plan de tres pasos para que las empresas de inteligencia artificial moderen la velocidad a la que mejoran las capacidades de sus modelos. Anthropic ya cumplió el primer paso de forma unilateral: le dio a evaluadores externos acceso de nivel empleado para verificar sus prácticas de seguridad y reportar incidentes. El segundo paso pide a los laboratorios líderes de países democráticos coordinar estándares de seguridad comunes, y el tercero busca coordinación entre gobiernos democráticos y autoritarios.
Lo llamativo no es el contenido del plan, atado a una preocupación que ya circula desde 2023, cuando Amodei y Sam Altman firmaron junto a otros investigadores una declaración que pedía tratar el riesgo de extinción por IA como una prioridad global. Lo llamativo es quién lo pide y cuándo. Amodei dirige uno de los dos laboratorios que, según el investigador Ethan Mollick, hicieron esta semana las declaraciones más claras hasta ahora de que ya lograron alguna forma de auto mejora recursiva en sus modelos. Frenar la carrera mientras se declara haber cruzado una de sus líneas más críticas no es contradictorio: es la señal de que el que va adelante empieza a cuidar la ventaja tanto como a construirla.
Señal 01 · El antecedente
En 2023 ya se habló de riesgo de extinción
En 2023, Amodei firmó junto a Sam Altman, CEO de OpenAI, y otros investigadores prominentes una declaración pública que pedía tratar la mitigación del riesgo de extinción por IA como una prioridad global, al nivel de las pandemias o la guerra nuclear.
Esa declaración quedó como una frase de intención sin mecanismo. El ensayo de esta semana es la primera vez que uno de sus firmantes la traduce en un plan operativo, con pasos concretos y un compromiso propio ya cumplido.
El plan de tres pasos que Anthropic ya empezó a cumplir solo
El sábado 12 de septiembre, Amodei publicó el ensayo con el plan: primero, que los laboratorios se dejen auditar por evaluadores externos con acceso de nivel empleado; segundo, que los laboratorios líderes de países democráticos coordinen estándares de seguridad comunes; tercero, que haya coordinación entre gobiernos democráticos y autoritarios sobre el tema.
Anthropic no esperó a que nadie más se sume: ya implementó el primer paso, dándole a terceros la capacidad de entrar a verificar sus prácticas y reportar lo que encuentren. Es la diferencia entre pedir una regla y ya estar viviendo bajo ella.
Pedir ir más despacio mientras se declara haber acelerado
Esta misma semana, el investigador Ethan Mollick señaló que tanto Anthropic como OpenAI hicieron sus declaraciones más claras hasta ahora de que alguna forma de auto mejora recursiva, que un modelo participe en mejorar al que le sigue, ya está ocurriendo, aunque todavía en etapa temprana.
Las dos noticias llegaron casi juntas. Un laboratorio no pide frenar el propio ritmo de mejora porque le sobre confianza en que va a poder controlarlo: lo pide cuando empieza a sospechar que la ventaja de haber llegado primero también es la responsabilidad de no soltarla mal.
Venimos siguiendo cómo las empresas líderes empiezan a chocar entre la velocidad de desarrollo y la necesidad de gestionar el riesgo que ellas mismas generan. Ya lo vimos en cómo casi nadie le saca plata a la IA todavía a pesar de la inversión, y en el avance de compañías que operan con equipos cada vez más chicos gracias a agentes.
Para vos como profesional o dueño de negocio esto no significa que la IA se vaya a frenar mañana ni que convenga esperar a que se ordene antes de adoptarla en serio: los laboratorios más grandes van a seguir mejorando sus modelos, solo que ahora con más ojos externos mirando cómo lo hacen.
Lo que sí cambia es el estándar que se viene: auditoría externa, reporte de incidentes y coordinación entre actores. Si hoy usás IA en tu negocio sin ningún tipo de control ni registro de qué hace ni por qué, estás construyendo sobre una base que en poco tiempo va a quedar por debajo de lo que tus propios clientes y proveedores van a esperar.
La movida del día
Mirá qué proceso de tu negocio delegaste en IA sin ningún tipo de supervisión ni registro. Elegí uno solo y agregale un chequeo humano puntual esta semana: no para frenarlo, sino para poder explicar qué hizo y por qué si alguien te lo pregunta.
¿Dario Amodei pidió frenar el desarrollo de la IA?
No pidió detenerlo. Propuso un plan de tres pasos para pautar la velocidad con la que los laboratorios mejoran sus modelos: auditoría externa, estándares de seguridad comunes entre países democráticos y coordinación con gobiernos autoritarios. Anthropic ya cumplió el primer paso por su cuenta.
Esto, pero sobre lo tuyo.
La edición abierta lee el mundo. La tuya lee TU mundo — tu industria, tus proyectos, tus objetivos — y llega a tu casilla cada mañana. Nadie más recibe tu edición.
