"O traicionas tus valores o te vuelves irrelevante": Dario Amodei avisa de lo que se nos viene encima con la IA

Dario Amodei lleva años haciendo algo poco habitual entre los directivos de la industria tecnológica: advertir en público sobre los riesgos del producto que vende. El CEO y cofundador de Anthropic ha vuelto a hacerlo, y esta vez con una frase que resume la tensión que atraviesa a todo el sector: o traicionas tus valores, o te vuelves irrelevante.

El contexto importa. Anthropic y OpenAI avanzan hacia sus respectivas salidas a bolsa con valoraciones que se acercan al billón de dólares, cifras que colocan a ambas compañías entre los activos más caros de la historia empresarial reciente. En ese escenario, cada decisión sobre seguridad, cada modelo que se retiene y cada capacidad que se libera tiene un coste competitivo inmediato.

El argumento de Amodei es el de la carrera de fondo: una empresa que se autoimpone límites estrictos de seguridad cede terreno frente a rivales que no lo hacen, y si cede demasiado terreno deja de tener influencia sobre cómo se despliega la tecnología. Anthropic nació precisamente de esa lógica —fundada por antiguos responsables de OpenAI que consideraban insuficientes las salvaguardas del sector— y ahora vive la contradicción en carne propia.

La consecuencia práctica es una gestión permanente de la tensión entre ritmo comercial y prudencia técnica. Amodei lo describe como el problema estructural de toda la industria: nadie puede frenar en solitario sin perder la capacidad de marcar el estándar.

La advertencia más concreta de Amodei es laboral. Su estimación es que la inteligencia artificial podría eliminar hasta la mitad de los empleos de oficina de nivel inicial en un plazo de entre uno y cinco años. Hablamos de las tareas que tradicionalmente sirvieron como puerta de entrada al mercado profesional: análisis básico de datos, redacción de informes, soporte administrativo, revisión documental, atención de primer nivel.

El escenario que describe es incómodo por su combinación: un PIB creciendo con fuerza gracias a los saltos de productividad y, al mismo tiempo, una tasa de desempleo elevada en ese segmento concreto. No es un colapso económico, es una desconexión entre riqueza agregada y acceso al trabajo, que golpea justo en el escalón donde antes se aprendía el oficio.

La pregunta que queda abierta es cómo se forma a la próxima generación de profesionales si desaparece el peldaño inferior de la escalera. Amodei no ofrece una respuesta cerrada; sí insiste en que la discusión debería estar ocurriendo ya en gobiernos y empresas, y no cuando el efecto sea visible en las estadísticas.

La revelación más llamativa de sus declaraciones tiene nombre propio. Amodei confirmó que Anthropic retuvo Mythos, su modelo más avanzado en capacidades de ciberseguridad, un sistema capaz de recorrer de forma autónoma la cadena completa de un ataque: reconocimiento, identificación de vulnerabilidades, desarrollo del exploit, ejecución y persistencia.

Su descripción fue tan directa como inquietante: Mythos es un arma total, y según sus palabras, debería requerir algo parecido a una licencia de armas para poder usarlo. La decisión de no lanzarlo al mercado —o de restringirlo a un círculo extremadamente controlado— es exactamente el tipo de renuncia comercial que ilustra su dilema inicial.

El caso plantea además una cuestión de gobernanza que ninguna regulación resuelve hoy: quién decide qué capacidades pueden existir, con qué criterio y con qué supervisión externa. Por ahora, esa decisión la toma un puñado de compañías privadas en función de su propio juicio.

Para las empresas que construyen sobre estos modelos, el mensaje operativo es que la frontera de capacidades se mueve más rápido que la de gobernanza, y que la responsabilidad de uso recae cada vez más en quien despliega, no en quien entrena. Para los profesionales, el aviso apunta a un desplazamiento del valor: menos ejecución de tareas replicables, más criterio, supervisión y diseño de sistemas.

Y para los reguladores, la conclusión es que los plazos que manejan —consultas, marcos voluntarios, revisiones plurianuales— no encajan con un ciclo de producto que se mide en meses. Amodei ha dicho en varias ocasiones que prefiere una regulación imperfecta y temprana a una perfecta y tardía. Sus últimas declaraciones son, sobre todo, una manera de subir el volumen de esa advertencia.