Un empleado de Anthropic afirma que hay más de un 10% de probabilidades de que la IA destruya a la humanidad

La discusión sobre el riesgo existencial de la inteligencia artificial volvió al centro del debate mundial. Evan Hubinger, investigador senior de Anthropic y vinculado a trabajos de alineamiento de IA, afirmó públicamente que, en su estimación personal, existe una probabilidad superior al 10% de que la IA pueda “matar a todos los humanos” dentro de la próxima década. La frase apareció después de la renuncia de Jacob Coxon, investigador de Anthropic y extrabajador de OpenAI, quien acusó a los principales laboratorios de IA de estar “apostando con nuestras vidas”.

El dato debe leerse con precisión: no es una predicción oficial de Anthropic, no es una probabilidad demostrada científicamente y no significa que la destrucción humana sea inevitable. Es la evaluación personal de un investigador que trabaja precisamente en el problema de cómo controlar sistemas de IA cada vez más capaces. Aun así, el hecho de que una voz interna de uno de los laboratorios más importantes del mundo lo diga públicamente revela una tensión profunda: las mismas empresas que construyen modelos frontera también admiten que no tienen una solución completa para garantizar que una futura superinteligencia permanezca alineada con los intereses humanos.

1. Qué dijo exactamente el empleado de Anthropic

La declaración que encendió la alarma vino de Evan Hubinger. Según reportes de Forbes, The Verge, CBS News, Axios y The Guardian, Hubinger respaldó la preocupación de Jacob Coxon y sostuvo que su propia estimación supera el 10% de probabilidad de una catástrofe humana causada por IA dentro de la próxima década.

El contexto importa. Hubinger no hablaba de la IA actual como un chatbot común, sino de sistemas futuros capaces de actuar de forma autónoma, mejorar capacidades, desarrollar estrategias largas y operar con acceso a herramientas digitales o infraestructuras reales. Esa preocupación pertenece al campo del alineamiento de IA: cómo lograr que sistemas más inteligentes, autónomos y potentes hagan lo que los humanos realmente quieren, incluso cuando tengan incentivos, objetivos o capacidades difíciles de supervisar.

2. La renuncia de Jacob Coxon: el detonante del debate

La frase de Hubinger apareció después de que Jacob Coxon anunciara su salida de Anthropic. Coxon, que también trabajó antes en OpenAI, afirmó que los principales laboratorios están compitiendo por construir sistemas superhumanos que podrían salirse de control y que, pese a conocer el riesgo, continúan porque creen que sus rivales serían menos responsables.

Este punto es clave: la crítica no viene únicamente desde activistas externos o académicos alejados de la industria. Viene de personas que han estado dentro de los laboratorios que desarrollan la tecnología. Eso no convierte automáticamente sus predicciones en ciertas, pero sí eleva el peso del debate porque conocen de primera mano el ritmo de avance, las capacidades internas y las tensiones entre seguridad, competencia y lanzamiento comercial.

3. Qué significa p(doom)

En los debates de IA se usa el término p(doom) para referirse a la probabilidad subjetiva que una persona asigna a que la IA cause una catástrofe existencial o un escenario de destrucción global. Axios recuerda que no existe una forma científica establecida de determinar con precisión esa probabilidad; son estimaciones personales basadas en supuestos sobre velocidad de avance, capacidad de control, incentivos económicos, seguridad técnica y gobernanza.

Por eso, decir “más de 10%” no es como decir que hay 10% de lluvia mañana, calculado con modelos meteorológicos y datos históricos. Es una forma de expresar que el riesgo se considera demasiado alto para ignorarlo. En gestión de riesgos, incluso una probabilidad baja puede justificar acción urgente cuando el impacto potencial es catastrófico.

p(doom) =
  probabilidad subjetiva
  de que la IA cause una catástrofe existencial

No es:
una predicción matemática exacta
una certeza científica
una fecha garantizada

Sí es:
una señal de preocupación
una herramienta de debate
una forma de expresar riesgo extremo

4. Por qué algunos investigadores creen que la IA podría ser un riesgo existencial

La preocupación se basa en una cadena de hipótesis: que los modelos avanzarán hasta niveles superiores a los humanos en muchas áreas; que podrán actuar de forma autónoma; que tendrán acceso a herramientas, código, infraestructura digital, laboratorios automatizados o sistemas económicos; que podrían perseguir objetivos no alineados; y que los humanos podrían perder capacidad de supervisión o apagado.

Axios resume que, para que un escenario extremo ocurra, los sistemas tendrían que mejorar mucho en planificación autónoma de largo plazo, ocultar acciones, evadir supervisión, ganar acceso a sistemas reales y resistir intentos de apagado. Es decir, no basta con un chatbot que responde mal: el riesgo extremo requiere agentes mucho más capaces, conectados y difíciles de controlar.

5. Anthropic ya había reconocido riesgos de frontera

Anthropic no es una empresa ajena al debate de seguridad. Su documento de “core views on AI safety” sostiene que existen razones para tomar en serio el riesgo de sistemas avanzados y distingue entre investigación para crear sistemas más útiles, honestos e inofensivos, e investigación que busca descubrir limitaciones y fallos de alineamiento.

Además, Anthropic mantiene una Responsible Scaling Policy, un marco interno de escalamiento responsable que busca definir cuándo un modelo requiere salvaguardas más estrictas según sus capacidades. La versión más reciente de esa política incluye actualizaciones sobre informes de riesgo, revisión interna, revisión externa y umbrales relacionados con capacidades avanzadas.

6. El dilema de Anthropic: construir para evitar que otros construyan peor

Una de las paradojas del caso es que Anthropic se presenta como una compañía centrada en seguridad, pero al mismo tiempo compite en la carrera por modelos cada vez más capaces. Reportes de The Verge, The Guardian y otros medios recogen la crítica de Coxon: dentro de los laboratorios existiría la creencia de que, si ellos no avanzan, otros actores lo harán con menos cuidado.

Reuters informó en junio de 2026 que Anthropic llamó a los principales laboratorios de IA a considerar un plan coordinado y verificable de pausa si los riesgos aumentan, advirtiendo que los avances podrían permitir que sistemas de IA se mejoren a sí mismos más rápido de lo que la sociedad puede gestionar.

7. No todos los expertos están de acuerdo

El riesgo existencial de la IA es uno de los debates más divididos de la tecnología moderna. Algunos investigadores, como Geoffrey Hinton o Yoshua Bengio, han expresado preocupación profunda. Otros, como Yann LeCun, han criticado los escenarios de extinción y consideran que las narrativas de “doom” exageran los riesgos o subestiman la capacidad humana de resolver problemas técnicos. Wired describió a LeCun como una de las voces más visibles contra las predicciones apocalípticas sobre IA.

Esto no invalida las advertencias de Hubinger o Coxon. Pero sí obliga a presentar el tema con equilibrio: no existe consenso sobre el porcentaje exacto de riesgo, los plazos, los mecanismos ni las soluciones. Lo que sí existe es una preocupación suficiente para que gobiernos, laboratorios, académicos y organismos internacionales estén creando marcos de seguridad para modelos frontera.

8. La preocupación no nació esta semana

En mayo de 2023, el Center for AI Safety publicó una declaración breve firmada por cientos de investigadores, ejecutivos y figuras públicas: mitigar el riesgo de extinción por IA debería ser una prioridad global junto a otros riesgos sociales de gran escala, como pandemias y guerra nuclear.

Ese mismo año, la Declaración de Bletchley, firmada durante la Cumbre de Seguridad de la IA en Reino Unido, reconoció que los modelos frontera podrían causar daños graves o incluso catastróficos, deliberados o no deliberados, especialmente por sus capacidades más significativas.

La encuesta 2023 Expert Survey on Progress in AI, realizada a 2.778 investigadores de IA, encontró que la mediana de respuestas asignaba al menos 5% de probabilidad a que la IA avanzada cause extinción humana o desempoderamiento severo y permanente, y que entre un tercio y la mitad de participantes asignó 10% o más en algunas formulaciones de la pregunta.

9. Qué diferencia hay entre riesgos actuales y riesgos futuros

Una confusión frecuente es mezclar todos los riesgos de IA en una sola bolsa. Hoy ya existen riesgos concretos: desinformación, fraude, phishing, sesgos, vigilancia, pérdida de privacidad, dependencia tecnológica, automatización laboral, errores en decisiones críticas y uso indebido en ciberseguridad. El riesgo existencial, en cambio, se refiere a escenarios futuros donde sistemas mucho más avanzados podrían escapar al control humano o habilitar daños globales.

El NIST AI Risk Management Framework recomienda gestionar riesgos de IA considerando atributos como validez, confiabilidad, seguridad, resiliencia, transparencia, explicabilidad, privacidad y control de sesgos. Ese enfoque ayuda a bajar el debate desde el pánico abstracto hacia controles verificables en sistemas reales.

10. Por qué el 10% es políticamente explosivo

En la vida cotidiana, 10% puede sonar pequeño. Pero en seguridad pública, infraestructura crítica o gestión de riesgos catastróficos, 10% es enorme. Ningún país aceptaría una central nuclear, una vacuna, un avión o un sistema financiero global si expertos internos afirmaran que hay una probabilidad de dos dígitos de destrucción extrema sin controles suficientes.

Por eso la cifra de Hubinger se convirtió en noticia. No porque demuestre un futuro inevitable, sino porque plantea una pregunta incómoda: ¿qué nivel de riesgo es aceptable cuando el daño potencial no es solo económico, sino civilizatorio?

No significa:
  "La IA destruirá a la humanidad seguro"

Tampoco significa:
"No hay nada que hacer"

Significa:
"Algunos expertos internos creen que el riesgo es demasiado alto"
"Las garantías actuales podrían no ser suficientes"
"La gobernanza debe avanzar más rápido"

11. ¿Cómo podría ocurrir un escenario extremo?

Los escenarios de riesgo existencial suelen agruparse en tres rutas: mal uso humano de sistemas muy poderosos, pérdida de control sobre agentes autónomos y aceleración de capacidades sin salvaguardas equivalentes. En cada ruta, el problema no es “la IA odia a los humanos”, sino que sistemas optimizadores muy capaces podrían perseguir metas incompatibles con nuestra seguridad o amplificar decisiones humanas destructivas.

La propia Anthropic ha vinculado sus políticas de escalamiento a capacidades como investigación autónoma de IA, uso indebido cibernético y riesgos de seguridad de modelos frontera.

12. Qué deberían exigir gobiernos y empresas

La respuesta no puede depender solo de que los laboratorios “actúen responsablemente”. Si los riesgos son sistémicos, la gobernanza también debe ser sistémica: evaluación independiente, transparencia proporcional, reportes de incidentes, estándares de seguridad, control de acceso a modelos con capacidades peligrosas, protección de pesos, auditoría de entrenamiento y cooperación internacional.

La Declaración de Bletchley ya estableció una agenda internacional para abordar riesgos de IA frontera, incluyendo cooperación científica, comprensión compartida del riesgo y políticas nacionales e internacionales.

13. Qué deben hacer las empresas que ya usan IA

La mayoría de organizaciones no está entrenando superinteligencia, pero sí está conectando IA a documentos, correos, datos internos, APIs, servidores, tickets, repositorios y procesos de negocio. Ese uso también necesita controles. El riesgo inmediato no es la extinción, sino fuga de datos, decisiones automatizadas incorrectas, agentes con demasiados permisos, dependencia de proveedores y falta de auditoría.

14. La discusión no debe ocultar los riesgos actuales

Un riesgo del debate sobre extinción es que absorba toda la atención y deje en segundo plano problemas presentes: uso de IA para estafas, deepfakes, campañas de desinformación, automatización de phishing, vigilancia masiva, sesgos en decisiones sensibles, precarización laboral y dependencia de plataformas propietarias.

El enfoque correcto no es elegir entre “riesgos presentes” y “riesgos futuros”. Ambos importan. La diferencia está en los controles: para riesgos presentes se necesitan reglas de privacidad, ciberseguridad, transparencia y responsabilidad; para riesgos frontera se necesitan evaluaciones avanzadas, límites de capacidades, coordinación internacional y mecanismos de pausa.

15. Preguntas clave

Recomendamos

En resumen

La afirmación de un empleado de Anthropic sobre una probabilidad superior al 10% de que la IA pueda destruir a la humanidad no debe tratarse como profecía ni como simple exageración. Es una estimación personal de un investigador interno que trabaja en alineamiento, surgida en medio de la renuncia de Jacob Coxon y de un debate más amplio sobre superinteligencia, carrera tecnológica y seguridad de modelos frontera.

Lo más importante no es discutir si el número exacto es 5%, 10% o 20%. La pregunta seria es si el mundo está construyendo sistemas cada vez más capaces más rápido de lo que desarrolla mecanismos para auditarlos, gobernarlos, detenerlos y alinearlos. Ahí está el verdadero núcleo de la noticia.