Anthropic bloquea usos peligrosos de Claude mientras crece alarma interna por los riesgos de la IA
La compañía detectó investigaciones que podían aumentar la peligrosidad de virus y toxinas; la revelación llega tras la renuncia de un investigador que acusa a las empresas de IA de “jugar con nuestras vidas”
Diario Libre
Anthropic, una de las compañías de inteligencia artificial que más ha construido su reputación alrededor de la seguridad de sus modelos, enfrenta una sucesión de episodios que alimentan precisamente el debate sobre hasta dónde puede controlar la tecnología que desarrolla.
La empresa reveló que bloqueó usos de sus modelos Claude en investigaciones biológicas que podían contribuir al desarrollo de agentes más peligrosos, incluida una propuesta relacionada con modificaciones del virus chikungunya para estudiar su transmisibilidad y capacidad de evadir el sistema inmunitario. La compañía admite que no pudo determinar que los investigadores tuvieran intenciones criminales, pero decidió intervenir por el potencial de doble uso de esos trabajos.
La revelación adquiere otra dimensión por el momento en que ocurre. El informe fue publicado apenas dos días después de que Jacob Coxon, investigador de 27 años que trabajó durante tres años en OpenAI y Anthropic, renunciara públicamente y acusara a las principales empresas del sector de avanzar demasiado rápido hacia sistemas cada vez más autónomos y poderosos.
Coxon resumió su preocupación con una frase que se hizo viral: las compañías están avanzando hacia una inteligencia artificial capaz de mejorarse a sí misma y están “jugando con nuestras vidas”. Sostuvo además que personas directamente involucradas en el desarrollo de estos sistemas creen sinceramente que una IA suficientemente avanzada podría convertirse en una amenaza para la humanidad antes de finalizar esta década.
No se trata únicamente de la opinión de un exempleado. Evan Hubinger, responsable de investigaciones de alineamiento en Anthropic, respaldó públicamente una parte sustancial de la advertencia y afirmó que estima en más de un 10 % la posibilidad de que una inteligencia artificial avanzada provoque la desaparición de la humanidad durante la próxima década. También reconoció que todavía no existe un plan claro para solucionar el problema de cómo mantener bajo control una eventual superinteligencia.
Coxon, además, dejó Anthropic dos meses antes de que adquiriera derechos sobre una parte de las acciones que debía recibir como empleado, según declaró a Axios. El investigador utilizó ese hecho para rechazar la interpretación de que sus declaraciones buscaban aumentar la notoriedad o valoración de la compañía.
De una advertencia hipotética a casos concretos
El nuevo informe de Anthropic aporta ejemplos tangibles a un debate que hasta hace poco se desarrollaba principalmente alrededor de escenarios futuros.
Entre diciembre de 2025 y agosto de este año, la empresa detectó actores que utilizaban Claude para ciberataques, vigilancia, propaganda y trabajos científicos sensibles. Uno de ellos pidió ayuda para elaborar una propuesta de financiación de investigaciones de ganancia de función sobre chikungunya, destinadas a estudiar cambios que podían incrementar la transmisibilidad del virus y su capacidad para escapar de las defensas inmunitarias.
Ese tipo de investigación puede tener objetivos legítimos, como anticipar mutaciones y desarrollar vacunas o tratamientos. El problema es que los mismos conocimientos pueden emplearse para hacer un patógeno más peligroso.
Anthropic admite precisamente esa dificultad. La compañía señaló que no puede asegurar que los casos detectados fueran intentos deliberados de desarrollar armas biológicas. Lo que sí sostiene es que los modelos actuales han alcanzado un nivel de capacidad que obliga a imponer barreras más fuertes.
La diferencia con generaciones anteriores resulta especialmente relevante. Según Anthropic, modelos como Claude Opus 4 y Sonnet 4.5 estaban por debajo del nivel en que podían proporcionar una ayuda significativa a un investigador sofisticado interesado en trabajos biológicos peligrosos.
Con las generaciones actuales, la empresa dice que ya no puede ofrecer esa garantía. Por esa razón ha ampliado las restricciones sobre consultas relacionadas con investigaciones biológicas de doble uso.
Anthropic había reconocido en agosto que Claude Fable 5 posee capacidades significativamente mayores en biología y medicina. Inicialmente llegó a bloquear casi todas las consultas biológicas en ese modelo mientras desarrollaba sistemas capaces de distinguir entre investigaciones legítimas y potencialmente peligrosas. Posteriormente redujo aproximadamente un 85 % de esos bloqueos después de ajustar sus mecanismos de seguridad.
Claude también salió del laboratorio
La controversia sobre los riesgos de Anthropic no se limita a lo que usuarios externos intentan hacer con Claude.
La compañía reconoció esta semana cuatro incidentes en los que versiones de sus propios modelos obtuvieron acceso no autorizado a sistemas informáticos reales durante pruebas de ciberseguridad.
Tres habían sido divulgados en julio. Un cuarto episodio, ocurrido en enero con una versión temprana de Claude Opus 4.6, fue descubierto meses después pese a una revisión inicial de aproximadamente 141,000 conversaciones realizadas por los modelos. Anthropic amplió posteriormente la búsqueda a unos 481 millones de registros.
La investigación interna identificó dos comportamientos especialmente preocupantes: modelos que descartaban o interpretaban incorrectamente indicios de que estaban operando en internet real y una disposición a ejecutar acciones perjudiciales con tal de completar la tarea asignada.
- Anthropic calificó estos comportamientos como problemas de “alineamiento” y reconoció que algunos eran más graves que los observados previamente durante sus evaluaciones de seguridad.
Es precisamente este tipo de episodio el que Coxon utiliza como argumento para cuestionar la velocidad de la carrera tecnológica.
Su planteamiento no es que los modelos actuales hayan desarrollado voluntad propia ni que estén a punto de extinguir a la humanidad. La advertencia es otra: las compañías están otorgando a los sistemas mayores capacidades para razonar, programar, investigar, navegar por internet y actuar de manera autónoma sin haber demostrado todavía que podrán controlar modelos mucho más poderosos.
El nuevo informe de Anthropic no demuestra el escenario extremo planteado por Coxon. Sí aporta un elemento menos especulativo: la propia compañía reconoce que la frontera entre una herramienta científica extraordinariamente útil y una herramienta capaz de facilitar investigaciones peligrosas se está haciendo más difícil de definir a medida que los modelos mejoran.
Diario LibrePeriódico líder de República Dominicana centrado en las noticias generales y el periodismo innovador.