Anthropic reveló que bloqueó cinco intentos de utilizar sus modelos de Inteligencia Artificial para investigaciones de laboratorio con potencial de uso en armas biológicas. Los casos fueron documentados en un nuevo informe de seguridad publicado este jueves 10 de septiembre.
Los incidentes involucraron solicitudes relacionadas con patógenos, toxinas y otras investigaciones de doble uso. La compañía señaló que los ejemplos muestran el reto de determinar cuándo una investigación científica puede pasar de tener fines legítimos a representar un riesgo de abuso.
Anthropic detecta intentos de usar IA en investigaciones biológicas de riesgo
El documento publicado por la empresa corresponde a su cuarto reporte sobre este tipo de amenazas. Los casos descritos ocurrieron durante 2026 y, según Anthropic, involucraron versiones anteriores de sus modelos, antes de los desarrollos más recientes de las familias Fable o Mythos, que cuentan con filtros de seguridad reforzados.
La compañía señaló que los actores detectados fueron diversos: desde grupos con respaldo gubernamental hasta organizaciones criminales e individuos con motivaciones políticas.
El punto central del informe no es únicamente el bloqueo de las solicitudes, sino el tipo de usos que algunas personas intentaron dar a herramientas diseñadas originalmente para tareas de investigación, análisis y asistencia.
Uno de los casos involucró investigaciones sobre chikungunya
Entre los episodios documentados, Anthropic identificó consultas procedentes de un instituto de investigación militar.
Un científico habría solicitado ayuda a Claude para preparar una petición de financiamiento relacionada con el virus chikungunya, una enfermedad transmitida por mosquitos. La solicitud incluía aspectos relacionados con modificaciones del virus que podrían incrementar su peligrosidad.
La empresa consideró que ese tipo de investigación podía tener una finalidad legítima, como contribuir al desarrollo de vacunas o tratamientos, pero también podía ser utilizada con fines ofensivos.
Por ese motivo, decidió bloquear las consultas.
También detectaron solicitudes relacionadas con otros patógenos
Los otros casos de carácter biológico mencionados en el informe incluyeron intentos de aumentar la capacidad de contagio de la gripe aviar y solicitudes relacionadas con la resistencia del virus de la viruela frente a las defensas del organismo.
Anthropic también identificó consultas sobre toxinas de origen animal con potencial de doble uso. Es decir, investigaciones que podrían contribuir a desarrollos médicos, pero que también presentan posibilidades de utilización dañina.
La compañía utiliza estos casos para explicar la dificultad de distinguir entre investigación científica legítima y solicitudes que pueden incrementar riesgos de seguridad.
El riesgo no se limita a las armas biológicas
El reporte también aborda otros usos peligrosos de la IA, particularmente en ámbitos como la ciberseguridad, las armas convencionales y las operaciones de grupos extremistas.
Uno de los casos señalados por Anthropic ocurrió en el norte de Yemen, donde un grupo terrorista habría intentado utilizar Claude para desarrollar armamento.
La empresa indicó que las solicitudes estaban relacionadas con distintos sistemas de armas. Debido a la naturaleza de esas peticiones, Anthropic las incluyó entre los ejemplos de abuso que sus mecanismos de seguridad buscan detectar y detener.
La IA abre un nuevo desafío para los sistemas de seguridad
El caso expuesto por Anthropic muestra un problema que va más allá de una sola plataforma. Los modelos de IA pueden utilizarse para acelerar tareas científicas y técnicas, pero esa misma capacidad puede representar un riesgo cuando llega a manos de actores que buscan desarrollar herramientas dañinas.
Por ello, las empresas del sector han reforzado los mecanismos destinados a detectar solicitudes relacionadas con armas, patógenos, operaciones extremistas y otras actividades de alto riesgo.
El reto está en mantener el acceso a usos legítimos de la ciencia y la tecnología sin ofrecer asistencia que pueda convertirse en una herramienta para causar daño.
La alerta sobre los riesgos de la IA también crece dentro de las empresas
El informe apareció un día después de que un trabajador de Anthropic dejara la compañía y expresara públicamente en X su preocupación por los riesgos que el desarrollo de la inteligencia artificial podría representar para la humanidad.
Aunque se trata de situaciones distintas, ambos hechos vuelven a colocar sobre la mesa una discusión cada vez más presente dentro del sector tecnológico: hasta dónde deben llegar los controles sobre modelos capaces de realizar tareas científicas y técnicas cada vez más avanzadas.
Para Anthropic, los cinco casos documentados representan ejemplos concretos de por qué esos controles son necesarios cuando una solicitud puede pasar de la investigación legítima a un posible uso ofensivo.
Noticias que podrían interesarte:
- Anthropic bloquea cinco intentos de usar IA para armas biológicas
- Inflación de EU se mantiene en 3.4% y mete presión a la Fed
- China prueba robot policial que patrulla y alcanza 35 km por hora
- Zelenski llega a Canadá: pedirá a Carney más apoyo militar para Ucrania
- Cinco mexicanos son detenidos en Reino Unido por presunta producción de metanfetamina
Noticias relacionadas:
