De acuerdo con un reporte difundido este jueves por la empresa estadounidense Anthropic, actores asociados al Gobierno de Irán emplearon el modelo de inteligencia artificial Claude para respaldar tareas de vigilancia, incluida la planificación de posibles ataques contra objetivos de Estados Unidos y la difusión de propaganda, tras documentar durante los últimos ocho meses varios usos indebidos de sus modelos por parte de actores estatales.
En un informe de 154 páginas, la compañía indicó que estas herramientas pueden facilitar la identificación de objetivos y el análisis de grandes volúmenes de información sobre disidentes, periodistas, activistas y políticos, permitiendo a los Gobiernos optimizar aparatos de vigilancia ya existentes.
En el caso de Irán, los usuarios recurrieron a mecanismos para eludir las restricciones de acceso a Claude, que no está disponible oficialmente en el país, y emplearon redes privadas virtuales y números telefónicos de otros países para entrar al servicio.
Según Anthropic, una célula de piratas informáticos asociada a Irán utilizó una cuenta de Claude para generar recomendaciones de ataque contra las fuerzas navales estadounidenses en la región.
El informe de Anthropic se extiende a China, Rusia y Yemen
La empresa además registró en su informe otros abusos de Claude vinculados con armas convencionales y ciberoperaciones en países como China, Rusia y Yemen.
Anthropic señaló que bloqueó esos intentos ante el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos, aunque admitió que no pudo establecer si las investigaciones tenían fines legítimos o maliciosos.
“Aunque las evaluaciones son valiosas porque aportan evidencia de capacidades, no pueden probar de manera concluyente que esas capacidades se emplearán alguna vez para desarrollar armas biológicas en el mundo real”, indicó la compañía.
La firma advirtió que la creciente capacidad y autonomía de los modelos de IA está reduciendo las barreras técnicas y económicas para ejecutar actividades que antes exigían mayores conocimientos y recursos.
El documento aparece en medio de crecientes preocupaciones entre expertos del sector tecnológico sobre el doble uso de la IA; ya que los modelos capaces de asistir en investigaciones biológicas también pueden habilitar actividades peligrosas, y se multiplican las voces que alertan sobre los riesgos derivados de su mayor autonomía.
