Los criminales están ‘hackeando el ambiente’ con IA a niveles sin precedentes: Anthropic

A pesar de las “sofisticadas” medidas de protección, la empresa de infraestructura de IA Anthropic afirma que los ciberdelincuentes siguen encontrando formas de utilizar indebidamente su chatbot de IA, Claude, para llevar a cabo ciberataques a gran escala. 

En un informe de “Threat Intelligence” publicado el miércoles, miembros del equipo de Threat Intelligence de Anthropic, incluyendo a Alex Moix, Ken Lebedev y Jacob Klein, compartieron varios casos en los que criminales han hecho un uso indebido del chatbot Claude, con algunos ataques que exigieron más de 500.000 dólares en rescate.

Descubrieron que el chatbot no solo fue utilizado para brindar asesoramiento técnico a los criminales, sino también para ejecutar directamente hackeos en su nombre mediante “vibe hacking”, permitiéndoles realizar ataques con solo conocimientos básicos de codificación y cifrado.

En febrero, la empresa de seguridad blockchain Chainalysis pronosticó que las estafas cripto podrían  tener su mayor año  en 2025, ya que la IA generativa ha hecho que los ataques sean más escalables y asequibles. Anthropic  descubrió  a un hacker que había estado haciendo “vibe hacking” con Claude para robar datos sensibles de al menos 17 organizaciones —incluyendo instituciones de salud, servicios de emergencia, organismos gubernamentales y religiosos— con demandas de rescate que iban desde 75.000 hasta 500.000 dólares en Bitcoin.

  Una nota de rescate simulada demuestra cómo los ciberdelincuentes aprovechan Claude para hacer amenazas. Fuente: Anthropic

El hacker entrenó a Claude para analizar registros financieros robados, calcular montos de rescate apropiados y redactar notas de rescate personalizadas para maximizar la presión psicológica.

Si bien Anthropic posteriormente prohibió al atacante, el incidente refleja cómo la IA está facilitando que incluso programadores de nivel básico lleven a cabo ciberdelitos en un “grado sin precedentes”.

“Actores que no pueden implementar de forma independiente cifrado básico o entender la mecánica de syscalls ahora están creando exitosamente ransomware con capacidades de evasión [e] implementando técnicas anti-análisis.”

Trabajadores de IT norcoreanos también usaron Claude de Anthropic

Anthropic también descubrió que trabajadores de IT norcoreanos han estado utilizando Claude para crear identidades convincentes, aprobar pruebas técnicas de codificación e incluso conseguir trabajos remotos en empresas tecnológicas Fortune 500 de Estados Unidos. También usaron Claude para preparar respuestas para entrevistas en esos puestos.

Claude también fue utilizado para realizar el trabajo técnico una vez contratados, según Anthropic, señalando que los esquemas de empleo estaban diseñados para canalizar ganancias al régimen norcoreano a pesar de las sanciones internacionales.

  Desglose de tareas impulsadas por Claude que los trabajadores de IT norcoreanos han utilizado. Fuente: Anthropic

A principios de este mes, un trabajador de IT norcoreano  fue contra-hackeado,  donde se descubrió que un equipo de seis compartía al menos 31 identidades falsas, obteniendo desde  identificaciones gubernamentales  y números de teléfono hasta la compra de cuentas de LinkedIn y UpWork para ocultar sus verdaderas identidades y conseguir trabajos en el sector cripto.

Supuestamente, uno de los trabajadores fue entrevistado para un puesto de ingeniero full-stack en Polygon Labs, mientras que otras pruebas mostraron respuestas de entrevistas guionadas en las que afirmaban tener experiencia en  el marketplace de NFT OpenSea  y el proveedor de oráculos blockchain  Chainlink.

Anthropic dijo que su nuevo informe tiene como objetivo discutir públicamente incidentes de uso indebido para ayudar a la comunidad más amplia de seguridad y protección de IA y fortalecer la defensa de la industria contra los abusadores de IA. 

Señaló que, a pesar de implementar “sofisticadas medidas de seguridad y protección” para prevenir el  uso indebido de Claude,  los actores maliciosos han seguido encontrando formas de eludirlas.