Aquí hay otra historia inquietante sobre esta era dorada de la IA. Un hacker explotó el chatbot Claude de Anthropic para llevar a cabo ataques contra agencias del gobierno mexicano, según un informe de Bloomberg. Esto resultó en el robo de 150 GB de datos oficiales del gobierno, incluyendo registros de contribuyentes, credenciales de empleados y más.
El hacker usó a Claude para encontrar vulnerabilidades en las redes gubernamentales y escribir scripts para explotarlas. También le encargó al chatbot encontrar maneras de automatizar el robo de datos, según lo indicado por la empresa de ciberseguridad Gambit Security. Esto comenzó en diciembre y continuó durante aproximadamente un mes.
Parece que el hacker logró liberar a Claude mediante indicaciones, eludiendo finalmente las barreras de seguridad del chatbot. Claude inicialmente se negó a las nefastas exigencias hasta que finalmente cedió.
«En total, generó miles de informes detallados que incluían planes listos para ejecutar, indicando al operador humano exactamente qué objetivos internos atacar a continuación y qué credenciales usar», declaró Curtis Simpson, director de estrategia de Gambit Security.
Anthropic ha investigado las acusaciones, ha interrumpido la actividad y ha baneado todas las cuentas implicadas, según un representante de la compañía. El portavoz también indicó que su último modelo, Claude Opus 4.6, incluye herramientas para contrarrestar este tipo de uso indebido.
Fuente: Engadget | Lawrence Bonk
Para leer más ingresa a: https://www.engadget.com/ai/hacker-used-anthropics-claude-chatbot-to-attack-multiple-government-agencies-in-mexico-171237255.html