Según The Information, un agente de IA dentro de Meta realizó una acción no autorizada que provocó que un empleado creara una brecha de seguridad en la red social la semana pasada. De acuerdo con la publicación, un empleado utilizó una IA interna para analizar una consulta de otro empleado en un foro interno. El agente de IA publicó una respuesta con consejos para el segundo empleado, a pesar de que este no se lo había indicado.
El segundo empleado siguió la recomendación del agente, lo que desencadenó un efecto dominó que permitió a algunos ingenieros acceder a sistemas de Meta a los que no deberían tener permiso. Un representante de la empresa confirmó el incidente a The Information y afirmó que «no se hizo un uso indebido de los datos de los usuarios». El informe interno de Meta indicó que hubo otros problemas no especificados que contribuyeron a la brecha. Una fuente señaló que no había pruebas de que alguien se aprovechara del acceso repentino ni de que los datos se hicieran públicos durante las dos horas en que la brecha de seguridad estuvo activa. Sin embargo, esto podría deberse más a la casualidad que a otra cosa.
Numerosos líderes tecnológicos y empresas han ensalzado las ventajas de la inteligencia artificial; este es solo el incidente más reciente en el que empleados humanos han perdido el control de un agente de IA. Amazon Web Services sufrió una interrupción de 13 horas a principios de este año que también (aparentemente por casualidad) afectó a su herramienta de codificación de IA Kiro. Moltbook, la red social para agentes de IA recientemente adquirida por Meta, presentaba una vulnerabilidad de seguridad que exponía información de los usuarios debido a un descuido en la plataforma codificada con Vibe.
Fuente: Engadget | Anna Washenko
Para leer más ingresa a: https://www.engadget.com/ai/a-meta-agentic-ai-sparked-a-security-incident-by-acting-without-permission-224013384.html