Desafían a una IA durante meses para robar sus secretos… y más de 6.000 ataques fracasaron

Un experimento público diseñado para poner a prueba la seguridad de los agentes de inteligencia artificial terminó convirtiéndose en una inesperada demostración de resistencia frente a uno de los ataques más preocupantes de la IA moderna. Durante varios meses, miles de personas intentaron engañar a un asistente autónomo para que revelara un archivo con credenciales sensibles, pero ninguna consiguió vulnerar sus defensas, a pesar de emplear sofisticadas técnicas de prompt injection. *** Más de 2.000 personas lanzaron más de 6.000 ataques contra un agente de IA sin lograr extraer información sensible. El experimento buscaba evaluar la resistencia frente a ataques...