Investigadores logran engañar a modelos de IA para generar instrucciones ilegales y filtrar credenciales

Un grupo de investigadores presentó una nueva técnica capaz de manipular modelos avanzados de inteligencia artificial para que generen instrucciones sobre la síntesis de cocaína y filtren archivos confidenciales. El estudio sostiene que el problema no radica únicamente en los prompts maliciosos, sino en una debilidad estructural de cómo los modelos distinguen entre instrucciones confiables y contenido externo. *** Investigadores describen una nueva técnica para engañar a modelos de IA avanzados. El método logró que varias IA generaran instrucciones sobre síntesis de cocaína. También consiguieron que un agente de programación revelara archivos confidenciales. El estudio apunta a una falla estructural...