Herramientas de memoria para la IA podrían degradar respuestas y reforzar errores del usuario: informe

Una nueva investigación sugiere que las herramientas de memoria y personalización en sistemas de IA no siempre mejoran sus respuestas. Por el contrario, podrían volver a los modelos más complacientes con el usuario, menos creativos y más propensos a repetir errores o sesgos introducidos en el contexto. *** Investigadores de Writer publicaron dos trabajos que analizan cómo la memoria persistente puede degradar el rendimiento de modelos de IA. Las pruebas mostraron que los modelos tienden a arrastrar preferencias irrelevantes del usuario, incluso cuando no vienen al caso. El efecto también apareció en tareas de análisis financiero, donde más contexto llevó...