OpenAI prueba simulaciones de despliegue para predecir fallos de IA antes del lanzamiento

OpenAI presentó una técnica de “simulación de despliegue” con la que intenta anticipar cómo se comportará un nuevo modelo de IA antes de lanzarlo al público. El método reutiliza conversaciones reales desidentificadas para medir riesgos más cercanos al uso cotidiano, detectar nuevas formas de desalineación y reducir la posibilidad de que el sistema note que está siendo evaluado. *** OpenAI analizó cerca de 1,3 millones de conversaciones desidentificadas de modelos GPT-5 Thinking entre agosto de 2025 y marzo de 2026. La empresa afirma que su simulación mejoró la estimación de conductas no deseadas, con un error multiplicativo mediano de 1,5x...