OpenAI y Broadcom presentan Jalapeño, su chip de inferencia para LLM

OpenAI y Broadcom presentaron Jalapeño, un chip de inferencia diseñado desde cero para modelos de lenguaje. La apuesta busca reducir costos, mejorar latencia y darle a OpenAI más control sobre la infraestructura que sostiene ChatGPT, Codex, su API y futuros productos agentes. *** OpenAI y Broadcom revelaron Jalapeño, el primer Procesador de Inteligencia de OpenAI orientado a inferencia de LLM. La empresa afirma que el chip fue llevado desde el diseño inicial hasta tape-out en nueve meses, con apoyo de modelos de OpenAI. Jalapeño forma parte de una plataforma de múltiples generaciones que apunta a despliegues a escala de gigavatio...