SubQ 1.1 Small promete llevar el contexto largo de IA hasta 12M tokens con menor costo

Subquadratic presentó la tarjeta de modelo de SubQ 1.1 Small, una nueva versión de su arquitectura de Atención Escasa Subcuadrática que busca resolver uno de los mayores límites de la IA empresarial: razonar directamente sobre bases de código, colecciones documentales y contratos completos sin depender tanto de particionado y recuperación externa. *** SubQ 1.1 Small reporta recuperación casi perfecta en pruebas de contexto largo entre 1M y 12M tokens. La empresa asegura que el modelo usa 64,5x menos cómputo que la atención densa y es 56x más rápido que FlashAttention-2 en 1M tokens. Subquadratic planea ampliar su línea de modelos...