Liquid AI lleva su capa de contexto personal a los chips Snapdragon de Qualcomm
La compañía adapta Liquid Context para que corra en la NPU Hexagon y publica al día siguiente un modelo borrador que acelera su modelo de visión en dispositivos.
Liquid AI ha adaptado Liquid Context, su capa de contexto personal, para que corra sobre los chips Snapdragon de Qualcomm. Lo anunció en el Snapdragon Summit que la compañía celebra esta semana en Maui y, al día siguiente, publicó un modelo borrador que acelera su modelo de visión en dispositivos.
Una capa de contexto que no sale del dispositivo
Liquid Context aprende rutinas, preferencias y necesidades a partir de señales que recoge en el propio dispositivo, con permiso del usuario, y mantiene esa imagen actualizada. Después entrega solo las partes relevantes a los agentes que haya elegido el usuario, ya sea el Liquid Agent de la propia Liquid AI o agentes de terceros, que pueden ejecutarse en local, en la nube o en ambos sitios. La empresa sostiene que el contexto personal se queda en el dispositivo y que los agentes reciben únicamente lo que el usuario autoriza. La capa trabaja en segundo plano sobre la Hexagon NPU, el bloque de Qualcomm para IA, de forma que un modelo en la nube no tenga que procesar cada actualización.
Liquid AI, escindida del MIT en 2023, desarrolla modelos pensados para teléfonos, portátiles, coches y robots, no para centros de datos. Su consejero delegado y cofundador, Ramin Hasani, resume la idea así: «La IA personal empieza por entender cómo vives y qué necesitas, cuando lo necesitas». La compañía puso tres ejemplos y los calificó de ilustrativos: un mensaje avisa de que su hijo está enfermo y hay que recogerlo antes en el colegio, y el agente revisa el calendario, calcula qué reuniones se pueden mover y redacta los correos para que el usuario los apruebe.
Los fabricantes de dispositivos pueden integrar Liquid Context como característica estándar y licenciar también Liquid Agent, que corre sobre LFM2.5-2.6B, un modelo de 2.600 millones de parámetros ajustado para la NPU Hexagon. Ninguna de las dos empresas nombró a un fabricante concreto y se limitaron a decir que «exploran oportunidades adicionales» de colaboración. Durga Malladi, vicepresidente ejecutivo de Qualcomm Technologies, afirmó que combinar sus plataformas con tecnologías como las de Liquid AI ayuda a acelerar la próxima generación de experiencias de IA agéntica.
Qualcomm ya suministra chips a fabricantes de automóviles —BMW le entregó la computación de sus coches en julio— y también fabrica silicio para centros de datos, incluido el personalizado para AWS. OpenAI, por su parte, trabaja en dispositivos propios.
Un borrador para el modelo de visión
El jueves Liquid AI publicó un modelo borrador para LFM2.5-VL-3B, que lee imágenes además de texto. Usa decodificación especulativa: un modelo pequeño adivina las siguientes palabras y el principal las comprueba en una pasada, con lo que la respuesta sale antes y con la misma calidad. El borrador tiene unos 280 millones de parámetros y añade un 8,9% al tamaño del modelo. Según la compañía, acelera la decodificación hasta 3,13 veces en un MacBook Pro M5 Max y hasta 2,66 veces en una GPU Nvidia H100; las respuestas completas llegan hasta 2,62 y 2,27 veces más rápido. Lo entrenó solo con hardware de AMD.
Liquid AI admite que la ganancia es menor de lo que parece en muchas tareas, porque el método no acelera la lectura de la imagen ni del prompt, y en dispositivos de borde esos pasos se llevan buena parte del tiempo total. El modelo se puede descargar gratis en Hugging Face.
Queda por ver si algún fabricante apuesta por la capa de contexto como característica de fábrica: de momento no hay nombre, ni demo pública del sistema funcionando. Los ejemplos que dio la compañía son suyos y los presenta como ilustrativos.
