NOVEDADES + GUÍA PRÁCTICA
Liquid AI lanza los modelos de decisión abiertos d1-3B y d1-omni-600M para entornos periféricos
Liquid AI ha anunciado el lanzamiento de dos modelos de decisión abiertos, d1-3B y d1-omni-600M (experimental), construidos sobre sus Liquid Foundation Models (LFMs). A diferencia de los modelos generativos tradicionales, estos sistemas responden en un único paso hacia adelante, optimizando su rendimiento en dispositivos de borde y hardware de NVIDIA.
Qué cambia
Liquid AI ha publicado los modelos d1-3B y d1-omni-600M, orientados a proporcionar decisiones estructuradas rápidas para entradas multimodales como texto, imágenes y audio. El modelo principal, d1-3B, deriva de la arquitectura LFM2.5-VL-3B y soporta texto e imágenes, alcanzando una alta puntuación en diversos benchmarks públicos. Por su parte, d1-omni-600M es una versión experimental más ligera basada en LFM2.5-Encoder-350M que admite modalidades adicionales como audio.
En las pruebas de rendimiento realizadas junto con NVIDIA utilizando hardware como las tarjetas GeForce RTX 4090 y dispositivos Jetson (AGX Thor, AGX Orin y Orin Nano), el modelo d1-3B logró responder preguntas individuales en menos de 50 milisegundos en los dispositivos medidos y en menos de 10 milisegundos en GPU.
Por qué importa
Este lanzamiento introduce una alternativa eficiente para aplicaciones que requieren decisiones estructuradas en tiempo real en entornos con restricciones de hardware o en el borde (edge). Al no generar tokens de forma autorregresiva sino evaluar las solicitudes en una sola pasada, los modelos reducen drásticamente la latencia, lo que resulta fundamental para la automatización industrial, asistentes locales y sistemas interactivos multimodales.
Mini tutorial
Los pesos abiertos de d1-3B y d1-omni-600M están disponibles públicamente en Hugging Face en las páginas oficiales de los repositorios de Liquid AI.
- Instalar las dependencias necesarias ejecutando pip install "transformers>=5.14" torch torchvision pillow.
- Cargar el modelo d1-3B desde Hugging Face utilizando el parámetro trust_remote_code=True mediante la clase AutoModel.
- Definir preguntas estructuradas con instrucciones y criterios específicos para evaluar un texto o estado multimodal.
- Ejecutar la inferencia en una sola pasada empleando el método system_one del modelo.
Qué deberías obtener
Carga correcta del modelo d1-3B en el dispositivo configurado y ejecución de una consulta estructurada o procesamiento por lotes.
Antes de empezar
Requiere la instalación previa de dependencias compatibles como transformers>=5.14, torch, torchvision y pillow. d1-omni-600M se encuentra en una fase temprana de investigación.