Las máquinas pensantes tienen un indicio
localmente.
Este es un enorme modelo abierto en
Parámetros 975B
con soporte para texto, imágenes, audio y contexto hasta
1 millón de fichas
. En Hugging Face se la describe como una modelo multimodal con
41B parámetros activos
y soporte para scripts agentes.
Unsloth ya ha publicado
cuantos GGUF
y una guía de lanzamiento. La opción más difícil es
Dinámico de 1 bit
, lo que reduce el tamaño en aproximadamente
86%
y requiere aproximadamente
270–290 GB de RAM/VRAM
para empezar.
El punto principal no es que el modelo sea “pequeño”.
Ella sigue siendo gigantesca.
Pero la cuantificación de 1 bit hace que el lanzamiento local de tales monstruos sea al menos técnicamente realista para máquinas muy potentes.
Para quienes prueban agentes locales, oleoductos multimodales y tareas de contexto prolongado, Inkling parece un modelo que vale la pena tocar.
Guía:
https://unsloth.ai/docs/models/inkling
GGUF: