Scopri gli sconti pensati per te!
Schema dell'architettura tri-ibrida dei modelli Liquid AI LFM3
Immagine: Liquid AI

Liquid AI LFM3: i modelli AI open che girano sullo smartphone


Liquid AI LFM3 è la nuova famiglia di modelli di intelligenza artificiale della startup nata dal MIT, pensata per funzionare direttamente su smartphone, laptop e altri dispositivi, senza bisogno del cloud. Presentata il 27 ottobre, comprende sei modelli da circa 2 miliardi di parametri, tutti open-weight e scaricabili gratuitamente da Hugging Face.

L’idea è semplice: invece di un unico grande modello generalista, gli sviluppatori scelgono quello adatto al proprio caso d’uso, lo addestrano sui propri dati e lo eseguono sul dispositivo. Una filosofia simile a quella di altri modelli compatti e aperti come Baidu Unlimited OCR 2.

Liquid AI LFM3: sei modelli da una sola base

Tutti i modelli derivano dalla stessa base, LFM3-1.7B. Il modello testuale LFM3-1.7B è ottimizzato per gli agenti locali e ha una finestra di contesto di 256.000 token. LFM3-VL-2B comprende immagini e, per la prima volta in casa Liquid AI, anche video. LFM3-Audio-2B gestisce voce in ingresso e in uscita, mentre LFM3-Omni-2B mette insieme testo, immagini, video e audio. Completano la famiglia d1-2B e d1-omni-2B, due modelli “decisionali” che forniscono risposte con un grado di affidabilità calibrato.

Schema dell'architettura tri-ibrida dei modelli Liquid AI LFM3
Immagine: Liquid AI

Un gigabyte di memoria per l’AI sullo smartphone

Il dato più interessante per chi usa uno smartphone è l’ingombro: con la quantizzazione a 4 bit il modello testuale occupa circa 1 GB di memoria, abbastanza per stare su qualsiasi telefono o portatile recente. Secondo i test dell’azienda, LFM3-1.7B supera il precedente LFM2.5-2.6B pur con il 35% di parametri in meno, e sul dispositivo genera testo da 1,8 a 2,8 volte più velocemente dei concorrenti più vicini.

Sul fronte visivo, Liquid AI dichiara che LFM3-VL-2B raggiunge una media di 71,4 su 62 benchmark, allineata a quella di Gemma 4 12B di Google, un modello oltre sei volte più grande. Sono risultati forniti dall’azienda, che andranno verificati da test indipendenti.

Compatibilità: Apple, Qualcomm e strumenti open source

I modelli sono disponibili in diversi formati: GGUF per llama.cpp, Ollama e LM Studio, MLX per i chip Apple Silicon, ONNX per l’uso multipiattaforma. LFM3-1.7B compare anche nel catalogo AI Hub di Qualcomm, con i dispositivi di riferimento Snapdragon X Elite e X2 Elite, gli stessi chip che troviamo su PC come l’Anduril BlueChip.

Per gli utenti il vantaggio dell’AI locale è doppio: i dati restano sul dispositivo e le funzioni restano disponibili anche offline. È la stessa strada che Apple percorre con i suoi Mac, come abbiamo visto con il Mac mini con M6.

Fonti

Liquid AI, Hugging Face, Qualcomm AI Hub, VentureBeat

Aiutaci a crescere: lasciaci un like :)

Le notizie tech prima di tutti? Nella nostra newsletter!

* indicates required
Accettazione privacy

Intuit Mailchimp