L’IA locale gagne du terrain, faute d’énergie et de calcul
Trois annonces se répondent en deux jours. llama.app donne à llama.cpp une interface graphique et supprime la ligne de commande pour installer et gérer des modèles locaux. Desert Ant Labs sort de sa réserve : laboratoire européen, dix-huit modèles embarqués en audio, vision et texte, des kits de développement Swift, Kotlin et JavaScript, et la promesse que « rien ne quitte l’appareil ». Hugging Face documente de son côté SO-101, du matériel ouvert pour la robotique.
Clément Delangue, directeur de Hugging Face, en fait un argument de conjoncture plutôt que de principe : « à un moment où tout le monde se plaint de pénuries d’énergie et de calcul et du coût des jetons, on a plus que jamais besoin d’IA embarquée. En prime, c’est quasiment gratuit et ça préserve entièrement la vie privée. »
Sur le même sujet : Sakana AI orchestre des modèles ouverts, et se mesure à la pointe, OpenAI suspend la vente de son abonnement Pro, ses machines saturent.