Recherche Annonce · 26 octobre 2026

Watch and Learn apprend aux VLM à apprendre d'exemples visuels

Give a VLM a few demos as text: ~100% accuracy. As images, with no task hint: 45%. VLMs don’t learn from what they see in context. We teach them to watch and learn 🧵
Nimrod Shabtay @NimrodShabtay 26 oct. 2026 premier auteur

L'article, déposé le 22 octobre, part d'un constat : un modèle vision-langage s'appuie sur des raccourcis textuels et sous-exploite les images de démonstration. Les auteurs construisent MIME, un jeu d'entraînement où la consigne ne dit pas la règle qui relie les images à la réponse, de sorte que le modèle doit la déduire. Selon le résumé, un réglage fin sur MIME gagne 8,1 à 18,0 points de précision sur trois modèles sans nuire aux tâches à une image, et Qwen3-VL-8B ainsi entraîné égale des modèles de pointe dont Claude Opus 5 sur TrueMICL. Leur variante DTAD, qui masque au hasard les étiquettes des démonstrations, les dépasse. Mesures des auteurs ; je n'ai lu que le résumé.