Most 3D models assume a pinhole camera. What about a fisheye, GoPro, or 360° panorama?
Excited to share OmniRay: 3D reconstruction from a single image from any of these cameras, no intrinsics needed.
L'article propose un modèle qui prend une seule image d'une caméra quelconque, sténopé, fisheye ou panorama, et prédit pour chaque pixel une direction de rayon et une distance à l'échelle près, ce qui donne un nuage de points. Il n'exige ni paramètres intrinsèques ni type de caméra. Selon les auteurs, il obtient les meilleurs résultats sur plusieurs configurations de caméra, y compris des configurations jamais vues à l'entraînement. Mesures des auteurs ; je n'ai lu que le résumé.
🎥Reshoot a video from a camera that was never there~
Excited to share #Holo4D, accepted to #neurips2026 !
Give it a video and a new camera path: Holo4D lifts the video into 3D tracks and uses them to steer a video model. The camera moves; what happened stays the same.
L'article, déposé le 18 octobre et accepté à NeurIPS 2026, reconstruit en 4D les trajectoires 3D d'une vidéo, les projette sur la caméra demandée et s'en sert pour guider un modèle de diffusion vidéo préentraîné. La caméra change, la scène reste la même. Selon les auteurs, la méthode fonctionne avec plusieurs reconstructeurs 4D sans réentraîner le générateur, et passe devant des références qui reçoivent la vraie profondeur et les vraies caméras. Mesures des auteurs ; je n'ai lu que le résumé.
Is it possible to make 3D Gaussian Splatting even faster?
Short answer YES!
Enjoy a 10.5x optimization on forward/backward cuda kernels over the published 3DGS ones!
George Kopanas détaille dans un article de blog une réécriture des noyaux CUDA de la passe avant et de la passe arrière du 3D Gaussian Splatting. Il annonce un gain de 10,5 fois par rapport aux noyaux publiés avec la méthode d'origine. Le chiffre est le sien et porte sur ces noyaux, pas sur un entraînement complet ; je n'ai lu que son message, pas l'article.
Give a VLM a few demos as text: ~100% accuracy.
As images, with no task hint: 45%.
VLMs don’t learn from what they see in context. We teach them to watch and learn 🧵
L'article, déposé le 22 octobre, part d'un constat : un modèle vision-langage s'appuie sur des raccourcis textuels et sous-exploite les images de démonstration. Les auteurs construisent MIME, un jeu d'entraînement où la consigne ne dit pas la règle qui relie les images à la réponse, de sorte que le modèle doit la déduire. Selon le résumé, un réglage fin sur MIME gagne 8,1 à 18,0 points de précision sur trois modèles sans nuire aux tâches à une image, et Qwen3-VL-8B ainsi entraîné égale des modèles de pointe dont Claude Opus 5 sur TrueMICL. Leur variante DTAD, qui masque au hasard les étiquettes des démonstrations, les dépasse. Mesures des auteurs ; je n'ai lu que le résumé.
How many tokens does it take to capture the gist of an image?
Introducing GIST: an image tokenizer that learns to preserve what matters and chooses how many tokens each image needs, in one forward pass.
Now on arXiv 🎉🎉
Danilo de Goede@danilodegoede21 oct. 2026premier auteur
L'article, déposé le 11 octobre, part des tokeniseurs adaptatifs, qui donnent à chaque image un nombre de jetons selon une erreur de reconstruction mesurée en pixels. GIST y ajoute une erreur sémantique, mesurée dans l'espace de caractéristiques d'un encodeur DINOv3 gelé : la fixer à zéro permet de relâcher le détail des pixels en gardant ce que l'image montre. Sur ImageNet-100, face à KARL, son équivalent contrôlé par les pixels, il réduit la mesure LPIPS jusqu'à 30 % et DreamSim jusqu'à 37 % à nombre de jetons égal. La comparaison ne porte que sur ce seul jeu. Mesures des auteurs, d'après le résumé ; l'article n'est pas lu en entier.
L'article, déposé le 13 octobre, réunit dans un seul modèle génératif deux familles de simulateurs LiDAR : celles qui reconstruisent une scène capturée, au prix d'une optimisation par scène, et celles qui génèrent sans cohérence à long terme. Selon les indices fournis (début de séquence, carte HD, cache spatial, texte), le modèle crée un monde, prédit les nuages de points suivants ou rejoue une scène observée. Il tourne à 11 images par seconde sur un GPU H100 et accepte des capteurs de 32, 64 et 128 faisceaux. La page du projet donne une distance de Chamfer de reconstruction de 0,115 contre 0,297 pour LiDM (plus bas est mieux). Mesures des auteurs ; je n'ai lu que le résumé.
[1/7] We trained a world model on 30,000 hours of first-person video.
It learned exactly where the hands go. What happens to the things they touch, much less so.
Going from 300 to 30,000 hours did not narrow the gap, and a 4× larger model barely did either.
Jiahua Dong@JiahuaDong12 oct. 2026doctorant à l'université de l'Illinois et premier auteur
Le message résume l'article, déposé le 8 octobre. Selon son résumé, les données vont de 300 à 30 000 heures (plus de 1 000 types de scènes, 14 000 contributeurs). Elles améliorent la fidélité de l'agent comme celle des objets, mais la seconde reste nettement plus faible et progresse lentement. Une supervision qui reporte la capacité de l'apparence de la scène vers la dynamique des objets améliore les objets sans combler l'écart. Les conclusions se transfèrent à la modélisation d'humanoïdes. Mesures des auteurs ; je n'ai lu que le résumé.
DINOv2 has never seen a caption, and Qwen3 has never seen an image. We still aligned their embedding spaces without a single image-caption pair.
It even works when the images and the captions come from different datasets.
Dominik Schnaus@dominik_schnaus9 oct. 2026doctorant à TU Munich et premier auteur
This is a result I've dreamt about for many years: *unpaired translation between images and text*
Phillip Isola@phillip_isola9 oct. 2026professeur au MIT et coauteur
Selon la page du projet, l'alignement est grossier : des classes d'embeddings sont appariées par leurs distances, puis une rotation unique est affinée. Avec 20 paires ou moins, l'erreur est 14 à 28 fois inférieure à celle de la meilleure des sept méthodes supervisées comparées. La qualité varie selon les modèles et les légendes : avec Qwen3 en génération sur de longues légendes, le résultat reste proche du hasard. Face aux méthodes spécialisées, elle est seulement compétitive. Mesures des auteurs ; l'article (arXiv 2610.09411) n'est pas lu.
[1/4] 🏛️ Building Rome from a Single Image 🏛️
We reconstruct 3D scenes from the input image, including geometry beyond the observed view across indoor, outdoor, and large-scale scenes.
Les auteurs, d'Applied Intuition, de Purdue, de l'Illinois et de Berkeley, découpent la scène en blocs dont la taille croît avec la distance, les génèrent l'un après l'autre en réutilisant des latents qui se recouvrent, et conditionnent chaque voxel sur l'image : libre, visible ou masqué. La page du projet compare à World Tracing, GenRecon, VolFill et Lyra 2.0 uniquement en images : ni chiffre, ni métrique. Code et poids sont publiés. Le visualiseur en ligne utilise des maillages simplifiés d'environ 1,5 million de faces, moins fins que ceux de l'article (arXiv 2610.08790, non lu).
Do coding agents understand the dynamics of the world well enough to reconstruct it from video?
We introduce 4DCodeBench to evaluate this ability through 4D inverse graphics.
Selon la page du banc, un agent de programmation reçoit une vidéo d'un événement physique et doit écrire un programme qui reconstruit la scène en 3D, son mouvement et son rendu, en une seule tentative. Le banc compte 200 tâches, dont 100 vidéos réelles, et classe 18 agents. GPT-6 Astra au réglage maximal est en tête : 0,79 en global, 0,91 sur les mesures statiques mais 0,67 sur les dynamiques. Le mouvement reste le point faible, les scènes réelles sont plus dures que les simulées et les modèles à poids ouverts restent loin derrière. Le juge automatique est peu fiable entre modèles proches. Code et données sont publiés. Mesures des auteurs.
(1/8)
We are excited to share our new model ARROW 🏹 !
ARROW brings D4RT-style decoding to broader input types, including multi-view videos and unordered collections of images.
Selon la page du projet, ce modèle d'une seule passe associe reconstruction 3D et suivi de points 3D à partir de photos, de vidéos à caméra mobile ou de flux multi-vues. Pour le suivi, il atteint 88,14 % d'APD moyen sur quatre jeux, contre 83,76 % pour UniQuery4R, le deuxième. Sur la reconstruction (Chamfer 0,0375 m contre 0,0382 pour VGGT-Ω) et la pose de caméra, l'avantage est faible et la page parle de résultats « compétitifs ». Code et poids sont publiés. Mesures des auteurs ; l'article (arXiv 2610.01314) n'est pas lu.
Introducing Video-Index, a curated meta-benchmark for video understanding.
We start from 115 video benchmarks and 505K questions, drop every question a shortcut can solve, and keep the 840 hardest ones.
L'article, déposé le 1er octobre, audite 115 bancs d'évaluation vidéo avec cinq niveaux d'attaques par raccourci. Sur 35 d'entre eux, un attaquant qui ne voit aucune image approche la précision obtenue sur la vidéo complète ; sur 51 autres, des images mélangées conservent en médiane 96 % de cette précision ; les questions quasi identiques font au moins la moitié des items de 63 bancs. Les 840 questions retenues viennent de 76 sources. Selon les auteurs, Claude Opus 5 devance chaque modèle à poids ouverts de plus de 37 points et les outils d'agent ajoutent environ 20 points ; la page ne donne ni chiffre par modèle ni score humain. Code et données sont publiés. Mesures des auteurs.
Today we release Poincar3, our newest 3D model trained entirely through SSL on RGB image sequences.
I find the coolest thing is that, without labels, it learns multi-view geometry. Just using the attention map, reliable tracks can be formed (see below).
David Nordström@davnords1er oct. 2026doctorant à Chalmers et premier auteur
Le modèle, un encodeur d'environ 650 millions de paramètres, s'entraîne par auto-distillation sur des séquences multi-vues, avec des vidéos non annotées ajoutées à des jeux annotés en 3D. D'après la page du projet, avec l'encodeur gelé, la pose relative atteint 62,2 d'AUC@30° sur RE10K, contre 41,5 pour Muskie et 29,1 pour DINOv3 ; sur les nuages de points ETH3D, l'erreur médiane est de 0,75 mm contre 0,88. Les normales sur DTU ne sont pas meilleures que celles de DINOv3 ou de Muskie. Poids et code sont publiés, sans licence indiquée. Le travail associe Chalmers, l'ENPC, Linköping et Bordeaux. Mesures des auteurs ; l'article n'est pas lu.
We'll present Déjà View as Oral at #NeurIPS 🎉
TL;DR: we beat VGGT-Ω on average with a 10x smaller, looped architecture.
Check it out 👇
Tobias Fischer@TobiasFischer1125 sept. 2026co-premier auteur d'un travail mené à NVIDIA
Déposé en mai, le modèle applique un seul bloc de transformeur K fois de suite (117 millions de paramètres) pour reconstruire poses de caméra et géométrie à partir de plusieurs vues. La page de NVIDIA le compare à π³ et à Depth Anything 3 sur cinq jeux, avec 8 à 10 fois moins de paramètres et 1,9 à 2,3 fois moins de calcul ; VGGT-Ω, que cite le message, n'y figure que dans des comparaisons en images, sans chiffre. Mesures des auteurs ; l'article n'est pas lu.
Two of our papers were accepted to the #NeurIPS2026 Evaluations & Datasets Track! 🎉
TAR advances traffic anomaly reasoning; Physical AI Smart Spaces (PAISS) benchmarks multi-camera 3D perception. PAISS has also surpassed 800K downloads.
Zheng Tang@tangzhengthomas25 sept. 2026ingénieur chez NVIDIA, auteur de PAISS et organisateur de l'AI City Challenge
Selon la page de NeurIPS, PAISS réunit plus de 280 heures de vidéo 1080p synchronisées, de près de 1 800 caméras, dans des entrepôts, des hôpitaux et des commerces. Les données sont surtout synthétiques (Isaac Sim, apparence retouchée par Cosmos Transfer), avec deux entrepôts réels pour l'évaluation du synthétique vers le réel. Il apporte une version 3D de la mesure de suivi HOTA ; les lignes de base vont du suivi de personnes seules au suivi de boîtes 3D multiclasses. La page ne donne ni résultat chiffré ni licence ; les 800 000 téléchargements sont annoncés par l'auteur.
1/ We introduce TrackEverything: a 3D point tracker that tracks all points across all frames of long videos (1000+ frames).
Our key idea is to tie computation to unique 3D scene content rather than redundant 2D pixels in a video.
Ayush Jain@ayushjain114425 sept. 2026doctorant à Carnegie Mellon et premier auteur
Les auteurs, de Carnegie Mellon et de Meta, représentent la vidéo comme des trajectoires 3D persistantes dans le repère du monde, ce qui compense le mouvement de la caméra ; un point est suivi dès qu'il apparaît, là où les méthodes antérieures partent de la première image. La page du projet compare à DELTA-v2, CoTracker3 et SpatialTracker-v2 sur des vidéos longues, mais seulement en images : ni chiffre, ni vitesse, et le code est annoncé « bientôt ». Elle reconnaît une dégradation sous mouvement rapide et sur fonds répétitifs ou peu texturés.
JEPA-style world models are biased towards learning slow, simple features.
We're releasing MotionJEPA, built for learning a balanced representation of both static and dynamic features.
Markus Karmann@Markus5072680322 sept. 2026doctorant à Oxford et premier auteur
Un JEPA est un modèle de monde qui prédit l'embedding de l'image suivante. MotionJEPA lui ajoute un régulariseur qui exige que le changement visuel entre deux images apparaisse dans l'embedding, sans étiquettes d'action. Sur la planification dans quatre environnements, avec une texture de bois en distracteur, la page du projet donne 81,8 % de réussite moyenne à 25 pas contre 77,2 % pour IDM, et 70,3 % contre 59,3 % à 50 pas ; IDM fait mieux sur PushT et sur 2Room. Les concurrents ont reçu une recherche d'hyperparamètres par environnement, pas MotionJEPA, et les tests de sondage portent sur trois jeux synthétiques. Mesures des auteurs.