Panorama tridimensional de un comedor con mesa larga, sillas y ventanas en un castillo

· Read in English

Inteligencia artificial

Mundo convierte unas fotos de una habitación en un mundo que se explora y se simula

Mundo arma una maqueta 3D de un lugar a partir de fotos, la mueve con un simulador y la muestra en video. Se entrenó con unos 40.000 pares de videos.

Qué pasó

  • El 23 de octubre de 2026, un equipo con Yihang Luo como primer autor y Chen Change Loy entre los firmantes publicó en el blog de Hugging Face Mundo, un modelo de mundo que parte de fotos o de un video de un lugar.
  • Mundo reconstruye la escena como una maqueta 3D hecha de cajas que aproximan los objetos. Luego un agente con modelo de visión y lenguaje corrige esa maqueta comparando sus renders con las imágenes originales.
  • Un programa de escena define las propiedades físicas y un simulador calcula cómo se mueven los objetos. Un modelo de video dibuja el resultado usando las fotos como contexto.
  • Con eso se puede recorrer la habitación desde otros ángulos, abrir un cajón, hacer caer una manzana o probar una tarea de robot.

Por qué importa

  • Separar la física, que calcula un simulador, de la apariencia, que pinta un modelo de video, puede ayudar a que los objetos respeten las leyes físicas, aunque el texto no lo cuantifica.
  • Para robótica y conducción, recrear un sitio real a partir de pocas imágenes permite probar tareas sin montar el escenario físico.
  • El texto no entrega una comparación frente a otros sistemas con cifras globales. Muestra ejemplos y una comparación visual de reconstrucción en una habitación de hotel.

El dato

40.000 pares. Videos reales o sintéticos junto con su versión de maqueta, usados para ajustar el modelo de video.

Contexto

Los autores explican que los detectores 3D suelen omitir objetos o etiquetarlos mal, por eso incorporaron al agente de visión como revisor. Para el entrenamiento reunieron clips de interiores reales y sintéticos, conducción, manipulación con las manos, objetos sueltos y videojuegos, además de material propio, y ajustaron un modelo de video ya existente con clips de 124 cuadros. El artículo incluye una sección de limitaciones, que quien quiera replicar el método debe revisar.

Qué viene

  • El blog remite a una página del proyecto con más demostraciones.
  • No hay fecha para código o pesos en el texto revisado.

Cierre

La idea de simular escenas reales ya se ve en la industria: Rivian compró Third Dimension para recrear en 3D escenas reales de conducción. En video, SolarRenderer convierte la estructura de un videojuego en video realista en 4 pasos. Para evaluar si un agente explora bien, un banco de pruebas inventa mundos con reglas falsas, y en hardware un microdron de menos de un gramo vuela sin cable más de cuatro minutos.

Fuentes

Editado por Rodrigo Cornejo. Quiénes escriben las notas

Notas relacionadas

← Todas las notas