En el dinámico campo de la inteligencia artificial (IA), los modelos basados en energía (EBMs) representan una frontera innovadora con el potencial de transformar radicalmente la generación de diálogo y el procesamiento de lenguaje. Tradicionalmente dominado por modelos predictivos, que secuencian tokens basándose en probabilidades, el enfoque está virando hacia sistemas que pueden deliberar y razonar, más allá de la mera predicción.

Los EBMs asignan un valor de "energía" a cada configuración posible dentro de un sistema, facilitando un marco flexible para la modelación y generación de contenido. Esta metodología ha demostrado ser particularmente prometedora, generando muestras de alta calidad y mostrando una habilidad notable para generalizar a partir de conjuntos de datos fuera de distribución, superando a modelos basados en flujos y autoregresivos.

Yann LeCun, un pionero en el campo de la IA y el aprendizaje profundo liderando la división de AI Research en Meta, ha sido un defensor de los EBMs, argumentando que representan un enfoque fundamental para alcanzar una IA genuinamente inteligente. Según LeCun, la capacidad de estos modelos para realizar "razonamiento energético" podría ser clave para superar las limitaciones actuales de los modelos de lenguaje, que principalmente se enfocan en predecir el siguiente token sin una comprensión profunda del contexto o la capacidad de planificación a largo plazo.

Por otro lado Sam Altman CEO de OpenAI, ha señalado avances significativos en OpenAI con proyectos como GPT y su posible evolución hacia sistemas que integran principios de EBMs, conocidos internamente como Q* según diferentes fuentes y en una conversación con Lex Fridman donde no quiso entrar en detalles sobre este proyecto.

Estos desarrollos sugieren un cambio paradigmático en cómo conceptualizamos y construimos modelos de IA y un paso más hacia la AGI. En lugar de limitarse a predecir respuestas basadas en datos históricos, los modelos emergentes buscarán entender y razonar sobre sus respuestas, un avance que promete hacer que las interacciones con la IA sean más naturales y significativas.

Aunque la exploración de EBMs y su aplicación en sistemas como “Q*” no es nada nuevo, todo esto refleja un esfuerzo continuo por desarrollar tecnologías de IA que puedan imitar más de cerca la complejidad del pensamiento y la comunicación humanos. A medida que investigadores como LeCun y Altman continúan empujando los límites de lo posible, la promesa de una IA que puede razonar, y no solo predecir, se acerca cada vez más a la realidad.

En resumen, el avance hacia modelos de IA basados en la capacidad de razonar en lugar de predecir no solo representa un logro técnico significativo, sino también un paso hacia sistemas que pueden comprender y interactuar con el mundo de manera más humana. Los EBMs y las discusiones en torno a Q* son testimonios del progreso continuo hacia este objetivo ambicioso, marcando un emocionante capítulo en la evolución de la inteligencia artificial.