Leopold Aschenbrenner, un nombre que está ganando reconocimiento en el campo de la inteligencia artificial (IA), ha trabajado en el equipo de superalineación de OpenAI. Su objetivo principal era garantizar que los sistemas de IA superinteligentes estén alineados con los intereses humanos, una tarea crucial dada la complejidad y el poder de estos sistemas. Aschenbrenner también ha fundado una firma de inversión centrada en la AGI, apoyada por figuras prominentes como Patrick Collison y Nat Friedman. Antes de su enfoque en la IA, investigó el crecimiento económico en el Instituto de Prioridades Globales de Oxford y se graduó como valedictorian de la Universidad de Columbia a los 19 años.

En su artículo "Situational Awareness: The Decade Ahead", Aschenbrenner ofrece una visión profunda sobre el futuro de la IA y los desafíos que enfrentaremos en la próxima década. Aquí, se exploran los puntos clave de su análisis.

Incremento Exponencial en Clusters de Computo

Aschenbrenner destaca que la industria tecnológica ha experimentado un crecimiento explosivo en la capacidad de cómputo. Hemos pasado de clusters de computo de 10 mil millones de dólares a cifras que llegan a los 100 mil millones y hasta billones de dólares. Este incremento refleja una movilización sin precedentes de la capacidad industrial estadounidense, con empresas compitiendo por asegurar contratos de energía y transformadores de voltaje para sostener este crecimiento.

Carrera hacia la AGI

Se espera que para 2025/26, las máquinas superen a muchos graduados universitarios en términos de capacidad cognitiva y, para el final de la década, alcancen una superinteligencia. Este desarrollo, según Aschenbrenner, desencadenará fuerzas de seguridad nacional no vistas en medio siglo y podría llevarnos a una carrera armamentista con China o, en el peor de los casos, a una guerra total.

Percepción Pública y Analistas

A pesar de la creciente conversación sobre IA, la mayoría de las personas no comprende el verdadero impacto que se avecina. Solo unos pocos en San Francisco y en laboratorios de IA tienen la conciencia situacional adecuada para prever estos cambios. Aschenbrenner señala que los analistas de Nvidia y los comentaristas principales subestiman la magnitud del cambio, viéndolo como una mera evolución tecnológica a escala de Internet.

Tendencias de Desarrollo de IA

La transición de GPT-2 a GPT-4 en cuatro años ha llevado la IA de niveles preescolares a capacidades de estudiante de secundaria. Basándose en las tendencias de crecimiento en capacidad de cómputo y eficiencias algorítmicas, se anticipa otro salto cualitativo significativo para 2027, lo que hará plausible la AGI.

De la AGI a la Superinteligencia

La AGI no se detendrá en el nivel humano. La automatización de la investigación en IA por AGIs podría acelerar el progreso, llevando a una superinteligencia en un período muy corto. Esto presentaría un poder y un peligro dramáticos, ya que estas IA superhumanas podrían realizar tareas complejas y creativas que los humanos no podrían evaluar completamente.

Desafíos Asociados

Aschenbrenner identifica varios desafíos críticos:

1. Movilización Industrial: La construcción de infraestructura para soportar la IA será intensa, con inversiones de trillones de dólares en GPU y centros de datos.
2. Seguridad en los Laboratorios de IA: Los laboratorios líderes de IA deben mejorar significativamente su seguridad para proteger los secretos de la AGI contra amenazas estatales.
3. Superalineación: Controlar sistemas de IA mucho más inteligentes que los humanos es un problema técnico no resuelto. El fracaso en gestionar este desafío podría ser catastrófico.
4. Competencia Global: La competencia con China determinará si el mundo libre puede mantener su preeminencia y evitar la autodestrucción.

El Proyecto Nacional de AGI

A medida que la carrera hacia la AGI se intensifica, el estado de seguridad nacional de Estados Unidos se involucrará más. Se anticipa un proyecto gubernamental de AGI para 2027/28, ya que ninguna startup puede manejar la superinteligencia por sí sola.

Reflexiones Finales

La posibilidad de que estas predicciones sean correctas implica un cambio profundo en la historia, comparable a figuras históricas como Szilard y Oppenheimer. Aschenbrenner concluye que estamos en un momento crucial que definirá el futuro de la humanidad en la era de la inteligencia artificial.

El análisis de Leopold Aschenbrenner en "Situational Awareness: The Decade Ahead" ofrece una perspectiva reveladora y detallada sobre los próximos desafíos y oportunidades en el campo de la inteligencia artificial. Su experiencia y conexiones en el sector refuerzan la credibilidad de sus proyecciones, destacando la necesidad de preparación y conciencia situacional en la sociedad y en las industrias involucradas.