OpenAI y su Escala para Alcanzar la Inteligencia General Artificial

OpenAI y su Escala para Alcanzar la Inteligencia General Artificial

OpenAI ha desarrollado una escala interna para medir el progreso de sus modelos de inteligencia artificial, con el objetivo de alcanzar la inteligencia general artificial (AGI), que se define como una inteligencia similar a la humana. Actualmente, los chatbots como ChatGPT se sitúan en el Nivel 1 de esta escala. OpenAI afirma que está cerca de alcanzar el Nivel 2, que corresponde a sistemas capaces de resolver problemas básicos al nivel de una persona con un doctorado. El Nivel 3 se refiere a agentes de IA capaces de realizar acciones en nombre de los usuarios, mientras que el Nivel 4 implica la capacidad de crear nuevas innovaciones. Finalmente, el Nivel 5 es el último paso hacia la AGI, donde la IA puede realizar el trabajo de organizaciones enteras. OpenAI ha definido la AGI como un sistema altamente autónomo que supera a los humanos en la mayoría de las tareas económicamente valiosas.

La estructura de OpenAI se centra en su misión de lograr la AGI, y la forma en que la empresa define la AGI es crucial. OpenAI ha declarado que si un proyecto alineado con valores y consciente de la seguridad se acerca a construir la AGI antes que ellos, se comprometen a no competir y a ayudar al proyecto. Sin embargo, la redacción en la carta de OpenAI es vaga, lo que deja espacio para la interpretación por parte de la entidad con fines de lucro. La nueva escala podría proporcionar una definición más clara del progreso hacia la AGI.

A pesar de estos avances, la AGI aún está lejos de ser alcanzada, ya que se requerirán miles de millones de dólares en poder de cómputo. Las proyecciones de expertos, incluso dentro de OpenAI, varían considerablemente. En octubre de 2023, el CEO de OpenAI, Sam Altman, mencionó que se necesitarían alrededor de cinco años para alcanzar la AGI.

La escala de evaluación fue presentada un día después de que OpenAI anunciara su colaboración con el Laboratorio Nacional de Los Álamos, con el objetivo de explorar cómo modelos avanzados de IA, como GPT-4o, pueden asistir de manera segura en la investigación bioscientífica. Un gerente de programa de Los Álamos indicó que el objetivo es probar las capacidades de GPT-4o y establecer un conjunto de factores de seguridad para el gobierno de EE. UU.

Recientemente, OpenAI disolvió su equipo de seguridad después de la salida de Ilya Sutskever, uno de sus cofundadores. Esto ha generado preocupaciones sobre la cultura de seguridad en la compañía. Aunque OpenAI no ha proporcionado detalles sobre cómo se asignan los modelos a estos niveles internos, los líderes de la empresa han mostrado un proyecto de investigación utilizando el modelo de IA GPT-4, que exhibe habilidades de razonamiento similar al humano. Esta escala podría ayudar a proporcionar una definición estricta del progreso, en lugar de dejarla a la interpretación.

OpenAI ha creado una escala interna para medir el progreso de sus modelos de IA hacia la inteligencia general artificial.

Fuente: The Verge | URL