Ilya Sutskever, científico jefe de OpenAI, ha desempeñado un papel crucial en el desarrollo de sistemas de inteligencia artificial conversacionales (IA) que están revolucionando la sociedad. Desde sus comienzos como un estudiante ambicioso hasta convertirse en una figura clave en la creación de ChatGPT, Sutskever ha mostrado una combinación de ingenio y urgencia por obtener resultados, lo que le ha ganado reconocimiento en el campo de la IA.
Según lo publicado en Nature, en su adolescencia, Sutskever buscó una oportunidad de trabajo en IA con Geoffrey Hinton en la Universidad de Toronto. Hinton, reconocido como el padre de la IA moderna, quedó impresionado por los instintos y las ideas del joven.
Bajo su tutela, Sutskever contribuyó a avances fundamentales en el aprendizaje profundo y los modelos de lenguaje de gran tamaño (LLMs), fundamentos de los actuales bots de IA conversacional. A pesar de su éxito, Sutskever ha expresado preocupaciones sobre el futuro de la IA, liderando el proyecto de ‘superalineación’ en OpenAI para estudiar cómo dirigir y controlar sistemas de IA más inteligentes que nosotros.
Sutskever y otros miembros de la junta de OpenAI despidieron en noviembre a Sam Altman, entonces CEO de la compañía, pero tras un drama interno y amenazas de dimisión de empleados, Altman fue reincorporado y Sutskever se disculpó y fue removido de la junta. “Él tiene un fuerte sentido moral”, dijo Hinton sobre Sutskever, destacando su compromiso con la seguridad de la IA.
Sin embargo, hay voces críticas como Sarah Myers West del AI Now Institute, quien argumenta que las preocupaciones a largo plazo distraen de los peligros actuales, como sesgos en los datos de entrenamiento y fugas de información privada.
Ilya Sutskever nació en la Unión Soviética en 1986 y siempre ha sido un aprendiz precoz. Tras mudarse de Israel a Canadá, se sumergió en el aprendizaje profundo con Hinton en 2003 y tuvo triunfos significativos, como el desarrollo de AlexNet en 2012. Más tarde, en Google, contribuyó en la creación de AlphaGo. En 2015, junto a Elon Musk y Sam Altman, cofundó OpenAI como organización sin fines de lucro.
Sutskever veía esto como una oportunidad de trabajar hacia una inteligencia general artificial (AGI). “En OpenAI nos tomamos la libertad de mirar el panorama general”, dijo Sutskever a principios de este año, según reseña Nature. Su visión fue crucial para el cambio de OpenAI a un modelo de ‘ganancias limitadas’, atrayendo inversiones de Microsoft y conduciendo al desarrollo de ChatGPT.
Este escenario simula un futuro en el cual los humanos deberán colaborar con sistemas de IA más avanzados. Los investigadores exploran cómo automatizar el proceso de supervisión utilizado para refinar sistemas como GPT-4, el modelo de lenguaje detrás de ChatGPT.
En un experimento, enseñar a GPT-4 usando el generador de texto GPT-2 redujo su habilidad, llevando a probar dos métodos para evitar esto. Uno incrementaba progresivamente el tamaño de los modelos y el otro incluía un ajuste algorítmico en GPT-4.
Este último fue más efectivo, aunque reconocen que no garantiza un comportamiento perfecto del modelo más fuerte, sirviendo de punto de partida para más investigaciones. “Es genial ver que OpenAI está abordando proactivamente el problema de controlar IA superhumanas”, comentó a Wired Dan Hendryks del Center for AI Safety.
Superalineación: en el futuro, los humanos necesitarán supervisar sistemas de inteligencia artificial mucho más inteligentes que ellos.
Aschenbrenner y otros miembros del equipo que conversaron con Wired, como Collin Burns y Pavel Izmailov, ven con optimismo este primer paso hacia el dominio de posibles IA superhumanas. “Incluso un alumno de sexto grado sabe menos matemáticas que un universitario, pero aún puede expresar lo que quiere lograr”, dijo Izmaílov. La analogía refleja el objetivo del grupo de permitir modelos de IA menos avanzados guiando a otros más desarrollados.
El futuro de Sutskever en OpenAI parecía incierto tras la crisis de gobernanza de la empresa, donde fue uno de los miembros de la junta que votó por despedir al CEO Sam Altman, para luego revertir la decisión y amenazar con renunciar si no se le restituía. Sutskever es coautor del artículo publicado, pero OpenAI no lo hizo disponible para discutir el proyecto. Aschenbrenner agradece a Sutskever, describiéndolo como una gran motivación y fuerza impulsora en el proyecto.
La labor de OpenAI en la Supervisión de IA superhumanas evidencia la tensión entre avanzar tecn
