Un descubrimiento que amenazaba a la humanidad podría estar detrás del despido de Sam Altman de OpenAI

Antes del período de cuatro días en el exilio del CEO de OpenAI, Sam Altman, varios investigadores del personal escribieron una carta al consejo de administración advirtiendo sobre un descubrimiento de inteligencia artificial que, según dijeron, podría amenazar a la humanidad, según fuentes de Reuters.

Esta carta, de la que no se tenía constancia previamente, y el algoritmo de la IA fueron piezas clave antes de la destitución de Altman, el niño prodigio de la IA generativa, según dijeron las dos fuentes a este medio de comunicación americano. Antes de su triunfante regreso el martes por la noche, más de 700 empleados habían amenazado con renunciar y unirse al patrocinador Microsoft en solidaridad con su líder despedido.

Las fuentes citaron la carta como uno de los factores entre una lista más larga de quejas por parte del consejo que llevaron al despido de Altman, entre las que se encontraban preocupaciones sobre la comercialización de avances antes de comprender las consecuencias. Reuters no pudo revisar una copia de la carta y el personal que escribió la carta no respondió a las solicitudes de por parte de la agencia.

Tras ser contactado por Reuters, OpenAI, que declinó hacer comentarios, reconoció en un mensaje interno a los empleados un proyecto llamado Q* y una carta a la junta antes de los eventos del fin de semana. Un portavoz de OpenAI dijo que el mensaje, enviado por la ejecutiva Mira Murati, alertó al personal sobre ciertas historias en los medios sin comentar sobre su precisión.

Qué es el proyecto Q* de OpenAI

Algunos en OpenAI creen que Q* (pronunciado Q-Estrella) podría ser un avance en la búsqueda de lo que se conoce como inteligencia general artificial (AGI). OpenAI define AGI como los sistemas autónomos que superan a los humanos en la mayoría de las tareas económicamente valiosas.

El nuevo modelo fue capaz de resolver ciertos problemas matemáticos, dijo un informante bajo condición de anonimato, porque no estaba autorizada para hablar en nombre de la empresa. Aunque solo realizaba matemáticas al nivel de estudiantes de primaria, aprobar tales pruebas hizo que los investigadores fueran muy optimistas sobre el éxito futuro de Q*, dijo la fuente.

Los investigadores consideran las matemáticas como una frontera en el desarrollo de la IA generativa. Actualmente, la IA generativa es buena en escritura y traducción de idiomas al predecir estadísticamente la siguiente palabra, y las respuestas a la misma pregunta pueden variar ampliamente. Pero conquistar la habilidad de hacer matemáticas — donde solo hay una respuesta correcta — implica que la IA tendría mayores capacidades de razonamiento similares a la inteligencia humana. Esto podría aplicarse a la investigación científica novedosa, por ejemplo, creen los investigadores de IA.

Las matemáticas son la clave de la IA general

A diferencia de una calculadora que puede resolver un número limitado de operaciones, la AGI puede generalizar, aprender y comprender. En su carta a la junta, los investigadores señalaron la destreza y el peligro potencial de la IA. Ha habido una larga discusión entre los científicos de la computación sobre el peligro que representan las máquinas altamente inteligentes, por ejemplo, si podrían decidir que la destrucción de la humanidad.

Los investigadores también señalaron el trabajo de un equipo de "científicos de IA", cuya existencia confirmaron múltiples fuentes. El grupo, formado por la combinación de los equipos anteriores "Code Gen" y "Math Gen", estaba explorando cómo optimizar los modelos de IA existentes para mejorar su razonamiento y eventualmente realizar trabajo científico, dijo una de las personas.

¿Está relacionado con el despido de Altman?

Altman lideró los esfuerzos para convertir a ChatGPT en una de las aplicaciones de software de más rápido crecimiento en la historia y atrajo la inversión - y los recursos informáticos - necesarios de Microsoft para acercarse a AGI.

Además de anunciar una serie de nuevas herramientas en una demostración este mes, Altman la semana pasada insinuó en una cumbre de líderes mundiales en San Francisco que creía que se estaban acercando importantes avances.

"Cuatro veces en la historia de OpenAI, la más reciente fue hace solo un par de semanas, he tenido la oportunidad de estar en la habitación cuando empujamos hacia atrás el velo de la ignorancia y avanzamos en la frontera del descubrimiento, y hacerlo es el honor profesional de toda una vida", dijo en la cumbre de la Cooperación Económica Asia-Pacífico.

Un día después, el consejo destituyó a Altman.

Conforme a los criterios de

¿Por qué confiar en nosotros?