Qué es el misterioso Proyecto Q* de OpenAI: la IA que los expertos creen que podría amenazar a la humanidad
Este proyecto de AGI podría estar detrás del despido de Sam Altman de la compañía de ChatGPT.
La Inteligencia Artificial parece no tener límites. Miles y miles de personas están detrás de ella investigando y descubriendo cada incógnita de este complejo algoritmo. La última, según los propios investigadores que trabajan en ella podría amenazar a la humanidad, se llama Proyecto Q*.
El proyecto Q* (pronunciado Q-Estrella) podría ser un avance en la búsqueda de lo que se conoce como inteligencia general artificial (AGI), según contó un trabajador a Reuters que se encuentra investigando este misterioso descubrimiento. La AGI son aquellos sistemas autónomos que superan a los humanos en la mayoría de las tareas económicamente valiosas.
El nuevo modelo descubierto fue capaz de resolver ciertos problemas matemáticos, dijo la persona bajo condición de anonimato porque no estaba autorizada para hablar en nombre de la empresa.
Aunque solo realizaba matemáticas al nivel de estudiantes de primaria, aprobar tales pruebas hizo que los investigadores fueran muy optimistas sobre el éxito futuro de Q*, dijo la fuente. Reuters no pudo verificar independientemente las capacidades de Q* afirmadas por los investigadores.
Los expertos consideran las matemáticas como una frontera en el desarrollo de la IA generativa. Actualmente, esta es buena en escritura y traducción de idiomas al predecir estadísticamente la siguiente palabra, y las respuestas a la misma pregunta pueden variar ampliamente. Pero conquistar la habilidad de hacer matemáticas — donde solo hay una respuesta correcta — implica que la IA tendría mayores capacidades de razonamiento similares a la inteligencia humana. Esto podría aplicarse a la investigación científica novedosa, por ejemplo, creen los investigadores de IA.
La AGI puede generalizar, aprender y comprender. En la carta que aportó la junta antes del despido de Altman señalaban las destrezas y los peligros que generaba la Inteligencia Artificial. Los investigadores también señalaron el trabajo de un equipo de "científicos de IA", cuya existencia confirmaron múltiples fuentes.
El grupo, formado por la combinación de los equipos anteriores "Code Gen" y "Math Gen", estaba explorando cómo optimizar los modelos de IA existentes para mejorar su razonamiento y eventualmente realizar trabajo científico.
