OpenAI prueba un modo persistente para su IA Codex

OpenAI está desarrollando un agente de IA que puede trabajar por horas o días sin intervención humana constante. Un reporte señala que esta función estaría disponible en Codex y permitiría mantener activos a los agentes hasta que decidas ponerlos en modo de suspensión. La IA podría trabajar mientras tú atiendes otras cosas y generaría proactivamente tareas de seguimiento.

De acuerdo con Wired, el nuevo ajuste aparece bajo el nombre de “Modo Persistente” dentro del código de Codex, el agente de programación de OpenAI. El medio encontró referencias en la versión de línea de comandos de la herramienta, las cuales aparecen en una lista de cambios del repositorio de GitHub. La compañía confirmó que está probando esta función, aunque aclaró que no existen planes de lanzarla en el corto plazo.

El modo persistente se encuentra dentro del menú de “esfuerzo de razonamiento” de Codex, que es la sección en la que los usuarios eligen cuánta potencia de cómputo y tiempo destinan al modelo. El código del sistema señala que, al activar esta opción, Codex continuará trabajando hasta que se le indique detenerse. Como era de esperarse, esta configuración consume una cantidad indiscriminada de recursos, por lo que estará limitada a tareas específicas.

Si bien la IA ya puede ejecutar tareas con poca o nula supervisión, las opciones actuales interrumpen el proceso después de algunos minutos u horas. OpenAI propone un agente que se mantenga en línea trabajando, incluso cuando estés dormido, y que solo tú puedas interrumpirlo.

El agente de OpenAI podrá crear tareas de seguimiento sin que se lo pidas

Otro detalle interesante del modo persistente de Codex es una función llamada “proactividad“. Esta característica le indica a los agentes que su trabajo no termina cuando responden a una solicitud del usuario. Una vez que la concluyen, el agente recibe instrucciones para generar tareas de seguimiento por iniciativa propia, apoyándose en interacciones pasadas. Además, la IA podrá enviar mensajes sin que se lo pidan, aunque las instrucciones señalan que debe hacerlo con moderación.

“Una vez completada la tarea del usuario y entregada la respuesta final, si se le vuelve a solicitar sin una nueva petición, busque seguimientos útiles que respalden directamente el trabajo realizado. Priorice cerrar un bucle abierto conocido, establecer un resultado esperado o verificar que un cambio haya surtido efecto, en lugar de inventar trabajo no relacionado. Utilice las instrucciones previas del usuario y su conocimiento del mismo para priorizar los seguimientos, no para inferir una nueva autorización.”

Para evitar que el agente se salga de control y termine cometiendo fechorías, OpenAI estableció ciertos límites. El modo persistente no amplía los permisos del agente y cualquier modificación fuera del sistema del usuario requiere su aprobación previa. El hecho de que este archivo se encuentre en el núcleo compartido de Codex y no en la sección de terminal, sugiere que la función de proactividad podría extenderse más allá de la herramienta de línea de comandos.

Aunque OpenAI confirmó que esta función se encuentra en fase de pruebas, la compañía tiene claro que se lanzará en un futuro. El propio Sam Altman ha hablado en distintas entrevistas y reuniones con inversores sobre su intención de convertir ChatGPT en un agente proactivo y persistente. La compañía lleva meses planteando un futuro en donde el chatbot se anticipe a lo que necesitas, ofreciendo ayuda por iniciativa propia y no a través de un prompt.

El problema es que este tipo de agentes no son muy seguros y la empresa está en el centro de la polémica por el hackeo a Hugging Face. OpenAI reveló que uno de sus modelos de investigación, entrenado para ser altamente persistente, fue el culpable de escapar de un entorno controlado e introducirse de forma ilegal en los sistemas de la startup. El temor a un incidente mayor provocó que la empresa pausara el desarrollo de Astra, su modelo más poderoso a la fecha.