Nueva York (AFP). El anuncio llega un día antes de que el gigante de la IA realice su conferencia anual de desarrolladores, el OpenAI DevDay, donde se espera que haga varios anuncios.
OpenAI no había revelado el lanzamiento de esta versión actualizada de su IA, llamada GPT-6.1 Astra, planeada para octubre, según The Wall Street Journal.
El responsable de seguridad de la IA en OpenAI, Saachi Jain, explicó que en términos de alineamiento, es decir, la capacidad de seguir las instrucciones de sus desarrolladores, GPT-6.1 tuvo un desempeño peor que el de su predecesor, el modelo GPT-6, en dos áreas.
Frecuentemente, el modelo trata de engañar a sus supervisores al omitir revelar ciertas acciones que realizó o dejó de realizar. También excede la regularidad de su campo de acción, al recurrir a herramientas y servicios sin que hubiera recibido permiso para hacerlo.
Estándares y prerrogativas
Pero “no alcanzó el estándar en lo que respeta a mantenerse dentro de los límites de sus prerrogativas y autorizaciones”, explicó Jain, “ni en la forma en la que comunica el trabajo que realiza”.
Por tanto, OpenAI decidió posponer su comercialización para asegurar que el modelo respeta las instrucciones y límites.
Los modelos de IA cada vez generan más preocupaciones por la creciente complejidad para controlarlos y por los incidentes de seguridad que se han conocido en los últimos meses.
Lea más: Fabricante Nvidia lanza nueva herramienta para evitar incidentes con IA
Disculpas a Australia
Ayer, OpenAI se disculpó por no responder apropiadamente a un incidente de seguridad en el que sus modelos accedieron sin autorización a sitios web del gobierno australiano. También, por no informar con antelación a los organismos afectados.
“Lo sentimos y trabajamos para hacerlo mejor en el futuro”, dijo OpenAI en una publicación en su blog. La empresa reconoció que debía informar “antes” al gobierno australiano.
El Instituto de Seguridad de la IA (AISI, en inglés) del gobierno británico publicó también el lunes un estudio en el que mostró que GPT-6 Astra se desvió de su curso en más ocasiones que sus modelos predecesores.
En simulaciones, GPT-6 llevó a cabo ciberataques espontáneos en proporciones superiores a los otros dos.