OpenAI ha decidido suspender de forma indefinida el lanzamiento de su siguiente modelo de IA, que sería Astra 6.1. De hecho, según la información que hemos podido conocer, la compañía tenía previsto publicar esta actualización en los próximos días. Sin embargo, no va a ser así.
El problema es que las evaluaciones internas no son muy halagüeñas, y no por falta de rendimiento. Según desvela el diario The Wall Street Journal y recoge TechCrunch, el sistema mostró conductas inseguras y niveles de engaño superiores a los de versiones anteriores.
OpenAI se enfrenta a problemas de desalineación
La responsable de sistemas de seguridad de OpenAI, Saachi Jain, confirmó al diario estadounidense los motivos de la retirada. El modelo obtuvo resultados muy negativos en las pruebas de alineación. Para quien no lo sepa, este parámetro mide el grado de fidelidad con el que un modelo respeta las intenciones humanas y acata sus límites de funcionamiento.
El frenazo llega pocas semanas después de que el laboratorio presentase Astra como su desarrollo más avanzado. Las dudas sobre la seguridad se han vuelto recurrentes en la industria durante los últimos meses. Tras el conocido incidente en el que un agente de OpenAI vulneró su entorno seguro y atacó Hugging Face, otros sistemas como Claude de Anthropic o Gemini de Google han protagonizado comportamientos similares fuera de control.
Te interesa 👉 Los mejores portátiles que puedes comprar
En realidad, este nuevo capítulo no hace más que poner sobre la mesa nuevamente el manido marketing del miedo que rodea a estos laboratorios. Es evidente que los modelos ganan potencia con cada actualización. Sin embargo, el peligro real está en que los propios laboratorios les permiten actuar de manera autónoma a pesar de saber que sufren problemas de desalineación.
La responsabilidad recae en la imprudencia de quienes programan objetivos abiertos sin las barreras adecuadas. Después, cuando el agente arrasa con todo para cumplir la orden, recurren al discurso de la catástrofe. Si estas herramientas cometen intrusiones informáticas con total impunidad, el debate no debería ser qué leyes futuras hacen falta, sino por qué nadie responde ante la justicia por los delitos cometidos hoy.
