Microsoft frenará en seco el desarrollo de su IA si detecta que «escapa a nuestro control» ante el riesgo de catástrofe

Mustafa Suleyman, el máximo responsable de la división de IA de Microsoft, ha lanzado una advertencia contundente sobre el futuro de esta tecnología y los límites éticos de la compañía. En una reciente intervención, el ejecutivo ha dejado claro que la empresa no dudará en detener sus avances si perciben que los riesgos aumentan hasta niveles inaceptables. Según ha expresado, Microsoft no continuará desarrollando un sistema que tenga el potencial de «escapar a nuestro control», una postura de precaución que, cuanto menos, es sorprendente.

Estas declaraciones llegan en un momento de transformación interna. Tras meses de tensión y presión de los inversores, Microsoft y OpenAI han renovado su acuerdo bajo un nuevo acuerdo. Según los términos actualizados, el gigante de Redmond ahora tiene libertad total para perseguir la inteligencia artificial general, conocida también como AGI, de manera independiente o con terceros, algo a lo que habían renunciado anteriormente a cambio del acceso prioritario a las tecnologías de OpenAI.

El riesgo de un «destino fatal» y la autosuficiencia de Microsoft

La advertencia de Suleyman es muy llamativa. El ejecutivo ha señalado que las probabilidades de un desenlace catastrófico o «destino fatal» son preocupantes si no se gestiona correctamente, alineándose con reportes de investigadores de seguridad que temen que la IA pueda suponer un riesgo para la humanidad. Ante este escenario, Microsoft aboga por una superinteligencia humanista, diseñada estrictamente para servir a las personas y no para reemplazarlas.

Te interesa 👉 Copilot desde cero: cómo empezar a usar esta IA en Windows

Suleyman insiste en que Microsoft necesita ser autosuficiente en este nuevo capítulo. El objetivo es entrenar «modelos de frontera» de todas las escalas utilizando sus propios datos y capacidad de computación al nivel del estado del arte. Esto marca un cambio significativo respecto a los últimos 18 meses, donde la empresa actuaba principalmente como un socio de infraestructura para OpenAI. Ahora, Microsoft se prepara para desarrollar técnicas y metodologías propias que tienen el potencial de exceder el rendimiento humano en todas las tareas, siempre bajo la promesa de tirar del cable si la seguridad se ve comprometida.