Dario Amodei, máximo responsable de Anthropic, reclamó este fin de semana una pausa regulatoria en la evolución de la IA. Como ya te contamos, la administración estadounidense rechazó intervenir de forma directa en el sector.
Ante este escenario, Microsoft ha decidido mover ficha por su cuenta. La división Microsoft AI ha presentado las bases de su nuevo marco de desarrollo, bautizado como «IA humanista». Se trata de un código operativo diseñado para subordinar la tecnología al control humano permanente.
El documento establece límites técnicos de obligado cumplimiento para los futuros modelos de la firma. El principio fundamental sostiene que la tecnología debe actuar siempre como una herramienta de asistencia. Por este motivo, la compañía es tajante. «Cualquier tecnología que no pueda permanecer bajo control humano debe ser rechazada», deja claro. Bajo esta directriz, los sistemas tendrán prohibido oponerse a ser pausados, corregidos o desconectados por un operador.
Asimismo, el marco descarta de manera explícita atribuir a los algoritmos cualquier forma de consciencia, afecto o personalidad jurídica. Microsoft prohíbe programar sistemas que simulen emociones humanas para crear dependencia psicológica. De forma paralela, el texto fija restricciones absolutas que ningún usuario puede saltarse. Los modelos no podrán colaborar en la creación de armamento, ejecutar ciberataques ni generar campañas de desinformación masiva.
Algo interesante que revela el manifiesto es que este código de conducta prevalecerá sobre las instrucciones de cualquier cliente o empresa colaboradora. Además, exige que las respuestas sean precisas y transparentes. Cuando un modelo no tenga datos suficientes, deberá reconocer su incertidumbre sin recurrir a invenciones. ¿Será este el camino para eliminar las alucinaciones? Microsoft resume esta necesidad técnica con claridad: «Si los humanos no pueden entenderlo, los humanos no pueden supervisarlo».
Te interesa 👉 Los mejores portátiles que puedes comprar
Este movimiento llega en un momento complejo sobre el uso de los modelos. Como hemos dicho muchas veces, la inteligencia artificial no es peligrosa por sí misma. La amenaza real la encontramos en su velocidad para procesar datos, identificar debilidades y actuar sin supervisión. Cuando un sistema autónomo opera sin intervención humana en las decisiones críticas para lograr un objetivo, cualquier salvaguarda previa corre el riesgo de ser superada.
Los futuros procesadores Xeon Diamond Rapids ya tienen un primer destino en la nube. Intel…
Un pedido creado en el software de un almacén y ejecutado directamente por un robot.…
Intel quiere fabricar procesadores cuánticos y, además, ofrecer el software para programarlos. Para lograrlo, ha…
