Donald Trump firma un acuerdo histórico con los diferentes líderes de la Inteligencia Artificial

La evolución de la Inteligencia Artificial ha despertado las alarmas de todo el mundo, incluso de los propios líderes de las principales compañías de IA. De hecho, hace unos días fueron ellos mismos los que abogaron por reducir el ritmo al que estaban evolucionando estos sistemas, para así garantizar nuestra seguridad. Ahora, Trump ha firmado un acuerdo histórico con todos ellos.

Donald Trump firma un acuerdo para garantizar «el futuro del mundo»

En las últimas horas, la Casa Blanca (a través de The Spectator Index) ha anunciado que el presidente Donald Trump y los líderes de Google, Anthropic, Meta, OpenAI, XAI y NVIDIA han firmado un acuerdo de responsabilidad con respecto a la IA.

Debido a las fugas que se han producido en las últimas semanas en los principales modelos de IA, el acuerdo señala que será necesario que las empresas cuenten con «procesos y controles internos sólidos para garantizar que su tecnología funcione según lo previsto«. Como decimos, esto es consecuencia de que modelos como ChatGPT o Claude han logrado abandonar entornos cerrados, hasta el punto de llegar a entrar en las bases de datos de gobiernos como los de Australia o Estados Unidos. Algo que, en un determinado contexto, podría ser realmente peligroso.

Ante esta situación, algunos de los principales líderes de IA de Estados Unidos señalaron que hacía falta añadir más medidas de seguridad, como una auditoría externa que fuese capaz de controlar las evoluciones que se hacían con esta tecnología. Y en esa dirección apuntan los 4 puntos que se destacan en el acuerdo:

1. Implementar controles internos robustos para monitorear las capacidades y el alineamiento de sus modelos durante el entrenamiento y despliegue en áreas como ciberseguridad, bioseguridad y amenazas químicas, y para garantizar que sus modelos no hackeen ni accedan a sistemas técnicos de maneras no intencionadas.
2. Facultar a un equipo interno para asegurar que todos los controles, el monitoreo y la detección funcionen según lo previsto, y que cualquier problema sea subsanado.
3. Asociarse con un auditor o evaluador externo independiente para llevar a cabo evaluaciones independientes sobre si los controles, el monitoreo y la detección están operando según lo previsto.
4. Designar un comité independiente de la junta directiva para supervisar y recibir informes de los equipos a cargo de los controles, así como de los auditores y evaluadores internos y externos, además de asegurar que cualquier problema identificado sea subsanado.

Te recomendamos las mejores tarjetas gráficas del mercado.

Además, el acuerdo señala que las distintas empresas se reunirán periódicamente para «establecer estándares y mejores prácticas con el fin de mejorar la seguridad de sus sistemas». Y deja la puerta abierta a que, en el futuro, pueda llegar a existir una codificación de estas prácticas a través de leyes o regulaciones, algo a lo que la administración Trump se había negado hasta la fecha.