Los procesadores AMD EPYC de quinta generación son los que gestionan los nuevos sistemas TPU 8tx de Google Cloud, los primeros TPU en la nube con computación confidencial reforzada por hardware.
AMD lo ha anunciado como una ampliación de su colaboración con Google, orientada a que las empresas puedan ejecutar tareas de inferencia, ajuste fino y aprendizaje por refuerzo sin renunciar a la protección de sus datos.
La computación confidencial protege la información mientras se está usando y no solo cuando está almacenada o viaja por la red. Como te contamos, Google acaba de sumar el TPU 8tx a su octava generación de TPU. No es un chip nuevo, sino un sistema que reutiliza el silicio del TPU 8t y que está pensado para empresas reguladas y gobiernos que trabajan con datos sensibles.
Así protege AMD los datos dentro del TPU 8tx
En estos sistemas, los EPYC se encargan de preparar los datos. También de repartir el trabajo y comunicarse con los aceleradores. Para la parte de seguridad, recurren a AMD SEV, es decir, Secure Encrypted Virtualization. Esta es una tecnología que cifra la memoria de las máquinas virtuales y que, junto al TPU, extiende esa protección a los aceleradores conectados.
Antes de dar a un acelerador acceso directo a la memoria protegida, el sistema comprueba su identidad y su configuración de seguridad. De este modo, los prompts, los pesos del modelo y los datos intermedios permanecen cifrados en la memoria del procesador. También en su paso entre el procesador y los aceleradores. Los pesos, por si no lo tienes presente, son los parámetros que el modelo obtiene durante su entrenamiento.
Así lo ha explicado Mark Lohmeyer, vicepresidente y director general de infraestructura de IA y computación de Google Cloud. Según menciona, es la primera vez que esta protección llega a los TPU en la nube. Por su parte, AMD asegura que sus EPYC son el procesador de host elegido por más de diez grandes proveedores de nube y laboratorios de IA, tanto con GPU AMD Instinct o NVIDIA como con chips personalizados.
Te interesa 👉 Los mejores procesadores que puedes comprar
Hay que recordar que ambas compañías ya colaboran en las máquinas virtuales C4D, N4D, H4D, Z4D y G4 de Compute Engine, y que la tecnología SEV ya protege servicios como Confidential VMs o Confidential GKE.
