Google amplía su hardware de IA con dos nuevos TPUs centrados en la inferencia confidencial y una mayor memoria

1–2 minutos

TPU 8tx ofrece seguridad a nivel de hardware para entrenamientos de IA privados

Google anunció los chips el lunes, presentando el TPU 8tx, un dispositivo desarrollado en colaboración con AMD y derivado del anterior TPU 8t. El chip está diseñado para cargas de trabajo de IA confidencial, integrando la seguridad directamente en el silicio para que los datos sensibles y los parámetros del modelo permanezcan aislados incluso mientras el sistema está activo. Además, una red de inferencia personalizada permite que el chip realice razonamientos junto con el entrenamiento, permitiendo la destilación y el entrenamiento en tiempo real de modelos pequeños utilizando datos propietarios sin necesidad de transferirlos entre dispositivos.

El chip «integra la seguridad directamente en la capa de hardware, manteniendo los datos sensibles e los pesos del modelo protegidos e aislados incluso durante su uso activo», escribió la compañía.

TPU 8i Max duplica la memoria y el rendimiento en un solo paquete

La segunda propuesta, TPU 8i Max, apila dos chips TPU 8i orientados a la inferencia que se estrenaron en abril, duplicando efectivamente la capacidad de memoria, el poder de procesamiento y el ancho de banda dentro de un solo módulo. Esta consolidación permite que los modelos de IA procesen un conjunto más amplio de información durante las consultas, ampliando el alcance de las tareas que el hardware puede manejar.

Impulso estratégico mientras los rivales buscan reducir la dependencia de Nvidia

Ambos nuevos TPUs pertenecen a la familia de silicio de octava generación de Google, introducida en abril. El lanzamiento se produce en un momento en que los principales proveedores de la nube —Microsoft, Amazon— e laboratorios de investigación en IA como OpenAI e Anthropic desarrollan sus propios semiconductores y pilas de software específicos para IA, con el objetivo de reducir la dependencia de la dominante gama de GPU de Nvidia.

El momento también coincide con un período de mayor vulnerabilidad para Nvidia. Durante el fin de semana, el CEO de Nvidia, Jensen Huang, reveló una relación con una persona presuntamente espía china, añadiendo otra capa de incertidumbre al panorama competitivo.