Google lanza dos nuevos chips de inteligencia artificial con mayor capacidad de procesamiento y seguridad para datos confidenciales
Dos versiones cubren diferentes necesidades de IA
El pasado lunes 9, Google anunció dos nuevas versiones de sus sistemas de chips para inteligencia artificial. Una de ellas está diseñada para ejecutar agentes que necesitan analizar grandes volúmenes de información, como horas de vídeo o el código completo de un software. La otra está dirigida a empresas y organismos públicos que desean utilizar la IA con datos sensibles, como registros financieros, sin exponerlos durante el procesamiento.
Los sistemas TPU 8i Max y TPU 8tx se suman al TPU 8t, destinado al entrenamiento de grandes modelos, y al TPU 8i, diseñado para reducir el tiempo de respuesta de modelos ya entrenados. Ambas versiones reutilizan chips presentados en abril. Google modificó la forma de combinarlos con la memoria, la red y los recursos de seguridad para adaptarlos a diferentes tareas.
Por qué los agentes de IA necesitan más memoria en los chips
Un agente encargado de corregir un error de software puede consultar archivos, ejecutar pruebas y volver al código con los resultados obtenidos. Cada etapa añade información a la ventana de contexto, que es el conjunto de datos que el modelo puede considerar mientras trabaja. Si varios agentes realizan esta tarea simultáneamente, los procesadores pueden pasar parte del tiempo esperando los datos necesarios para continuar.
Para reducir esta espera, Google combinó dos chips TPU 8i en un único encapsulado. Según la empresa, el 8i Max tiene el doble de capacidad de cálculo y de memoria interna SRAM que el 8i, además de duplicar el ancho de banda de la memoria HBM. Esto significa que el sistema puede transferir el doble de datos por segundo entre la HBM y el procesador. Además, la configuración permite alojar el doble de chips en el mismo espacio de un rack, según Google.
Cómo el 8tx protege los datos durante el procesamiento
La criptografía suele proteger los datos mientras están almacenados o se transmiten por la red. Sin embargo, durante el procesamiento, el sistema necesita acceder a esta información en la memoria. Es en esta etapa donde actúa el TPU 8tx, que combina el chip del TPU 8t con procesadores AMD EPYC de quinta generación para aislar, en el propio hardware, tanto los datos utilizados en la tarea como los pesos del modelo, es decir, los parámetros que determinan su funcionamiento.
Google afirma que el mismo sistema puede ejecutar un modelo y ajustarlo con datos privados, sin necesidad de transferir la información entre grupos separados de servidores. Además, la empresa asegura que la red interna puede reducir a la mitad la latencia en comparación con el TPU 8t. Para un agente que llama al modelo varias veces durante una tarea, el tiempo de espera de cada etapa se acumula.
Google quiere llevar sus chips más allá de su propia nube
Las unidades de procesamiento tensorial (TPU) se crearon originalmente para tareas internas, como el reconocimiento de voz y la traducción. Actualmente, Google utiliza estos chips para entrenar y ejecutar el modelo Gemini, ofrece acceso a ellos en su nube y permite a los clientes instalarlos en sus propios centros de datos. La empresa afirma que el negocio de TPUs cuenta actualmente con casi 100 clientes.
Para ampliar este mercado, también es necesario que el software de las empresas funcione en los chips. En octubre, Google abrió el código de TorchTPU, desarrollado en colaboración con el equipo de PyTorch de Meta. Esta herramienta reduce el trabajo de adaptación para quienes ya utilizan esta biblioteca para desarrollar modelos. Además, el grupo anunció un acuerdo para ofrecer TPUs en la nube de Oracle.
Anthropic, propietaria de Claude, es un ejemplo de cómo los grandes clientes distribuyen esta demanda. La empresa utiliza TPUs de Google, chips Trainium de Amazon y GPUs de Nvidia. En abril, anunció junto con Google y Broadcom un acuerdo para ampliar su capacidad de computación con TPUs de nueva generación a partir de 2027. En el anuncio del lunes, Google no proporcionó información sobre precios ni fechas de disponibilidad para el 8tx y el 8i Max.








