Google y marvell, una carrera por la inferencia de ia
La inteligencia artificial ya no se trata solo de entrenar modelos complejos. Ahora, la verdadera batalla se libra en la inferencia: la capacidad de aplicar ese conocimiento aprendido de forma autónoma y rápida. Y Google, buscando una ventaja competitiva, se ha aliado con Marvell Technology en una apuesta audaz.
Un salto cuántico en la eficiencia
La compañía tecnológica está negociando el desarrollo de dos nuevos chips, un movimiento estratégico que complementará su actual infraestructura de aceleradores de IA, incluyendo los ya potentes TPU de Ironwood. El primero, una memoria de alto rendimiento, trabajará en conjunto con la unidad de procesamiento tensorial (TPU) de Google, optimizando la interacción entre memoria y procesador. El segundo, una nueva TPU, se centrará específicamente en las tareas de inferencia, prometiendo velocidades y eficiencia sin precedentes.
Este acuerdo no es solo una actualización incremental. Google, a través de sus TPU, ya ha logrado un rendimiento diez veces superior al de sus predecesores, v5p y v6e, y más de cuatro veces mejor en términos de potencia por chip. Con Ironwood, la capacidad de integrar hasta 9.216 chips en un 'superpod' – un sistema de supercomputación de IA – es una realidad, conectándolos mediante la red ICI, una Tecnología propia de Google que permite transferir 9,6Tb/s de datos entre los procesadores y la memoria. Esto se traduce en una memoria compartida de 1,77 Petabytes, un salto significativo en eficiencia y velocidad que rivaliza con la memoria RAM de miles de ordenadores convencionales.
Pero Google no está sola en esta carrera. Microsoft, con su acelerador Maia 200, se atreve a desafiar la hegemonía con un rendimiento superior en tareas FP4 y FP8. La competencia por dominar la inferencia de IA se intensifica, y el futuro de la inteligencia artificial podría depender de quién consiga optimizar este proceso crítico.
La estrategia de Google, con este nuevo chip de Marvell, no es simplemente mejorar el rendimiento. Es establecer una base sólida para el despliegue de modelos de IA en una gama cada vez más amplia de aplicaciones, desde la búsqueda y la traducción hasta la conducción autónoma y la asistencia virtual. El objetivo final es que la inteligencia artificial se convierta en una herramienta omnipresente, capaz de generar valor de forma continua y autónoma, sin la necesidad de intervención humana constante.