La hoja de ruta actualizada del acelerador AMD Instinct aporta rendimiento de IA y capacidades de memoria
En Computex 2024, AMD mostró la familia de aceleradores Instinct, esto incluyó una hoja de ruta ampliada y de varios años para el acelerador que aportará una cadena anual de capacidades de liderazgo en rendimiento y memoria de Inteligencia ArtificialEs la combinación de algoritmos planteados con el propósito de crear máquinas que presenten las mismas capacidades que el ser humano. Fuente: opensource.org en cada generación.
La hoja de ruta actualizada comienza con el nuevo acelerador AMD Instinct MI325X que estará disponible en el cuarto trimestre de 2024.
Asimismo, se espera que la Serie Instinct MI350 impulsada por la nueva arquitectura AMD CDNA 4 esté disponible en 2025.
Esto representará un aumento de hasta 35 veces en el rendimiento de inferencia de IA en comparación con la Serie AMD Instinct MI300 con arquitectura CDNA 3.
Mientras que para 2026 se espera que llegue la serie AMD Instinct MI400 que se basa en la arquitectura AMD CDNA Next.
De acuerdo con la compañía, los aceleradores Instinct MI300X continúan su fuerte adopción por parte de socios y clientes como Microsoft Azure, Meta, Dell Technologies, HPE, Lenovo, entre otros.
Un ecosistema de software de IA que madura
El stack de software abierto AMD ROCm 6 madura, lo que permite que los aceleradores Instinct MI300X impulsar un rendimiento superior para algunos de los LLM más populares.
En un servidor que utiliza ocho aceleradores AMD Instinct MI300X y ROCm 6 que ejecuta Meta Llama3 70B, los clientes pueden obtener un rendimiento de inferencia y una generación de tokens 1.3 veces mejores en comparación con otros.
También, destacó que Hugging Face, el repositorio más grande y popular de modelos de IA, está probando 700 000 de sus modelos más populares.
Para asegurarse de que funciones de inmediato en los aceleradores AMD Instinct MI300X.
Te interesa leer: PyMEs mexicanas en la mira de AMD
La compañía reveló una cadena anual actualizada para la hoja de ruta del acelerador Instinct para satisfacer la creciente demanda de más computación de IA.
Con esto ayudará a garantizar que los aceleradores Instinct impulsen el desarrollo de modelos de IA de vanguardia de próxima generación.
La hoja de ruta anual actualizada de AMD Instinct destaca por:
- El nuevo acelerador Instinct MI325X que aportará 288 GB de memoria HBM3E y 6 terabytes por segundo de ancho de banda de memoria.
- El primer producto de la Serie AMD Instinct MI350, el acelerador Instinct MI350X se basa en la arquitectura AMD CDNA 4, que utiliza el mismo diseño de placa, estándar de la industria.
- La arquitectura AMD CDNA Next que impulsará los aceleradores Instinct MI400 Series esté disponible en 2026.
Destacó que las últimas características y capacidades que ayudarán a desbloquear rendimiento y eficiencia adicionales para la inferencia y entrenamiento de IA a gran escala.