AMD presenta ROCm 6.2.3 que mejora el rendimiento de la IA en las GPU Radeon

AMD ha lanzado la última versión de su software de computación abierta, AMD ROCm™ 6.2.3, diseñado específicamente para mejorar el rendimiento de las GPU Radeon en sistemas nativos Ubuntu® Linux®. Esta actualización tiene como objetivo proporcionar un rendimiento de inferencia superior para los modelos de IA, en particular el Llama 3 70BQ4, y permite a los desarrolladores integrar capacidades de texto a imagen de Stable Diffusion (SD) 2.1 en sus proyectos de IA, según AMD.com.

Características clave de ROCm 6.2.3

La nueva versión ROCm 6.2.3 trae varias características avanzadas destinadas a acelerar el desarrollo de la IA:

• Soporte para Llama 3 a través de vLLM: Esta característica proporciona un rendimiento de inferencia excepcional en las GPU Radeon con el modelo Llama 3 70BQ4.
• Integración de Flash Atención 2: Diseñada para optimizar el uso de la memoria y mejorar la velocidad de inferencia, esta característica admite la habilitación directa.
• Soporte de Difusión Estable 2.1: Los desarrolladores ahora pueden incorporar modelos SD de texto a imagen en sus aplicaciones de IA.
• Soporte Beta de Triton Framework: Esto permite a los desarrolladores escribir código de IA de alto rendimiento con una experiencia mínima, utilizando hardware AMD de manera eficiente.

Avances en el desarrollo de la IA

Erik Hultgren, gerente de productos de software de AMD, enfatizó que ROCm 6.2.3 apunta a características específicas para acelerar el desarrollo de IA generativa. El lanzamiento incluye mejoras de rendimiento de nivel profesional para la inferencia del modelo de lenguaje grande (LLM) a través de vLLM y Flash Attention 2. También presenta soporte beta para el marco Triton, ampliando el alcance para el desarrollo de IA en hardware AMD.

Evolución del soporte ROCm

El soporte ROCm de AMD para las GPU Radeon ha evolucionado significativamente durante el año pasado, comenzando con la versión 5.7. La versión 6.0 amplió las capacidades al incorporar el tiempo de ejecución ONNX y calificar formalmente más GPU Radeon, incluida la Radeon PRO W7800. La actualización 6.1 marcó otro hito con soporte de configuración de múltiples GPU e integración con el marco TensorFlow.

Con la versión actual, ROCm 6.2.3 continúa enfocándose en los sistemas Linux®, con planes de introducir pronto el soporte del Subsistema Windows® para Linux® (WSL 2). Este enfoque estratégico tiene como objetivo mejorar aún más la pila de soluciones ROCm para GPU Radeon, posicionándola como una opción sólida para el desarrollo de inteligencia artificial y aprendizaje automático.

Para obtener información y recursos adicionales, visite la página oficial de la comunidad de AMD.

Fuente de la imagen: Shutterstock