AMD presenta la forma sugerida de usar DeepSeek Destilado en su hardware

AMD reveló este miércoles una de recomendaciones para la compatibilidad de los modelos de razonamiento destilados DeepSeek R1. Estos modelos, diseñados para abordar tareas complejas mediante técnicas de “cadena de pensamiento” (Chain-of-Thought, CoT), están disponibles a través de LM Studio.

La compatibilidad de este modelo de la IA China fue anunciado el mismo día de su lanzamiento, permitiendo el uso de procesadores Ryzen AI y tarjetas gráficas Radeon. Los modelos de razonamiento representan una nueva clase de modelos de lenguaje que incorporan una etapa de “pensamiento” antes de generar una respuesta final. A diferencia de los modelos convencionales que producen respuestas de manera directa, los modelos CoT realizan un análisis exhaustivo del problema, lo que mejora su capacidad analítica y de razonamiento.

Cabe que se recomienda su uso en su modo destilado, versiones optimizadas que buscan conservar la capacidad de pensamiento lógico y estructurado de los modelos más grandes mientras se reducen los requerimientos de hardware y tiempos de inferencia. Esto los hace más prácticos para dispositivos con menos recursos computacionales, como laptops con procesadores Ryzen AI o tarjetas gráficas Radeon.

Implementación en hardware AMD

La integración de los modelos DeepSeek R1 en el hardware de AMD se realiza mediante LM Studio. Para garantizar un rendimiento óptimo, es esencial utilizar el controlador Adrenalin 25.1.1 o versiones posteriores. Los pasos para la configuración son los siguientes:

1. Actualizar al controlador Adrenalin 25.1.1 o superior.
2. Descargar LM Studio versión 0.3.8 o posterior desde el sitio oficial.
3. Instalar LM Studio y omitir la pantalla de introducción.
4. Acceder a la pestaña “Descubrir” dentro de LM Studio.
5. Seleccionar el modelo DeepSeek R1 Distill deseado.

Es importante elegir el modelo que mejor se adapte a las capacidades del hardware disponible. Por ejemplo, los modelos más pequeños, como el Qwen 1.5B, ofrecen un rendimiento rápido y son recomendados para comenzar, mientras que los modelos más grandes proporcionan una capacidad de razonamiento superior.

Compatibilidad según el hardware

La compatibilidad de los modelos DeepSeek R1 Distill varía según el procesador o tarjeta gráfica AMD utilizada. Estas son las recomendaciones:

Procesadores AMD Ryzen AI:

• Ryzen AI Max+ 395 32GB, 64GB y 128GB: Compatibles con DeepSeek-R1-Distill-Llama-70B (solo para 64GB y 128GB) y DeepSeek-R1-Distill-Qwen-32B.
• Ryzen AI HX 370 y 365 24GB y 32GB: Compatibles con DeepSeek-R1-Distill-Qwen-14B.
• Ryzen 8040 y Ryzen 7040 32GB: Compatibles con DeepSeek-R1-Distill-Llama-14B.

Tarjetas gráficas AMD Radeon:

• Radeon RX 7900 XTX: Compatible con DeepSeek-R1-Distill-Qwen-32B.
• Radeon RX 7900 XT y RX 7900 GRE: Compatibles con DeepSeek-R1-Distill-Qwen-14B.
• Radeon RX 7800 XT y RX 7700 XT: Compatibles con DeepSeek-R1-Distill-Qwen-14B.