Odată cu apariția Deepseek, domnia lui Nvidia este liderul hardware AI?
Tl; dr: AMD a publicat repere care par să sugereze că placa sa grafică Radeon RX 7900 XTX este semnificativ mai rapidă decât RTX 4090 și RTX 4080 Super NVIDIA atunci când vine vorba de valori de referință Deepseek R1. De asemenea, Team Red a lansat instrucțiuni pentru pasionații de bricolaj să conducă R1 pe procesoarele Ryzen AI și GPU -urile Radeon.
According to an X post by David McAfee, the VP and GM of Ryzen CPU and Radeon graphics at AMD, the company tested the 7900 XTX against the RTX 4090 and RTX 4080 Super using DeepSeek R1, and the RDNA 3 GPU was between 13 percent and Cu 34 la sută mai rapid decât hardware -ul NVIDIA în funcție de LLM și numărul de parametri.
Deepseek performând foarte bine pe @amdradeon 7900 XTX. Aflați cum să alergați pe Radeon GPUS și Ryzen AI Apus aici: https://t.co/fvldlj18ov pic.twitter.com/5okekyjjh3
– David McAfee (@MCAFEEDAVID_AMD) 29 ianuarie 2025
Cu șapte miliarde de parametri, 7900 XTX a trântit RTX 4090 cu 13 la sută în distilarea Qwen, în timp ce a fost cu 11 % mai rapid în distilarea Llama cu opt miliarde de parametri. Cu 14 miliarde de parametri, cardul AMD a bătut flagship -ul ADA Lovelace cu două la sută în distilarea Qwen. Cu toate acestea, când numărul de parametri a crescut până la 32 de miliarde, RTX 4090 a avut un avantaj de patru la sută față de flagship -ul RDNA 3 în Distill Qwen.
AMD a comparat, de asemenea, 7900 XTX cu RTX 4080 Super, arătând că cardul său a fost mai rapid în fiecare test. Produsul AMD a depășit GPU -ul NVIDIA cu 34 la sută folosind Deepseek R1 Distill Qwen cu șapte miliarde de parametri și 27 la sută folosind Distill Llama cu opt miliarde de parametri. Odată cu numărul de parametri a crescut la 14 miliarde, cardul de la Team Red a fost încă cu 22 % mai rapid folosind Distill Qwen.
În plus față de repere, AMD a publicat și instrucțiuni detaliate despre cum să rulați Deepseek local pe computer. Potrivit companiei, toate GPU -urile sale de desktop RDNA 3 sunt compatibile cu mai multe LLM -uri folosind R1. Majoritatea acestor modele pot rula, de asemenea, pe procesoare selectate Ryzen cu NPU -uri XDNA.
AMD a lansat, de asemenea, o listă a parametrilor LLM maxim acceptați și a furnizat instrucțiuni despre modul în care instalatorul cu un singur clic al LM Studio poate fi reglat pentru hardware-ul său. Potrivit companiei, Radeon RX 7900 XTX acceptă până la 32 de miliarde de parametri, în timp ce RX 7600 la nivel de intrare, cu 8 GB de VRAM, acceptă până la opt miliarde de parametri în Distill Llama.