Der chinesische CPU-Hersteller Zhaoxin hat die DeepSeek-R1-Distill-KI-Modelle erfolgreich auf seiner gesamten Hardwarepalette implementiert – vom Desktop-PC bis hin zum Hochleistungsserver.
https://www.notebookcheck.com/Zhaoxin-setzt-DeepSeek-R1-Modelle-in-seiner-gesamten-CPU-Produktpalette-ein-von-Desktops-bis-hin-zu-Servern.967463.0.html
Auf DeepSeek basierende KI Modelle (inklusive der Vollversionen wie R1) lassen sich allgemein auf Desktop (dh x86/x64) ausführen, sofern genügend RAM da ist. Die Meldung wäre allerdings interessanter, wenn Zhaoxin ihre großen CPUs mit speziellen SIMD Funktionen ausstatten würde, die diese Modelle deutlich schneller ausführen können, und auch entsprechend DeepSeek Modelle und Distills daraufhin optimiert hätten bzw haben.
Weiß zwar nicht, ob daß hier mit DeepSeek und Zhaoxin der Fall ist, aber es gibt Beispiele, daß Workstation und Server CPUs die AVX512b16 haben dafür optimierte Modelle ziemlich flott laufen lassen können. Hat Zhaoxin denn solche oder ähnliche Funktionen in ihren CPUs?
Bei