Das Apple iPhone und das iPad sollen in wenigen Monaten zahlreiche AI-Features erhalten, womit Apple zu Google und Microsoft aufschließt. Die fortschrittlicheren Funktionen sollen anders als erwartet nicht direkt auf dem Endgerät berechnet werden, sondern auf einem Apple M2 Ultra in Apples Servern.https://www.notebookcheck.com/AI-Features-des-iPhone-sollen-durch-Apple-M2-Ultra-ermoeglicht-werden.835744.0.html
"Komplexere Aufgaben, wie etwa das Generieren eines Bildes oder eine Zusammenfassung eines längeren Dokuments zu erstellen, sollen stattdessen auf Apples Servern berechnet werden. [...] der M2 Ultra kommt auf eine Machine-Learning-Leistung von "nur" 31,6 TOPS [...] Eine Nvidia GeForce RTX 4090 erzielt eine AI-Leistung von 1.321 TOPS, mehr als 41 Apple M2 Ultra. Dass Apple trotzdem hauseigene Chips verwendet, soll vor allem Datenschutz-Gründe haben, wobei weniger kritische Aufgaben laut Bloomberg dennoch auf Server von Drittanbietern ausgelagert werden könnten."
Und außerdem sagt Apple, Privatsphäre sei ein Menschenrecht, blabla. Erst wirbt Apple mit rein lokaler Ausführung, dann sind es doch Server weltweit. Man werde dieses Jahr besser bei AI als die Konkurrenz sein. Apple lügt und lügt und lügt.
Ich weiß nicht, wie relevant diese TOPS Angabe ist, aber auf Youtube testet einer Unity:
"Unity on Steroids M3 Max and RTX 4090m"
Dort sieht man ab Minute 7, die RTX 4090 mit 200 FPS im MSI Notebook
im Macbook pro mit M2 Max ca. 150 FPS und
im Macbook pro mit M3 Max ca. 190 FPS.
Quote from: happi on May 10, 2024, 13:48:37Ich weiß nicht, wie relevant diese TOPS Angabe ist, aber auf Youtube testet einer Unity:
"Unity on Steroids M3 Max and RTX 4090m"
Dort sieht man ab Minute 7, die RTX 4090 mit 200 FPS im MSI Notebook
im Macbook pro mit M2 Max ca. 150 FPS und
im Macbook pro mit M3 Max ca. 190 FPS.
Für Unity ist vornehmlich die GPU-Render-Performance (TFLOPS) relevant, nicht die Leistung der NPU (TOPS).
Quote from: happi on May 10, 2024, 13:48:37Ich weiß nicht, wie relevant diese TOPS Angabe ist
So ein Wert findet sich, wie ich ermittelte, in gleicher Größenordnung bei maschinellem Lernen / KI. Der Wert ist also sehr relevant für Anwendungen, die rechenkomplexitätsbezogen gut mit wachsender Kernanzahl skalieren und neben CUDA- auch die Tensor- und RT - Kerne nutzen können.