• Apfeltalk ändert einen Teil seiner Allgemeinen Geschäftsbedingungen (AGB), das Löschen von Useraccounts betreffend.
    Näheres könnt Ihr hier nachlesen: AGB-Änderung
  • Der Frühling lässt den Schnee schmelzen, die Vögel jubilieren und die Sonne sorgt in wenigen Tagen auch noch dafür, das Grün endlich wieder draußen zur vorherrschenden Farbe wird. Wir freuen uns über diese wunderbaren Veränderungen und hoffen, sie feuern Eure Kreativität so richtig an!. Hier geht es lang --> Klick

Lohnt sich eine NPU in Prozessoren für PCs, Notebooks, Tablets und Smartphones wirklich?

Martyn

Gloster
Registriert
07.09.10
Beiträge
61
Hab einige Zeit überlegt ob ich das Thema im CPU Forum oder Offtopic Forum stellen soll aber mich dann doch fürs CPU Forum entschieden:

Aktuell geht ja der Trend dazu das jede Art von Prozessoren auch eine NPU bekommen. Ganz früh ging es bei Apple mit dem A11 SoC fürs Smartphones und Tablet los, dann zog auch Qualcomm nach, und inzwischen haben auch viele Prozessoren für Notebooks wie die Intel Core Ultra V2xx SoC oder auch für PCs wie der AMD Ryzen 7 8700G eine NPU on Board?

Nur was bringt sie da wirklich? Sie soll vorallem KI beschleunigen und Microsft setzt ja beim Windows 11 Copilot eine NPU mit mindestens 40 TOPS Leistung voraus. Aber baucht und will man den wirklich? Klar hat KI seine Berechtigung, aber es gibt ja immer noch die Möglichkeit die KI Aufgaben in die Dienste der Rechenzentren auszulagern.

Und gerade im Notebook und PC-Bereich wird man noch sehr lange Geräte ohne NPU haben, bei denen dan nur die drei Optionen bleiben: auf den x86 Kernen ausführen, auf der GPU ausführen oder in einem Rechenzentrum berechnen lassen.

Klar hatten wir im schon immer Zeiten wo man mehrgleisig fahren musste, egal ob es der Intel Pentium III mit SSE oder die Intel Core 2 Serie sowie diverse AMD Prozessoren mit x86-64 waren. Und auch aktuell haben wir sowas mit AVX512. Und speziell in der Mac-Welt dann auch erst die G5 Prozessoren, dann der Umstieg auf Intel und dann der Umstieg auf die eigenen Apple M Prozessoren. Aber das war und ist bei weitem nicht so unterschiedlich und so kompliziert wie eine NPU sinnvoll zu programmieren (wenn man nicht viel Ahnung davon hat). Man müsste sich damit befassen, aber ob das überhaupt Sinn macht?

Ich frage mich deshalb schon ob es nicht sinnvoller wäre einfach die NPU wegzulassen und stattdessen mehr x86 bzw. ARM Cores und mehr GPU Cores auf den CPUs bzw. SoCs zu verbauen.
 

fLuP

Raisin Rouge
Registriert
15.06.13
Beiträge
1.172
Was willst du denn mit den mehr x86 / Arm Cores machen?
 

maniacintosh

Hildesheimer Goldrenette
Registriert
28.12.15
Beiträge
682
Nur was bringt sie da wirklich? Sie soll vorallem KI beschleunigen und Microsft setzt ja beim Windows 11 Copilot eine NPU mit mindestens 40 TOPS Leistung voraus. Aber baucht und will man den wirklich? Klar hat KI seine Berechtigung, aber es gibt ja immer noch die Möglichkeit die KI Aufgaben in die Dienste der Rechenzentren auszulagern.
Gerade mit mobilen Geräten ist das Rechenzentrum nicht immer eine Option. Aber auch zu Hause will ich vielleicht nicht, dass alle Daten im Rechenzentrum verarbeitet werden. Und zu guter letzt: Auch im Rechenzentrum braucht man dann Chips, die im Idealfall auf KI optimierte Schaltkreise haben.
Und gerade im Notebook und PC-Bereich wird man noch sehr lange Geräte ohne NPU haben, bei denen dan nur die drei Optionen bleiben: auf den x86 Kernen ausführen, auf der GPU ausführen oder in einem Rechenzentrum berechnen lassen.
Ändert man das aber nicht und integriert weiterhin keine NPU-Kerne wird es auch auf ewig bei diesen drei Optionen bleiben. Und grundsätzlich ist das kein neues Problem: Auch bei MMX, SSE, SSE2, AltiVec und vielen anderen in den CPUs integrierten Technologien war es auch so, dass man noch lange Geräte ohne diese Technologie hatte. Gewisse Dinge konnten diese "alten" Kisten dann halt auch einfach nicht.
Aber das war und ist bei weitem nicht so unterschiedlich und so kompliziert wie eine NPU sinnvoll zu programmieren (wenn man nicht viel Ahnung davon hat). Man müsste sich damit befassen, aber ob das überhaupt Sinn macht?
Auch alle anderen neuen Technologien mussten von Entwicklern erstmal gelernt werden. Vieles können aber auch Compiler optimieren und den passenden Recheneinheiten zuordnen. Und unterm Strich müssen nur wenige für die NPU programmieren, aber viele können als Anwender davon profitieren. Es wird mit der Zeit genug Software geben, die NPU unterstützt.
Ich frage mich deshalb schon ob es nicht sinnvoller wäre einfach die NPU wegzulassen und stattdessen mehr x86 bzw. ARM Cores und mehr GPU Cores auf den CPUs bzw. SoCs zu verbauen.
Da kann man lange drüber spekulieren, aber die gesamte Chipindustrie scheint sich relativ einig zu sein, das NPU Cores Sinn machen. Sonst würde sie ja nicht jeder integrieren. Gerade Apple wird da vermutlich wissen, was sie tun, denn sie entwickeln selbst die Software für ihre Hardware. Und gerade Apple möchte bei KI viel on device machen. Ich befürchte eher, dass man künftig mehr NPU Kerne benötigen wird.
 

Scotch

Graue Herbstrenette
Registriert
02.12.08
Beiträge
8.210
Aber baucht und will man den wirklich?
Wenn "man" den braucht, will "man" das. Ob du das brauchst und daher willst, kannst nur du beantworten. Für ChatGPT und Co. braucht man das nicht, da die Dienste gar nicht lokal auf dem Rechner laufen.

Ich würde das aktuell auf Mobilgeräten wollen, um den Bilderkenner lokal laufen zu haben, damit ich z.B. mit Gemini schlicht und einfach der KI zeigen kann, um was es geht. Auf 'nem Desktop oder Laptop hätte ich aktuelle keine Anwendung dafür. NPUs/TPUs beschleunigen darüber hinaus keine "KI" sondern Neuronale Netze. Da baut zwar auch eine generative KI 'drauf auf, aber die wesentliche Anwendung für NPUs/TPUs sind aktuell Bild- und Spracherkenner, die damit lokal funktioeren.
 
  • Like
Reaktionen: Martyn

Martyn

Gloster
Registriert
07.09.10
Beiträge
61
Ich würde das aktuell auf Mobilgeräten wollen, um den Bilderkenner lokal laufen zu haben, damit ich z.B. mit Gemini schlicht und einfach der KI zeigen kann, um was es geht. Auf 'nem Desktop oder Laptop hätte ich aktuelle keine Anwendung dafür. NPUs/TPUs beschleunigen darüber hinaus keine "KI" sondern Neuronale Netze. Da baut zwar auch eine generative KI 'drauf auf, aber die wesentliche Anwendung für NPUs/TPUs sind aktuell Bild- und Spracherkenner, die damit lokal funktioeren.

Aber auch da tue ich mich schwer einen Sinn zu seinen.

Zwar dürfte eine NPUs zum Beispiel Fotos gut in Kategorie wie ( Portraits / Menschegruppen / Tiere / Nachtaufnahmen / Panoramaaufnahmen ) kategorisieren können aber wer will das schon. Und bei einer Kategorisierung in Kategorien wie ( Familie / Freunde / Kollegen / Freizeit / Urlaubsreisen / Dienstreisen ) dürfte sich eine NPU doch recht schwer tun. Aber die meisten Leute machen ja nicht soviele Bilder und Videos das man das nicht noch manuell machen könnte.

Und wenn ich z.B. irgendwelche Infos zu einem geparkten Auto bei dem ich die Marke und das Modell nicht kenne, oder irgenwo ein halb abgerissenes Konzertplakat sehe wo man nur noch das Bandfoto sieht und ich Infos zu der Band möchte, dann geht das ja eh nicht lokal. Sondern da braucht man dann ja immer die Verbindung zum Internet und kann den Prozess komplett im Rechenzentrum erledigen lassen.
 

NorbertM

Roter Trierer Weinapfel
Registriert
03.01.15
Beiträge
9.592
Zwar dürfte eine NPUs zum Beispiel Fotos gut in Kategorie wie ( Portraits / Menschegruppen / Tiere / Nachtaufnahmen / Panoramaaufnahmen ) kategorisieren können aber wer will das schon.
Dann gib mal in Fotos einen beliebigen Suchbegriff ein, da wirst du sehen was alles katgorisiert wird.
 

Scotch

Graue Herbstrenette
Registriert
02.12.08
Beiträge
8.210
Zwar dürfte eine NPUs zum Beispiel Fotos gut in Kategorie wie ( Portraits / Menschegruppen / Tiere / Nachtaufnahmen / Panoramaaufnahmen ) kategorisieren können aber wer will das schon.
Jeder, der z.B. umfangreich Fotografiert, das verschlagwortet und Fotos mit roten Sportwagen im Sonnenuntergang wiederfinden will. Außerdem jeder, der seine Kamera auf's Gericht in Japan richtet und einfach fragen will "Was ist das?". Das wären zwei use cases für mich, die mir spontan einfallen. Und der zweite hat sogar ein bisschen was mit "KI" zu tun 😉

Aber die meisten Leute machen ja nicht soviele Bilder und Videos das man das nicht noch manuell machen könnte.
Die meisten Leute knipsen ohne Sinn und Verstand und finden ohne "KI" vmtl. gar nichts mehr wieder 😉

Aber auch wer sauber (aus-)sortiert, verschlagwortet und das halbwegs ambitioniert lange macht, erarbeitet sich ein erstaunliches Archiv. Bei mir sind's aktuell knapp 10k Fotos aus bald 40 Jahren fotografieren (ja, darunter natürlich auch ein Haufen inzwischen sorgfältig digitalisierte ursprünglich analoge Aufnähmen). Und da ist noch kein einziges Smartphone-Foto mitgezählt, die kuratiere ich nämlich nicht annähernd so sorgfältig, weil das nur knipsen "im Moment" ist.

Sondern da braucht man dann ja immer die Verbindung zum Internet und kann den Prozess komplett im Rechenzentrum erledigen lassen.
Aber du willst vielleicht nur das Objekt, um welches es dir geht übertragen und nicht den ganzen Rest, mit z.B. deiner Freundin daneben. Also automatisches Freistellen, Objekt ausschneiden, vmtl. Kanaltrennung um Schrift zu erkennen und als Metadaten beizupacken (für dein Plakat-Beispiel)... -> lokal.
 

Martyn

Gloster
Registriert
07.09.10
Beiträge
61
Außerdem jeder, der seine Kamera auf's Gericht in Japan richtet und einfach fragen will "Was ist das?".

Aber du willst vielleicht nur das Objekt, um welches es dir geht übertragen und nicht den ganzen Rest, mit z.B. deiner Freundin daneben. Also automatisches Freistellen, Objekt ausschneiden, vmtl. Kanaltrennung um Schrift zu erkennen und als Metadaten beizupacken (für dein Plakat-Beispiel)... -> lokal.

Für die Information "Was ist das?" wird die NPU aber ohnhin Informationen aus dem Internet benötigen, da sehe ich dann keinen wirklichen Sinn die Auswertung lokal machen zu lassen.

Und denke das man für eine gute KI Antwort eh ein Bild verwenden muss wo das gewünschte Objekt im Fokus ist. Also idealerweise direkt so fotografieren das das gewünschte Objekt im Fokus ist. Oder wenn es mal nicht geht eben wie gewohnt mit zwei Fingern aufzoomen und den richtigen Bildausschnitt wählen. Aber das ist ja dann eher ein Job für die CPU und GPU.
 

Scotch

Graue Herbstrenette
Registriert
02.12.08
Beiträge
8.210
Für die Information "Was ist das?" wird die NPU aber ohnhin Informationen aus dem Internet benötigen, da sehe ich dann keinen wirklichen Sinn die Auswertung lokal machen zu lassen.
Gesamtbild, d.h. alle anderen Objekte/Personen, Kontext (Ort, Wetter, Anlass...) und Metadaten bleiben auf deinem Gerät.

Aber ich bin hier 'raus. Wir diskutieren hier nur noch, dass du nichts von dem brauchst bzw. nutzen möchtest, was eine NPU/TPU unterstützt. ist OK, aber dann ist dieser Thread überflüssig,
 
  • Like
Reaktionen: maniacintosh