Apple und NVIDIA bündeln ihre Kräfte, um die Zukunft der KI-Texterstellung zu revolutionieren. Im Zentrum dieser Zusammenarbeit steht ReDrafter, eine von Apple entwickelte Methode zur Optimierung der Texterzeugung durch Large Language Models (LLMs). Gemeinsam mit NVIDIAs Technologie bringt diese Partnerschaft bahnbrechende Verbesserungen in Effizienz und Geschwindigkeit.
Apple hat ReDrafter als Open-Source-Projekt entwickelt, um Entwicklern die Möglichkeit zu geben, fortschrittliche Texterstellungsmodelle zu nutzen. Diese Technologie verbessert die Effizienz und Genauigkeit von LLMs erheblich und ist darauf ausgelegt, kohärente und relevante Texte schneller zu generieren als herkömmliche Methoden.
Mit NVIDIA kommt nun ein starker Partner ins Spiel. Die Integration von ReDrafter in TensorRT-LLM, NVIDIAs optimierten Deep-Learning-Beschleuniger, hebt die Leistungsfähigkeit auf ein neues Niveau. TensorRT-LLM wurde speziell für die effiziente Ausführung von LLMs auf GPUs entwickelt und durch neue Operatoren und erweiterte Funktionen optimiert.
Erste Benchmarks zeigen deutliche Fortschritte: Durch die Nutzung von ReDrafter in Kombination mit NVIDIA-GPUs konnte die Geschwindigkeit der Token-Generierung während der Greedy-Decodierung verdreifacht werden. Diese Technik wählt in jedem Schritt das wahrscheinlichste nächste Wort und ermöglicht dadurch flüssige und logische Textausgaben.
Die Vorteile sind vielfältig:
Diese Partnerschaft markiert einen wichtigen Schritt in der Weiterentwicklung von LLM-Technologien. Apples Innovationskraft kombiniert mit NVIDIAs GPU-Expertise sorgt nicht nur für schnellere und effizientere KI-Systeme, sondern könnte auch den Standard für Texterzeugung auf ein völlig neues Niveau heben.
Mit ReDrafter und TensorRT-LLM könnte sich die Art und Weise, wie wir mit KI interagieren, nachhaltig verändern – schneller, präziser und ressourcenschonender.
Via Apple Machine Learning Research
ARM beschuldigt Qualcomm, durch die Nutzung nicht lizenzierter ARM-Technologien in der Snapdragon-X-Serie jährlich 50 Millionen US-Dollar Schaden zu verursachen. (mehr …)
Die neue holiday.com eSIM von ExpressVPN macht mobiles Internet im Ausland einfacher denn je. Reisende können per App und ohne…
Das Flint Center for Performing Arts, Schauplatz der legendären Präsentation des ersten Macintosh im Januar 1984, wird abgerissen. (mehr …)
In einem Interview mit WIRED hat Apples CEO Tim Cook eine klare Aussage getroffen: Apple hat "nie darüber gesprochen", für…
Der weltweite App-Markt hat 2024 ein beeindruckendes Wachstum erlebt, obwohl die Downloadzahlen zurückgegangen sind. (mehr …)
Die Organisation „Reporter ohne Grenzen“ (RSF) fordert Apple auf, die Zusammenfassungsfunktion seiner Apple-Intelligence-KI zu entfernen. Der Aufruf kommt nach einem…
Diese Website benutzt Cookies um Ihr Nutzererlebnis zu verbessern. Wenn Sie diese Website weiter nutzen, gehen wir von Ihrem Einverständnis aus.
Mehr lesen