News

Luigi Mangione: Reporter ohne Grenzen fordern Verbot für KI-Zusammenfassungen

Die Organisation „Reporter ohne Grenzen“ (RSF) fordert Apple auf, die Zusammenfassungsfunktion seiner Apple-Intelligence-KI zu entfernen. Der Aufruf kommt nach einem Vorfall, bei dem die KI fälschlicherweise behauptete, Luigi Mangione, ein Manager habe Suizid begangen. Der Vorfall hat weltweit für Kritik und Debatten über die Zuverlässigkeit generativer KI gesorgt.

Luigi Mangione: Ein folgenschwerer Fehler

Die Kontroverse begann, als die BBC eine Nachricht zu einem Mordfall veröffentlichte. Dabei behauptete Apple Intelligence in einer automatisch generierten Zusammenfassung, der Verdächtige habe sich selbst erschossen. Tatsächlich hatte der Verdächtige den CEO von United HealthGroup getötet. Die BBC beschwerte sich umgehend bei Apple und betonte, dass die Glaubwürdigkeit ihres Netzwerks durch solche Fehler gefährdet werde.

Ein Sprecher der BBC erklärte, es sei essenziell, dass ihre Berichterstattung Vertrauen genieße – und das gelte auch für die Verwendung ihrer Inhalte in Drittplattformen. Apple hat bisher keine Stellungnahme zu diesem Vorfall abgegeben.

RSF fordert radikale Maßnahmen

„Reporter ohne Grenzen“ kritisiert die Zusammenfassungsfunktion scharf. In einer offiziellen Stellungnahme betont die Organisation, dass KI-gestützte Systeme aktuell noch nicht ausgereift genug seien, um verlässliche Informationen zu generieren. RSF warnt davor, dass der Einsatz solcher Funktionen die Glaubwürdigkeit der Medien gefährde und das Recht der Öffentlichkeit auf zuverlässige Informationen verletze.

Vincent Berthier, Technologie-Leiter von RSF, sagte dazu:

„KIs sind Wahrscheinlichkeitsmaschinen, und Fakten können nicht durch Würfeln entschieden werden. Wir fordern Apple auf, verantwortungsvoll zu handeln und diese Funktion zu entfernen. Die automatische Produktion von Falschinformationen, die einem Medienunternehmen zugeschrieben werden, ist ein Schlag für dessen Glaubwürdigkeit und gefährdet das Recht der Öffentlichkeit auf zuverlässige Nachrichten.“

Die Risiken generativer KI

Der Vorfall verdeutlicht die Risiken beim Einsatz generativer KI in sensiblen Bereichen wie Nachrichten. Automatische Zusammenfassungen können zwar praktisch sein, bergen jedoch erhebliche Gefahren, wenn sie ungenaue oder irreführende Inhalte erstellen.

Während Apple seine KI-Technologien weiterhin ausbaut, zeigt dieser Fall, dass ein strengeres Monitoring und sorgfältigere Tests notwendig sind, um die Verbreitung von Fehlinformationen zu verhindern. Ob Apple auf die Forderungen von RSF reagiert und Änderungen einführt, bleibt abzuwarten.

Via 9to5Mac

Jan Gruber

Chefredakteur Magazin und Podcasts

Neueste Artikel

Tim Cook: Apple wird keine Gebühren für KI erheben

In einem Interview mit WIRED hat Apples CEO Tim Cook eine klare Aussage getroffen: Apple hat "nie darüber gesprochen", für…

22. Dezember 2024

App Store 2024: Umsatzwachstum trotz sinkender Downloads

Der weltweite App-Markt hat 2024 ein beeindruckendes Wachstum erlebt, obwohl die Downloadzahlen zurückgegangen sind. (mehr …)

22. Dezember 2024

iOS 18.2.1: Kleines Update für Dein iPhone steht bevor

Apple arbeitet bereits an der nächsten Aktualisierung für iPhones mit iOS 18.2.1, die in den kommenden Wochen veröffentlicht werden könnte.…

22. Dezember 2024

Anker USB-C Hub 10-in-1 Aluminium-Monitorstandfuß: Ordnung und Funktionalität auf dem Schreibtisch

Der Anker USB-C Hub, 10-in-1 Aluminium-Monitorstandfuß, kombiniert eine Dockingstation mit einem ergonomischen Monitorständer. Die Lösung richtet sich an Nutzer:innen, die…

21. Dezember 2024

Die Top 5 Apple-Produkte, auf die Du Dich 2025 freuen kannst

Das Jahr 2025 verspricht ein aufregendes Jahr für Apple zu werden, mit einer Vielzahl neuer Produkte und Technologien. Von einem…

21. Dezember 2024

AirTags und Airlines: Neue iOS 18.2-Funktion erleichtert das Finden verlorener Gegenstände

Mit iOS 18.2 hat Apple die AirTags um ein praktisches neues Feature erweitert. Die Funktion „Standort eines Objekts teilen“ ermöglicht…

20. Dezember 2024

Diese Website benutzt Cookies um Ihr Nutzererlebnis zu verbessern. Wenn Sie diese Website weiter nutzen, gehen wir von Ihrem Einverständnis aus.

Mehr lesen