Kategorien: News

OpenAIs neue Initiative gegen KI-Risiken

Seit bald einem Jahr ist ChatGPT in aller Munde, viele Stellen mach sich seit dem Gedanken über diverse KI-Risiken. OpenAI möchte hier neue Lösungen bieten.

Das KI-Forschungsunternehmen OpenAI nimmt die Bedrohungen durch Künstliche Intelligenz ernst. Ein neu gebildetes Team widmet sich genau diesen Risiken. Das Ziel: Potenzielle Gefahren erkennen und abmildern. Was bedeutet das für uns?

Risiken im Visier: Von nuklearen Bedrohungen bis zur Selbstreplikation

Das sogenannte Bereitschaftsteam soll verschiedene Risiken im Auge behalten. Das Spektrum ist breit. Es reicht von nuklearen Bedrohungen bis zu chemischen, biologischen und radiologischen Gefahren. Ein besonderes Augenmerk liegt auf der autonomen Replikation von KI. Auch Täuschung durch KI und Cybersicherheitsbedrohungen stehen auf dem Plan.

KI-Risiken: Ein Team mit Mission und Vision

OpenAI ist sich der ernsten Risiken bewusst, die mit fortschrittlichen KI-Modellen einhergehen können. „KI-Modelle mit überragenden Fähigkeiten können der gesamten Menschheit zugutekommen“, heißt es von OpenAI. Doch das Unternehmen betont auch: „Sie bergen zunehmend ernsthafte Risiken.“ Das Bereitschaftsteam soll dazu beitragen, diese Risiken zu minimieren. Dabei geht es nicht nur um die Entwicklung risikoinformierter Politiken. Auch die Bewertung und Überwachung von KI-Modellen sind zentrale Aufgaben.

Expertise an der Spitze: Aleksander Madry übernimmt die Leitung

Aleksander Madry, bisher Direktor des MIT Center for Deployable Machine Learning, steht an der Spitze des neuen Teams. Seine Erfahrung und Expertise sind für diese herausfordernde Aufgabe unverzichtbar. Sam Altman, der CEO von OpenAI, hat bereits zuvor auf die Dringlichkeit hingewiesen, KI-Risiken zu adressieren. Er fordert, dass der Umgang mit KI-Technologien so ernst genommen wird wie Atomwaffen.

Via The Verge

Jan Gruber

Chefredakteur Magazin und Podcasts

Neueste Artikel

Apple startet Verkauf des Belkin-Kopfbands für Vision Pro

Ab sofort bietet Apple das Belkin-Kopfband als neues Zubehör für die Vision Pro an. Apple listet das Produkt im Apple…

4. November 2024

Apple investiert 1,1 Milliarden für Ausbau von Satellitendiensten

Apple verstärkt die Investitionen in seine Satellitentechnologie. Mit 1,1 Milliarden Dollar unterstützt das Unternehmen die Erweiterung der Infrastruktur von Satellitendiensten.…

4. November 2024

Apple entwickelt separate 5G- und Wi-Fi-Chips für das iPhone 17

Apple geht laut aktuellen Berichten des Analysten Ming-Chi Kuo eine neue Richtung im Chip-Design für das kommende iPhone 17. (mehr …)

4. November 2024

Apple unterstützt Überschwemmungsopfer in Spanien mit Spende

In den vergangenen Tagen haben heftige Unwetter den Süden und Osten Spaniens erschüttert, was zu verheerenden Überschwemmungen führte. (mehr …)

4. November 2024

Hohe Softwareanforderungen für neues Mac USB-C-Zubehör

Apple hat kürzlich drei neue Mac-Modelle vorgestellt – den iMac mit M4-Chip, das MacBook Pro M4 sowie einen Mac mini,…

4. November 2024

Apple Vision Pro: Günstigeres Modell soll sich verzögern

Die Verkaufszahlen der Apple Vision Pro bleiben unter Verschluss. Dennoch lässt sich aus vielen Berichten schließen, dass der große Markterfolg…

4. November 2024

Diese Website benutzt Cookies um Ihr Nutzererlebnis zu verbessern. Wenn Sie diese Website weiter nutzen, gehen wir von Ihrem Einverständnis aus.

Mehr lesen