Seit bald einem Jahr ist ChatGPT in aller Munde, viele Stellen mach sich seit dem Gedanken über diverse KI-Risiken. OpenAI möchte hier neue Lösungen bieten.
Das KI-Forschungsunternehmen OpenAI nimmt die Bedrohungen durch Künstliche Intelligenz ernst. Ein neu gebildetes Team widmet sich genau diesen Risiken. Das Ziel: Potenzielle Gefahren erkennen und abmildern. Was bedeutet das für uns?
Das sogenannte Bereitschaftsteam soll verschiedene Risiken im Auge behalten. Das Spektrum ist breit. Es reicht von nuklearen Bedrohungen bis zu chemischen, biologischen und radiologischen Gefahren. Ein besonderes Augenmerk liegt auf der autonomen Replikation von KI. Auch Täuschung durch KI und Cybersicherheitsbedrohungen stehen auf dem Plan.
OpenAI ist sich der ernsten Risiken bewusst, die mit fortschrittlichen KI-Modellen einhergehen können. „KI-Modelle mit überragenden Fähigkeiten können der gesamten Menschheit zugutekommen“, heißt es von OpenAI. Doch das Unternehmen betont auch: „Sie bergen zunehmend ernsthafte Risiken.“ Das Bereitschaftsteam soll dazu beitragen, diese Risiken zu minimieren. Dabei geht es nicht nur um die Entwicklung risikoinformierter Politiken. Auch die Bewertung und Überwachung von KI-Modellen sind zentrale Aufgaben.
Aleksander Madry, bisher Direktor des MIT Center for Deployable Machine Learning, steht an der Spitze des neuen Teams. Seine Erfahrung und Expertise sind für diese herausfordernde Aufgabe unverzichtbar. Sam Altman, der CEO von OpenAI, hat bereits zuvor auf die Dringlichkeit hingewiesen, KI-Risiken zu adressieren. Er fordert, dass der Umgang mit KI-Technologien so ernst genommen wird wie Atomwaffen.
Via The Verge
Ab sofort bietet Apple das Belkin-Kopfband als neues Zubehör für die Vision Pro an. Apple listet das Produkt im Apple…
Apple verstärkt die Investitionen in seine Satellitentechnologie. Mit 1,1 Milliarden Dollar unterstützt das Unternehmen die Erweiterung der Infrastruktur von Satellitendiensten.…
Apple geht laut aktuellen Berichten des Analysten Ming-Chi Kuo eine neue Richtung im Chip-Design für das kommende iPhone 17. (mehr …)
In den vergangenen Tagen haben heftige Unwetter den Süden und Osten Spaniens erschüttert, was zu verheerenden Überschwemmungen führte. (mehr …)
Apple hat kürzlich drei neue Mac-Modelle vorgestellt – den iMac mit M4-Chip, das MacBook Pro M4 sowie einen Mac mini,…
Die Verkaufszahlen der Apple Vision Pro bleiben unter Verschluss. Dennoch lässt sich aus vielen Berichten schließen, dass der große Markterfolg…
Diese Website benutzt Cookies um Ihr Nutzererlebnis zu verbessern. Wenn Sie diese Website weiter nutzen, gehen wir von Ihrem Einverständnis aus.
Mehr lesen