Steve Wozniak und Elon Musk fordern Pause der KI-Entwicklung

[Michael Reimann]

Michael Reimann
Apple-Mitgründer Steve Wozniak hat sich Elon Musk und führenden KI-Wissenschaftlern angeschlossen und fordert einen Stopp der fortschrittlichen KI-Entwicklung.

Konkret fordert der offene Brief eine Pause von mindestens sechs Monaten in der Entwicklung von KI-Systemen, die leistungsstärker sind als GPT-4.

Der Brief besagt, dass die derzeitige KI-Entwicklung außer Kontrolle geraten ist und "tiefgreifende Risiken für die Gesellschaft und die Menschheit" darstellen kann.

Wie in den weit verbreiteten Asilomar-KI-Prinzipien festgelegt, könnte fortgeschrittene KI eine tiefgreifende Veränderung in der Geschichte des Lebens auf der Erde darstellen. Dies sollte mit angemessener Sorgfalt und Ressourcen geplant und verwaltet werden. Leider findet diese Art der Planung und Verwaltung nicht statt, obwohl in den letzten Monaten KI-Labore in einem außer Kontrolle geratenen Rennen um die Entwicklung und Bereitstellung immer leistungsstärkerer digitaler Köpfe verwickelt sind, die niemand - nicht einmal ihre Schöpfer - verstehen, vorhersagen oder zuverlässig kontrollieren können.

KI-Systeme gefährden Arbeitsplätze​

Der Brief besagt, dass KI-Systeme viele Arbeitsplätze gefährden und stellt eine Reihe von Fragen.

Sollten wir Maschinen zulassen, unsere Informationskanäle mit Propaganda und Unwahrheiten zu fluten? Sollten wir alle Jobs automatisieren, auch die erfüllenden? Sollten wir nichtmenschliche Gedanken entwickeln, die uns irgendwann an Zahl, Intelligenz und Leistung übertreffen, obsolet machen und ersetzen? Sollten wir das Risiko des Kontrollverlusts unserer Zivilisation eingehen?

Der Entwickler von ChatGPT, OpenAI, hat selbst zuvor angedeutet, dass eine solche Pause irgendwann notwendig sein könnte, und der Brief besagt, dass dieser Zeitpunkt gekommen ist.

In einer kürzlichen Erklärung von OpenAI zu künstlicher allgemeiner Intelligenz heißt es: "Es kann irgendwann wichtig sein, unabhängige Bewertungen einzuholen, bevor man damit beginnt, zukünftige Systeme zu trainieren, und für die fortschrittlichsten Bemühungen, sich auf eine Begrenzung des Wachstums des berechneten Aufwands für die Erstellung neuer Modelle zu einigen." Dem stimmen wir zu. Dieser Zeitpunkt ist jetzt.

Kein gesamter Stopp gefordert​

Der Brief betont ausdrücklich, dass die Unterzeichner nicht einen Stopp der gesamten KI-Entwicklung fordern, sondern nur "den gefährlichen Wettlauf um immer größere, unvorhersehbare Black-Box-Modelle mit emergenten Fähigkeiten".

Weitere bekannte Unterzeichner sind eine lange Liste von auf KI spezialisierten Wissenschaftlern sowie leitende Führungskräfte von Technologieunternehmen.

Der Brief kann hier im Original nachgelesen werden.

Quelle: 9To5Mac

Den Artikel im Magazin lesen.

 

[O-bake]

[...] Sollten wir Maschinen zulassen, unsere Informationskanäle mit Propaganda und Unwahrheiten zu fluten? Sollten wir alle Jobs automatisieren, auch die erfüllenden? [...]

Dass sich Elon Musk um die Verbreitung von Fake News und den Abbau von Jobs Sorgen macht, ist wirklich sehr rührend und glaubwürdig.
...habe heute Morgen schonmal herzlich gelacht beim Lesen dieser News.

 

[dtp]

Das Thema hatte ich heute gerade mit Kollegen diskutiert. Bei Elon Musk bin ich ja immer etwas hin und her gerissen, ob er wirklich hehre Ziele verfolgt oder ob es ihm lediglich ums Geld geht und er ggf. nur einen Wissens- und Entwicklungsrückstand aufholen möchte, aber im Grunde genommen hat er Recht. ChatGPT birgt große Gefahren und gefährdet über kurz oder lang sehr viele Berufe, bei denen es primär um mentale und kognitive Fähigkeiten geht.

Aber wer weiß, vielleicht wäre es ja mal ganz gut, sämtlich Führungskräfte ab einem gewissen Level - sei es nun in der Wirtschaft oder in der Politik - durch eine KI zu ersetzen. Viel schlimmer kann's kaum noch werden.

 

[Benutzer 250503]

Von Musk kann man halten was man will, aber in diesem speziellen Fall hat er leider Recht.
Betrifft es nicht nur die Arbeitsplätze und die komplette Infrastruktur der einzelnen Sparten, betrifft es vor allem und das ist das wichtigste auch den privaten Bereich und da vor allem den Datenschutz.
Die Geschichte bleibt ja bei Microsoft nicht stehen und wie wir leider erkennen durften, sickert die Geschichte auch als Ethische-KI in NextCloud ein.

Ich denke auch, dass unreguliert die Geschichte komplett aus dem Ruder laufen wird und die, die aktuelle Variante dieser KI als must have herbeisehnen, werden noch ein Auge auf machen.

 

[dtp]

...dass unreguliert die Geschichte komplett aus dem Ruder laufen wird...

Sowas in der Art erleben wir ja schon mit Social Media, obwohl da noch überwiegend reale Menschen dahinter stecken. Aber Mensch sein heißt nicht automatisch gut zu sein.

 

[Macbeatnik]

Die Büchse ist geöffnet und mit regulieren ist da nichts mehr.

 

[Thaddäus]

Dass sich Elon Musk um die Verbreitung von Fake News und den Abbau von Jobs Sorgen macht, ist wirklich sehr rührend und glaubwürdig.
...habe heute Morgen schonmal herzlich gelacht beim Lesen dieser News.

Ist doch letztenendes egal. Auch hier wird eine Büchse der Pandora geöffnet, bei dir wir es später bedauern, die Folgen nicht mehr kontrollieren zu können. Man muss Musk nicht mögen, tue ich auch nicht, aber mit der Aussage hat er wohl nicht unrecht.

 

[ottomane]

Eine Entwicklungspause sorgt nur dafür, dass die, die sich nicht an Spielregeln halten, aufholen werden.

Zudem liegen der Idee diverse Probleme inne: Wie definiert man "Entwicklungspause"? Und wie kontrolliert man das Einhalten dieser? Was passiert, wenn man die Pause bricht? Und wann gilt eine KI als "fortschrittlich"? Und wo wird überhaupt an sowas gearbeitet? Guckt man dazu einfach in die Yellow Pages?

Abgesehen davon ist es sinnlos, jetzt, wo die Masse erkennt, welches Potenzial darin liegt, mit einer Pause anzukommen. Es ist viel zu spät. Woz kaufe ich den Gedanken ab. Musk macht nur mit, um wieder als Heiland in den Headlines zu stehen und sich in Position zu bringen. Wen fürchtet er als OpenAI-Mitgründer? Google? Darf man wohl vermuten.

Wenn man in den letzten Jahren irgendwas sinnvoll hätte regulieren sollen, wären das die Social Networks. Was da passiert und wie das die Gesellschaft kaputtmacht, ist in der Tat in vielerlei Hinsicht schlimm. Hier sollte man auch jetzt noch eingreifen. Musk könnte ja vorangehen. OK, OK....

 

[Manou Sakis]

Guter Punkt! Widmen wir uns stattdessen mal lieber wieder der Weiterentwicklung der natürlichen Intelligenz. Die ist in den vergangenen Jahren bei so einigen Zeitgenossen leider etwas ins Hintertreffen geraten.

 

[MichaNbg]

Dass sich Elon Musk um die Verbreitung von Fake News und den Abbau von Jobs Sorgen macht, ist wirklich sehr rührend und glaubwürdig.
...habe heute Morgen schonmal herzlich gelacht beim Lesen dieser News.

Das dachte ich auch…

Das ist als würde die FDP behaupten, sie kümmere sich um den Geldbeutel normaler Arbeitnehmer und Umweltschutz.

 

[Mure77]

Das dachte ich auch…

Das ist als würde die FDP behaupten, sie kümmere sich um den Geldbeutel normaler Arbeitnehmer und Umweltschutz.

Man könnte die Dinge auch trennen. Wenn jemand viel falsch macht heißt das nicht das derjenige immer alles falsch macht und nur falsches sagt, seit jeher ein Makel der menschlichen Deutung.

 

[MichaNbg]

Man könnte die Dinge auch trennen. Wenn jemand viel falsch macht heißt das nicht das derjenige immer alles falsch macht und nur falsches sagt, seit jeher ein Makel der menschlichen Deutung.

In diesem Fall ist es einfach lächerlich, da Musk die Verbreitung von Falschmeldungen wieder bewusst befeuert hat und bei all seinen Unternehmen sehr schnell am Kündigungsknopf ist.

Wenn er jetzt Bedenken wegen Fake News oder Abeitslosigkeit hat, dann ist das einfach unglaubwürdig.

 

[Benutzer 250503]

Der Aufhänger

Steve Wozniak und Elon Musk fordern Pause der KI-Entwicklung​

ist wieder der Klassiker zumal das "Tausend Personen und darunter auch WOZ und ELON" fehlt.
Denn dann würde sich die Geschichte nicht zum ELON Rant entwickeln.

Pause Giant AI Experiments: An Open Letter - Future of Life Institute

We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4.

futureoflife.org

 

[Benutzer 250503]

Datenschutz: Italien sperrt Chatbot ChatGPT

Der populäre Textroboter ChatGPT wird in Italien gesperrt, bis die Datenschutzbestimmungen eingehalten werden. Das beschloss die italienische Behörde für den Schutz personenbezogener Daten mit sofortiger Wirkung. ChatGPT habe seine Nutzer nicht über Datenverluste informiert, überhaupt sei das...

orf.at

Und los geht's, endlich fangen die Leute an aufzuwachen

 

[SomeUser]

Moin!

1. Es ist schon "lustig", dass bestimmte Unternehmen und Personen, die entweder eigentlich selbst was mit KI machen wollen, dort aber geraede massiv ins Hintertreffen geraten (Google-Gründer), selbst mal damit Geld verdienen wollten, dann aber ausgestiegen sind (Musk) oder schon immer wieder mit absurdesten G'schichten aus dem Paulaner Garten zu glänzen wussten (Woz), hier ein Moratorium fordern.

2. Ebenso unsining sind Fordererungen des dt. Ethik-Rates oder die aktuelle Tendenz der EU hier restriktiv eingegreifen zu wollen - und nicht zu vergessen: Sich nachher schön zu fragen, warum DE bei grundlegenden, wahrscheinlich sogar disruptiven, technischen Entwicklungen quasi keine Rolle spielt.

3. Es ist vollkommen unerheblich, wie sich die EU dort positioniert. Sollte es z.B. in den USA gelingen eine (ansatzweise) starke KI (oder etwas, was dem nahe kommt) zu entwickeln, spielt die Positionierung der EU oder gar ein Verbot, keine Rolle - die wirtschaftlichen Nachteile wäre dermaßen groß, dass sie genau so gut einfach jede weitere wirtschaftliche Aktivität untersagen könnten.
Von den rechtlichen Problemen mal ganz zu schweigen.

4. Es scheint noch eine sehr blumige Vorstellung davon zu herrschen, dass man einfach nur die Roboter-Gesetze in einen Rahmen für KIs gießen müsste, um damit die unterstellten Probleme zu lösen oder zu umgehen. Selbst Asimov hat sich der widersprüchlichen und grundsetzenden Probleme dieser Gesetze noch gewidmet - und kam zu keiner Lösung. Jahrzehntelang haben sich Philisophen, Techniker, Informatiker und sonstige Menschen darünber den Kopf zerbrochen (die Auseinandersetzung mit KI kommt ja nicht erst seit GPT), aber klar: ein Moratorium von sechs Monaten(!) und eine Arbeitsgruppe von Politikern, die wird schnellstens eine Lösung herbeiführen. Darf ich als Vorsitzende Fr. Giffey vorhschlagen? Nur um mal vor Augen zu führen, welcher Schlag an "Expertise" da nachher eine Entscheidung treffen soll...

 

[Benutzer 250503]

Golem.de: IT-News für Profis

KI-Chatbot: Italiens Datenschützer bremsen ChatGPT aus

Italiens Datenschutzbehörde will den KI-Chatbot ChatGPT ausbremsen. Der Vorwurf: OpenAI verarbeite unrechtmäßig personenbezogene Daten.

www.computerbase.de

Mehr Hintergrundinformationen

 

[paul.mbp]

Bill Gates über AI

https://www.gatesnotes.com/The-Age-of-AI-Has-Begun

 

[Thaddäus]

Meiner Meinung nach wird mit AI wieder eine Büchse der Pandora geöffnet. In 15 Jahren wundern wir uns dann, wie unkontrollierbar das Ganze geworden ist. Social Media hat es vorgemacht.

 

[Mure77]

Meiner Meinung nach wird mit AI wieder eine Büchse der Pandora geöffnet. In 15 Jahren wundern wir uns dann, wie unkontrollierbar das Ganze geworden ist. Social Media hat es vorgemacht.

So manches aus früheren Filmen ist schon heute Realität, mal schauen was sonst noch alles Realität werden wird. Ich halte diese Entwicklung für besorgniserregend. Es wird der Tag kommen an den die KI soweit ist zu übernehmen und dann gute Nacht.

 

[Michael Reimann]

So manches aus früheren Filmen ist schon heute Realität, mal schauen was sonst noch alles Realität werden wird. Ich halte diese Entwicklung für besorgniserregend. Es wird der Tag kommen an den die KI soweit ist zu übernehmen und dann gute Nacht.

Was genau meinst Du denn mit „Übernehmen“. Und was wenn das „Übernehmen“ in Bereichen passiert, in denen der Mensch schlechter ist als „die KI“.

Oder die KI dem Menschen Erleichterungen bringt.

Ja es kann auch alles irgendwie ganz schlimm werden. Muss es aber nicht und absolut Niemand kann die Zukunft vorhersagen.