Jetzt wird es gruselig - "ChatGPT", eine KI, die das Fürchten lehrt

[Benutzer 176034]

Liebe Apfeltalker,

am 14.12.22 hat der Inhaber des "Arcada-Clubs" - Peer Pubben - eine Information rausgehauen, die zum Nachdenken anregt.
Wir kennen vielleicht alle - mal mehr, mal weniger - die Möglichkeiten, die sich aus den Neuerungen der Künstlichen Intelligenz (kurz KI) mittlerweile ergeben... Wir können Ölgemälde von unseren Fotos herstellen lassen, wir können Szenen auf einem Foto praktisch bestellen und die KI gibt ein Bild aus, was original wie ein echtes Foto anmutet - ist es aber nicht. Wir können Bruce Willis einen individuellen Text sprechen lassen, der sich dann so anhört, als hätte er (also seine deutsche Synchronstimme) ihn tatsächlich gesprochen.

Den meisten Usern sicherlich bekannt...

Aber nun ist ein neues Level erreicht. Ein Level, das praktisch das Internet selbst bald alt aussehen lässt.

Dieser Chatroom hier:



könnte der Nachfolger des Internets werden. Hierbei handelt es sich um einen "Chatroboter", der so schlau ist, dass sich die Balken biegen.
Fragt ihn nach:

• "Ich benötige ein Rezept für einen Apfelkuchen" und es wird geliefert
• "Das gefällt mir nicht" sorgt für ein anderes Rezept und der Chatrobbie entschuldigt sich erst einmal für die "falsche Lieferung"(er nimmt also Bezug auf die vorangegangene Bitte, ohne dass ich das explizit erwähne)
• "Gib mir eine HTML-Tabelle, in der ersten Spalte das Datum für Monat März, in der zweiten Spalte die Summen meines Gehaltes von 3.000,00 €, in der dritten Spalte meine Tätigkeiten" und er wirft eine Tabelle aus, die genau diese Vorgaben enthält und von Excel oder Numbers lesbar ist.
• "Ich brauche eine Zusammenfassung von Goethes "Faust" auf maximal 20 Zeilen" und er schreibt die Zusammenfassung auf 20 Zeilen

Ich weiß spontan nicht, was er nicht ausspuckt. Und wie gesagt: Er nimmt Bezug auf die vorangegangene Frage, wenn man schreibt "das gefällt mir nicht" oder "gib mir ein anderes".
Er lässt sich auch beeinflussen. Fragst Du ihn simpel nach dem Ergebnis von "7 + 3", so sagt er völlig korrekt "10". Du beschwerst Dich aber und sagst ihm "Du irrst Dich, 7 + 3 sind 11", dann glaubt er das irgendwann und gibt dann den Wert "11" aus.

Das Internet lässt mich wenigstens noch ein bisschen nachdenken, obwohl es schon enorm hilft.
Aber dieses Ding hier "liefert auf Bestellung" gleich das sofort brauchbare Ergebnis. Keine Recherche mehr, nix. Vollständige Programmierungen können bestellt werden, wahrscheinlich sogar Apps für iOS.
Ganze Berichtshefte schreibt er, wenn Du das willst. Einfach befehlen "Schreib mir ein typisches Berichtsheft eines Bürokaufmannes vom 01.09.2000 bis 31.08.2003" und dann schreibt er los. cmd-c cmd-v und fertig.
Hausaufgaben der Schüler? Jetzt schon erledigt. "Ich gehe ins Freibad - Scheiß auf den Aufsatz. Ich lasse mir nachher vom Chatrobbie einen schreiben..."
"Schreibe mir eine Liebes-Geschichte mit Happy-End über 350 A4-Seiten" reicht aus und er legt los.

Der Witz für den Moment noch: Dieses Frankenstein-Monster ist noch nicht mal mit dem Internet verbunden. Es kennt das Internet und dessen Informationsgehalt nicht.

Für mein Verständnis geht das hier stramm in die Richtung "Terminator", wo die Computer sich selbst verwalten. Es scheint nur noch eine Frage der Zeit zu sein, dass sich die Rechner selbst programmieren können.

Diese Seite ist erreichbar unter chat.openai.com und möchte mit einem Account versehen werden, dessen Einrichtung über die Mobilfunknummer des Handys verifiziert werden muß. Wer das nicht scheut, richtet sich mal einen Account ein und quetscht den Burschen mal richtig aus. Er scheint alles zu wissen und alles zu können.

Der Weg ist frei für Fake-News, Betrug und viele andere Dinge. Diese KI ist nicht gut für die Menschheit. Wären wir alle liebe, nette Bürger ohne kriminelle Energie - wir dürften uns freuen.

Aber das sind wir leider nicht.



Was sagt Ihr zu diesem Monster?

 

[Mitglied 241048]

Tja, die Welt dreht sich halt weiter. Hier auch noch was Spannendes zum Thema KI:

Gruselig: Skype jetzt mit Deepfake-Übersetzung › Dr. Windows

Skype führt eine Echtzeit-Übersetzung ein, welche die Stimme des Menschen imitiert, dessen gesprochenes Wort in einem Anruf übersetzt wird. ...

www.drwindows.de

Skype TruVoice macht quasi Simultanübersetzungen mit der Originalstimme des Sprechenden. Klingt noch nicht hundertprozentig echt, aber ist schon sehr nah dran.

@machmahinda Was passiert denn, wenn du ihm zwei Mal hintereinander den gleichen Auftrag gibst, eine Zusammenfassung von Goethes Faust zu erstellen. Ist die dann identisch, oder ändert er sie? Ansonsten würde es ja schnell auffallen, wenn mehrere Schüler auf dieselbe Idee gekommen sind, den Chatbot zu konsultieren.

 

[Mr. Frog]

Sehr spannend. Vor allem speist einen die KI nicht nur mit der Lösung ab sondern liefert auch noch eine ausführliche Erklärung ab, warum und weshalb.
Außerdem warnt sie auch noch vor Spekulation (bei zB spaßeshalber „wie entwickelt sich der Aktienmarkt?“).

 

[landplage]

Das wirkt erst echt, wenn ich dem Bot meine unglückliche Liebesgeschichte schildere und er mir hinterher den Kopf wäscht oder Tipps gibt, wie ich den Typen doch noch rumkriege, einschließlich Klamottenempfehlung und Lieferung von Eiscreme.

 

[Carcharoth]

Was sagt Ihr zu diesem Monster?

War mit dem Ding schon vor einigen Wochen am rumspielen und finds krass wie die Mainstreammedien erst jetzt darauf aufmerksam werden. Die verpennen grad einen der wichtigsten Meilensteine des Jahrzehnts.

Falls du mal wirklich staunen willst, guck dir das an:

ChatGPT, emuliere ein Linux Terminal!

Die Chat-KI von OpenAI kann mehr als Chatten, zum Beispiel ein Linux Terminal emulieren.

gnulinux.ch

Building A Virtual Machine inside ChatGPT

Unless you have been living under a rock, you have heard of this new ChatGPT assistant made by OpenAI. Did you know, that you can run a whole virtual machine inside of ChatGPT?

www.engraved.blog

Obwohl es angeblich nicht mit dem Internet verbunden ist, kann das Ding ein Linux-System emulieren und sogar Webseiten anpingen.

 

[landplage]

Was ist denn die Technik dahinter? Eine Serverfarm, auf deren Platten ein Querschnitt des Internets lokal abgelegt ist?

 

[Benutzer 176034]

@machmahinda Was passiert denn, wenn du ihm zwei Mal hintereinander den gleichen Auftrag gibst, eine Zusammenfassung von Goethes Faust zu erstellen. Ist die dann identisch, oder ändert er sie?

Er ändert sie.
Bei anderen Beispielen kam schonmal sehr Ähnliches heraus aber nie dasselbe.
Das ist ja das Unheimliche…

 

[landplage]

Bei anderen Beispielen kam schonmal sehr Ähnliches heraus aber nie dasselbe.
Das ist ja das Unheimliche…

Unheimlich finde ich das nicht. Da ist in der Programmierung hinterlegt, auf gleiche/identische (komplexe) Fragen leicht modifiziert zu antworten bzw. äquivalente Formulierungen zu verwenden.

In seiner Weihnachtsvorlesung hat Dr. Hubert Zitt gestern erklärt, das sich bei Versuchen folgendes gezeigt hat: Eine KI wurde mittels Simulator für das Autofahren trainiert, bis nahezu "unfallfrei". Die gleiche KI wurde während der Simulation zusätzlich mit den Emotionen gefüttert, die Menschen in den einzelnen Simulationen empfinden (Angst, Wut, Erleichterung, ..). Hinterher im Vergleich auf einer neuen simulierten Straße hat die "emotionale" KI 25 % weniger Unfälle gebaut als die rein rational trainierte. DAS finde ich sehr beeindruckend und nachdenkenswert.

 

[Patze]

Ich finde einfach beindruckend wie weit wir schon mit der KI sind, habe einige Bücher darüber gelesen. Es erfreut mich immer wenn die Technik weiter voranschreitet. (Besonders da ich Informatiker bin)

 

[Bob___]

Beim lesen der Überschrift hatte ich schon befürchtet, dass es wieder um das Ende™ der Welt geht, aber IMHO das Gegenteil ist der Fall Ich hätte es vielleicht so formuliert: "ChatGPT, der nächste AI-Schritt in die Zukunft."

 

[Mitglied 241048]

Falls du mal wirklich staunen willst, guck dir das an

Cool, dann sag ich ihm heute Nachmittag mal, er soll macOS auf meinem iPad Air 5 zum Laufen bringen.

Hinterher im Vergleich auf einer neuen simulierten Straße hat die "emotionale" KI 25 % weniger Unfälle gebaut als die rein rational trainierte. DAS finde ich sehr beeindruckend und nachdenkenswert.

Cool. Dann kommen bestimmt bald Displays außen an die Autos, die dann auch mal "DU PENNER!" dem Gegenüber anzeigen können.

 

[landplage]

Cool. Dann kommen bestimmt bald Displays außen an die Autos, die dann auch mal "DU PENNER!" dem Gegenüber anzeigen können.

Dann lernt die KI im anderen Auto, dass sie Mist gebaut hat!

 

[Benutzer 176034]

Ich finde es bedenklich, wenn der Mensch bald nicht mehr denken braucht, weil die KI das übernimmt.
Die Vorteile - okay! Spart man bestenfalls wieder mehr Zeit und schafft somit mehr.
Aber die Nachteile…

 

[Bob___]

Ich finde es bedenklich, wenn der Mensch bald nicht mehr denken braucht, weil die KI das übernimmt.
Die Vorteile - okay! Spart man bestenfalls wieder mehr Zeit und schafft somit mehr.
Aber die Nachteile…

Ja, kann ich nachvollziehen, aber ist das nicht auch ein Teil unserer "menschlichen" Überheblichkeit? Das Menschen immer an der Spitze des schalten & walten stehen müssen?! Vielleicht handelt es sich hier auch um den nächsten Schritt einer Evolution?

 

[Mitglied 241048]

Dann lernt die KI im anderen Auto, dass sie Mist gebaut hat!

Oder sie wird noch emotionaler und fährt dem anderen erst recht in die Seite.

Aber die Nachteile…

Da gibt es sicherlich viele. Vom immer geringer werdendem menschlichen Handeln und Denken bis hin zur eigentständigen Kriegsführung durch künstlicher Intelligenz. Es gibt Momente, da bin ich echt froh, dass ich nicht älter als 80 bis 100 Jahre werde.

 

[Bob___]

Vielleicht wird ja die Technologie in ein paar 1000 Jahren tatsächlich in der Lage sein, unseren Geist auf Silizium (oder welches Medium auch sein mag) zu verschieben -> Transzendenz. Dann "leben" wir als AI vielleicht weiter und können endlich das "erleben" was heute noch als unmöglich erscheint.

 

[Carcharoth]

Cool. Dann kommen bestimmt bald Displays außen an die Autos, die dann auch mal "DU PENNER!" dem Gegenüber anzeigen können.

Gibts bereits. Standardmässig zeigen die aber meistens "BITTE FOLGEN" und "POLIZEI" an. Harmloserer Text, aber bessere Wirkung.

 

[Benutzer 176034]

Ja, kann ich nachvollziehen, aber ist das nicht auch ein Teil unserer "menschlichen" Überheblichkeit? Das Menschen immer an der Spitze des schalten & walten stehen müssen?! Vielleicht handelt es sich hier auch um den nächsten Schritt einer Evolution?

Da philosophiere ich gar nicht groß rum. Klar will der Mensch immer mehr, immer schneller, immer bequemer und dreht an den Optimierschrauben. Bis zu einem gewissen Grad verstehe ich das auch.
Aber irgendwann überkreuzen sich die beiden Linien Qualität und Quantität - ab dann geht mehr einfach nicht, sonst wären wir irgendwann in Lichtgeschwindigkeit unterwegs.
Ich selber denke auch zu gerne selber, als dass ich das den Computern überlasse aber was ist mit unseren Schülern?
Da strengt sich doch bald keiner mehr an und lernt auch nur irgendetwas.
Ab nach hause, Befehle einhacken und fertige Ergebnisse ausdrucken - fertig! In Sekunden.
Für mein Verständnis gehört so etwas reglementiert. Und zwar streng.
Alleine schon zum Schutz vor Missbrauch.

 

[Carcharoth]

Da philosophiere ich gar nicht groß rum. Klar will der Mensch immer mehr, immer schneller, immer bequemer und dreht an den Optimierschrauben. Bis zu einem gewissen Grad verstehe ich das auch.
Aber irgendwann überkreuzen sich die beiden Linien Qualität und Quantität - ab dann geht mehr einfach nicht, sonst wären wir irgendwann in Lichtgeschwindigkeit unterwegs.
Ich selber denke auch zu gerne selber, als dass ich das den Computern überlasse aber was ist mit unseren Schülern?
Da strengt sich doch bald keiner mehr an und lernt auch nur irgendetwas.
Ab nach hause, Befehle einhacken und fertige Ergebnisse ausdrucken - fertig! In Sekunden.
Für mein Verständnis gehört so etwas reglementiert. Und zwar streng.
Alleine schon zum Schutz vor Missbrauch.

Es ist verständlich, dass der Mensch immer mehr, schneller und bequemer möchte und dass es eine gewisse Balance zwischen Qualität und Quantität gibt, die nicht überschritten werden sollte. Allerdings gibt es auch Vorteile, die durch den Einsatz von Technologie und Automatisierung entstehen können, wie zum Beispiel Effizienz und Zeitersparnis.

In Bezug auf Schüler ist es wichtig, dass sie lernen, selbstständig zu denken und Probleme zu lösen, anstatt einfach nur Befehle einzugeben und fertige Ergebnisse zu erhalten. Deshalb ist es wichtig, dass Schüler auch weiterhin die Möglichkeit haben, selbstständig zu lernen und zu denken, und dass der Einsatz von Technologie und Automatisierung in gewissen Grenzen erfolgt.

Es ist auch wichtig, Maßnahmen zum Schutz vor Missbrauch zu ergreifen, um sicherzustellen, dass Technologie und Automatisierung in einer verantwortungsbewussten und ethischen Weise eingesetzt werden. Dazu gehört auch, dass Schüler lernen, verantwortungsbewusst mit Technologie umzugehen und sich bewusst zu machen, welche Auswirkungen ihr Handeln auf andere Menschen und die Umwelt haben kann.

Spoiler

(Diese Antwort ist übrigens komplett von ChatGPT geschrieben worden. Nicht von mir.)

 

[Bob___]

Ich selber denke auch zu gerne selber, als dass ich das den Computern überlasse aber was ist mit unseren Schülern?
Da strengt sich doch bald keiner mehr an und lernt auch nur irgendetwas.
Ab nach hause, Befehle einhacken und fertige Ergebnisse ausdrucken - fertig! In Sekunden.
Für mein Verständnis gehört so etwas reglementiert. Und zwar streng.
Alleine schon zum Schutz vor Missbrauch.

Für einen kleineren Teil der Schüler wird es wahrscheinlich keine großen Probleme geben. Die werden klug genug sein die Vorteile der neuen Technologien positiv zu nutzen. Aber bei der Masse könntest Du recht haben.

Allerdings gehe ich davon aus, dass die nächsten Schüler-Generationen sowieso ein ganz anderes Problem haben werden (zumindest in Deutschland), nämlich erst einmal deutsch und auch die Kultur-Basics zu lernen. Konzentration auf die Kernfächer, d.h. lesen, schreiben und rechnen. Und dann wird es vielleicht eine Trendumkehr geben, dass wir wieder mehr Leute in die handwerkliche Berufe stecken müssen und weniger an die Unis. Aber das ist dann ein anderes Thema.

Ok, nach ein paar Tests von ChatGPT muss ich sagen: Leider Geil!
Muss jetzt erstmal in AI/KI Aktien/ETFs & Co investieren.