Das Grundgerüst, ChatGPT und die Fallstricke, wenn man sich auf KI verlässt

Als Dan Goldstein, ein Physiotherapeut aus West Palm Beach, kürzlich in Norwegen Urlaub machte, erlebte er einen ungewöhnlichen Anblick.

Ein Skelett hing auf den Orgelpfeifen im Rathaus von Oslo, wo jedes Jahr die Friedensnobelpreisverleihung stattfindet.

Goldstein machte Fotos vom Skelett auf der Orgel und suchte bei Google nach einer Erklärung, fand aber keine Ergebnisse.

Sein Freund schlug ihm vor, auf ChatGPT zu recherchieren, einer Online-Quelle für künstliche Intelligenz, die eine breite Palette von Daten aus verschiedenen Quellen sammelt, um als eine Art sachkundiger persönlicher Assistent zu fungieren, der im Gespräch Fragen beantworten und alles schreiben kann, von College-Aufsätzen bis hin zu Geschäftskorrespondenz zu Zeitungskolumnen vor Ort.

Disney auf dünnem Eis:Vorschläge zur „Reparatur“ von Disney-Filmen nach der Übernahme durch DeSantis

Cerabino:Liebe Mar-a-Lago Club-Mitglieder, diese FBI-Razzia wird Sie teuer zu stehen kommen

Mehr: Das E-Verify-System in Florida zielt darauf ab, Arbeiter in den schlechtesten Jobs abzuschrecken. Wer wird einspringen?

Und ja, als Goldstein ChatGPT nach dem Skelett fragte, wusste es alles darüber. Und zwar sehr detailliert.

„Das Skelett über der Pfeifenorgel im Osloer Rathaus ist auf Norwegisch als „Todesorgel“ oder „Dødsorgel“ bekannt. Das Skelett befindet sich in sitzender Position über den Orgelpfeifen, wobei seine Hände auf den Tasten der Orgel ruhen .

Das Skelett besteht aus Gips und wurde vom norwegischen Künstler Emanuel Vigeland geschaffen, der Anfang des 20. Jahrhunderts mit der Dekoration der Halle beauftragt wurde.

Die Todesorgel soll die Vergänglichkeit des Lebens und die Unvermeidlichkeit des Todes symbolisieren. Auch die Orgel selbst wurde mit einem besonderen Klang gestaltet, um ein Gefühl der Sterblichkeit hervorzurufen, mit tiefen und traurigen Tönen, die einem Trauermarsch ähneln sollen.

Nachdem er aus Norwegen nach Hause zurückgekehrt war, erwähnte Goldstein gegenüber einem Kunden, wie beeindruckt er von den „magischen Computer“-Funktionen von ChatGPT war.

„Woher weißt du, dass es wahr ist?“ Sie hat geantwortet.

Nun, jetzt musste er es wissen. Also schickte Goldstein eine E-Mail an einen Osloer Reiseführer mit einer Erklärung des Skeletts von ChatGPT und einer Bitte um Überprüfung der Geschichte des Skeletts. Er war überrascht von der Antwort, die er als Antwort erhielt.

„Es wurde dort als Streich des Nachtwächters für die Tageswächter angebracht, und es lag vielleicht nur einen halben Tag dort, bevor es wieder entfernt wurde“, heißt es in der Antwort. „Ich würde sagen, diese ‚Geschichte‘ von Chat GPT zeigt, dass wir dem, was darin steht, nicht vertrauen sollten – zumindest noch nicht. Nichts im Text war korrekt.“

Goldstein erzählte mir die Geschichte des Oslo-Skeletts und von ChatGPT, und das weckte in mir den Wunsch, es selbst zu sehen. Und als ich ChatGPT bat, mir die Geschichte des Skeletts der Pfeifenorgel zu erzählen, erhielt ich eine völlig andere und sehr detaillierte, fiktive Antwort.

Das Skelett über der Pfeifenorgel heißt „Leif“ und hat eine interessante Geschichte, die bis in die 1930er Jahre zurückreicht, erzählte mir ChatGPT.

„Die Geschichte hinter Leif reicht bis in die Zeit zurück, als der Architekt Arnstein Arneberg und der Künstler Hugo Lous Mohr am Entwurf des Gebäudes arbeiteten.

„Der Legende nach schlug Mohr während eines Gesprächs über die Orgelempore scherzhaft vor, dort ein Skelett aufzustellen, um dem Organisten Gesellschaft zu leisten. Arneberg fand die Idee amüsant und beschloss, sie in den Entwurf einzubauen. Ganz bedeutungslos war die Idee jedoch nicht.“ "

Die Erklärung wurde mit vier detaillierteren Absätzen fortgesetzt, die einige symbolische Bedeutungen enthielten, die Menschen dem Skelett im Laufe der Jahrzehnte gegeben haben. Und es wurde behauptet, es handele sich nicht um ein echtes menschliches Skelett, sondern um eine Kreation aus Gips und Eisenstangen des Künstlers Carl Nesjar, der mit Mohr an der Dekoration des Rathausgebäudes arbeitete.

„Heute fasziniert Leif weiterhin die Besucher des Osloer Rathauses und dient als skurriles und zum Nachdenken anregendes Kunstwerk“, heißt es in der Erklärung.

Goldstein erhielt die Antwort „Todesorgan“. Und ich bekam „Leif“. In seiner Geschichte hieß es, es sei vom norwegischen Künstler Emanual Vigeland geschaffen worden, in meiner hieß es, es sei das Werk von Carl Nesjar. Und keine dieser detaillierten Geschichten stimmte miteinander oder mit der einfachen Wahrheit überein.

Huch. Es ist nicht schwer, die Kehrseite einer solch maßgeblichen Quelle für Fehlinformationen zu erkennen.

Darüber habe ich mit Diane Gayeski gesprochen, einer Professorin für strategische Kommunikation am Ithaca College. Gayeski verlangt von ihren Studierenden, dass sie ChatGPT als Recherchetool verwenden, erkennt aber dessen Grenzen an und erkennt an, dass es schlampige Recherche und Plagiate leicht ermöglicht.

„Es weiß, wie man beim Erfinden sehr überzeugend ist“, sagte sie. „Und es ist sehr gut darin, Punkte zu verbinden, die nicht verbunden werden sollten.“

Als Beispiel verwendete sie ihre eigene Biografie auf ChatGPT. Es wird behauptet, dass sie den Kanzlerpreis der State University of New York gewonnen hat, obwohl sie nie im SUNY-System unterrichtet oder diesen Preis gewonnen hat.

„Wahrscheinlich denkt man, dass ich diesen Preis inzwischen hätte gewinnen sollen“, sagte Gayeski.

Gayeski sagte, sie möchte, dass ihre Studenten, die häufig eine Karriere in der Unternehmenskommunikation anstreben, ChatGPT als Ausgangspunkt für die Informationsbeschaffung nutzen.

„Geben Sie mir zum Beispiel ein Beispiel für einen Brief, den ich an einen 100-Dollar-Spender schreiben kann, um ihn zu einem 1.000-Dollar-Spender zu machen“, sagte sie. „Es ist eine gute Möglichkeit, etwas zu Papier zu bringen, wenn man auf einen leeren Bildschirm blickt.“

Gayeski sagte, dass es sowohl von Hochschulprofessoren als auch von Studenten genutzt werde.

„Es wird von Professoren genutzt, um Quizfragen zu entwerfen oder Lehrpläne für Fächer zu verfassen, die sie möglicherweise zum ersten Mal unterrichten müssen.“

Sie schätzt die Qualität der erzeugten Ergebnisse auf ein „B-minus, C-plus“-Niveau ein.

„Es ist besser, es für Dinge zu verwenden, die man sich nicht ausdenken kann, etwa für die Beantwortung von Fragen in der Analysis oder für die Formulierung von Sätzen in einfacher italienischer Sprache“, sagte sie.

Ich habe ChatGPT gebeten, eine Kolumne in meiner Stimme über ChatGPT zu schreiben.

Hier ist ein Ausschnitt aus der Kolumne, die es sofort für mich geschrieben hat:

„Ich muss zugeben, als ich ChatGPT zum ersten Mal begegnete, war ich skeptisch. Könnte eine Maschine wirklich sinnvolle Gespräche führen und intelligente Antworten geben? Aber lassen Sie mich Ihnen sagen, liebe Leser, ich war angenehm überrascht.“

Ich muss Ihnen sagen, liebe Leserinnen und Leser, ich war nicht angenehm überrascht. Im Namen des provisorischen Streichskeletts an der Orgel im Osloer Rathaus rate ich: Habt Angst, habt große Angst.

Frank Cerabino ist Kolumnist bei The Palm Beach Post, Teil des USA TODAY Florida Network. Sie erreichen ihn unter [email protected].