Plausibler Bullshit – Wie gefährlich ist ChatGPT für Wissenschaft und Medien?

Nerds at Work

Es gibt Dinge, die wissen selbst Jens und Christian nicht auf Anhieb. Also was tun? Entweder man hofft, dass im richtigen Moment der richtige Experte für eine knifflige Archäologie-Frage anruft oder man fragt einfach ChatGPT. In letzterem Fall sollte man sich aber auf eine Antwort gefasst machen, die zwar sicherlich sehr plausibel aber höchstwahrscheinlich auch ziemlicher Bullshit ist. Wie so eine Künstliche Intelligenz funktioniert und warum unsere Nerds lieber selber nachdenken und kreativ werden, erfahrt ihr in dieser Folge, die übrigens garantiert ohne Zuhilfenahme von Künstlicher Intelligenz erstellt wurde.
_
Quellen:
Deutschlandfunk Kommentar von Roberto Simanowski: https://www.deutschlandfunkkultur.de/kommentar-chatbot-chatgpt-100.html

KI-Bild gewinnt Foto-Preis (“Die Elektrikerin” von Boris Eldagsen): https://www.spiegel.de/kultur/boris-eldagsen-foto-preis-fuer-mit-ki-erzeugtes-werk-a-5a942d19-f229-432b-a879-d196e7dce361
Foto gewinnt KI-Preis ("F L A M I N G O N E" von Miles Astray): https://www.chip.de/news/kuenstliche-intelligenz/foto-skandal-mal-anders-echtes-foto-gewinnt-ki-wettbewerb_65184f1f-8d6c-48bb-a4f3-a780dcd5f4a1.html
Halluzinierte Zitationen:
Fehlerrate schwankt von 6 bis 60 % – wie soll man da jemals wissen können, ob man eine echte Zitation hat?
https://cpa.ca/docs/File/Students/MindPad/MindPad_Winter2023.pdf
ChatGPT und vergleichbare Modelle werden *weniger* zuverlässig.
Über die Zeit nimmt die ausgedrückte Unsicherheit ab, und die Rate an Fehlern nimmt zu – ChatGPT wird also immer schlechter: https://www.nature.com/articles/s41586-024-07930-y
Wie sehr vertrauen wir Chat-GPT?
Leute fanden KI-generierten Text klarer und interessanter, aber sonst keine Unterschiede, auch nicht in Kompetenz oder Vertrauenswürdigkeit: https://arxiv.org/pdf/2309.02524
_
Für Bild zum Ton folgt dem Podcast @nerdsatwork_podcast auf Instagram und TikTok!
NERDS AT WORK ist eine Produktion der bildundtonfabrik.
Von und mit: Jens Foell und Christian Scharun
Sounddesign: Christian Pössnicker
weiteres Sounddesign: Azhar Syed
Schnitt: Laura Thiem
Produktion: Désirée Klein
Cover-Foto: Leon Adam
Cover-Design: Julian Lausen
mit den Stimmen von Mai Thi Nguyen-Kim und Hannah Pfeiffer.