"Falschinformation durch KI: 45 Prozent der Antworten fehlerhaft"

[Yossarian]

Ein Artikel bei Heise über das nach wie vor bestehende Problem fehlerhafter Aussagen durch Chatbots wie ChatGPT oder Copilot. https://www.heise.de/news/Europaeische-Rundfunkunion-KI-Systeme-geben-Nachrichteninhalte-oft-falsch-wider-10796779.html

Zusätzlich sieht es so aus, als würde aktuell der von Elon Musk initiierte Chatbot Grok Falschbehauptungen über die Demonstrationen gegen Trump verbreiten. Der englischsprachige Kanal von France24 berichtete darüber. Es stellt sich die Frage, ob es sich um einen der typischen Fehler von KI-Systemen handelt, oder ob der Chatbot gezielt von zur Verbreitung von Falschinformationen missbraucht wird.

Viele Benutzer glauben immer noch, dass Chatbots das Internet nach Informationen durchsuchen und daraus die Antworten erstellen. Das tun sie definitiv nicht. Mit ein wenig Geduld bei der Suche findet man die Jahreszahl, bei der das Training des jeweiligen Bots beendet wurde, und die somit den Wissensstand der KI darstellt.

Es gibt bereits Browser, die in Verbindung mit einer KI tatsächlich das Internet nach aktuellen Informationen durchsuchen und daraus die Antwort generieren. Die sind aber noch in der Entwicklungsphase. Man muss sich nur die Fülle an Informationen im gesamten Internet vor Augen führen um zu erkennen, dass man das nicht mal eben durchsuchen kann, um eine Antwort zu erhalten.

• Dieser Beitrag wurde am vor 1 Woche, 4 Tagen von  Yossarian geändert. Grund: die üblichen Fipptehler

[seestern47]

“Zusätzlich sieht es so aus, als würde aktuell der von Elon Musk initiierte Chatbot Grok Falschbehauptungen über die Demonstrationen gegen Trump verbreiten. Der englischsprachige Kanal von France24 berichtete darüber. Es stellt sich die Frage, ob es sich um einen der typischen Fehler von KI-Systemen handelt, oder ob der Chatbot gezielt von zur Verbreitung von Falschinformationen missbraucht wird.”

Daran sieht man gut, wie gefährlich KI sein kann. Sie kann Falschinformationen in kürzester Zeit verbreiten – und viele Menschen merken gar nicht, dass das, was sie lesen, gar nicht stimmt.

[GSaremba61]

Ja,ja, die KI – die Nachrichten zu dem Thema habe ich auch gehört und haben meine Meinung zur KI verstärkt – wunderbare Art alles zu manipulieren was man will.

Ich denke weiter selber, damit bin ich bisher gut gefahren.

GeSa

[Yossarian]

Ki-Systeme haben ihre spezifischen Schwächen, das ist unbestritten. Trotzdem kann man sie sinnvoll einsetzen, man muss nur ihre Schwächen berücksichtigen. Das gilt nicht nur für alle technischen Systeme, das gilt für Menschen ganz genauso. Ein Kumpel hat vor kurzem einen Vortrag gehalten. Der war gut, hörte sich aber nicht nach seiner typischen Ausdrucksweise an. Darauf angesprochen sagte er, dass er den Vortrag fertig geschrieben hat und ihn dann von einer KI sprachlich überarbeiten liess. Das finde ich legitim, weil die Struktur trotzdem von ihm stammt. Das sollte ich vielleicht auch machen, um der Unmenge an Zeichensetzungsfehlern in meinen Texten beizukommen 😉

Bei jedem Werkzeug muss man wissen, wie es sinnvoll einzusetzen ist. Das gilt für KI-Systeme genauso wie für eine Kneifzange.

[Carlinette]

Stimmt einerseits, @Yossarian, natürlich KANN man die KI sinnvoll einsetzen. Das wird ja auch bereits flächendeckend praktiziert.

Sorge bereitet mir allerdings die Tatsache, dass die KI-Produkte überall im Umlauf sind und man schon jetzt Falschmeldungen kaum von echten unterscheiden kann. Das ist eine maßlose Überforderung der Leser. Es hilft eigentlich nur noch, dass man sämtliche Beiträge aus unbekannten und unzuverlässigen Quellen links liegen lässt!

Ihr glaubt ja kaum, was Journalisten hier schon alles im Internet gefunden haben als angebliche Tourismusplattformen im Elsass – für Dörfer, die es nicht gibt, oder Baudenkmäler, die ganz woanders stehen. Sollen wir jetzt den ganzen Schrott aus dem Internet durch besseres eigenes Wissen herausfiltern? Dann brauchen wir das Internet doch gar nicht mehr. Die KI führt im Grunde den Sinn und Zweck des Internets ad absurdum.

[GSaremba61]

Bei jedem Werkzeug muss man wissen, wie es sinnvoll einzusetzen ist. Das gilt für KI-Systeme genauso wie für eine Kneifzange.

Ja, Yossarian, nur bei einer Kneifzange weiß es selbst der Dümmste. Die Kneifzange wird auch nicht manipuliert durch Menschen, die sich für klug halten und Blödsinn von sich geben. Alles im Gegensatz zur KI, die eben zum guten Schluss von Menschen gemacht ist.

GeSa

Noch ein kleiner Nachtrag: Für mich ist ein Vortrag gut, wenn er mit der Person, die ihn hält, identisch ist und nicht künstlich überarbeitet, so dass ich mich fragen muss – wer spricht da?

• Dieser Beitrag wurde vor 1 Woche, 4 Tagen von  GSaremba61 bearbeitet. Begründung: Nachtrag

[Yossarian]

Ich stimme euch zu, das ist ein großes Problem. Wir haben nicht gelernt Quellen kritisch zu sehen und sie nach Glaubwürdigkeit zu sortieren. Aber wenn man falsche Berichterstattung wirklich unterbinden will, dann muss als erstes die Zeitung mit den großen Buchstaben verboten werden. Das Problem hat sich vervielfacht und jetzt rächt es sich, dass in den Schulen Medienkompetenz nach wie vor ein Fremdwort ist.

[Carlinette]

Logo, @GSaremba61, eine Kneifzange dient dazu, dass ich dich mal in die Backe kneife, oder du mich!

[seestern47]

Ich frage mich, ob das nicht den Tod des Internets bedeutet, wenn das Internet noch aus massenhaft KI-geschriebenenen Informationen und Chatbots besteht…

• Dieser Beitrag wurde vor 1 Woche, 4 Tagen von  seestern47 bearbeitet.

[Yossarian]

Noch eine Ergänzung: jeder kennt den Spruch “Man kann Zahnpasta nicht zurück in die Tube drücken” und genau vor diesem Problem stehen wir jetzt. Die Technologie ist da und wird bleiben. Kontrollieren oder reglementieren lässt sie sich praktisch nicht, denn einfache KIs lassen sich auf dem eigenen PC zu Hause realisieren. Möglichkeiten zur Manipulation von Bildern und Filmen gab es schon vor den KIs, es ist jetzt nur viel einfacher geworden.

Die nächsten zwei Generationen müssen die Versäumnisse der “Das Internet ist für uns alle Neuland.” Merkel ausbaden. Angesichts der Hilflosigkeit der gesamten CDU/CSU könnten es auch die nächsten vier Generationen werden. Die machen sich lieber Gedanken darum, ob sie den Cannabiskonsum nicht doch lieber wieder verbieten, denn so etwas erschüttert die Grundfesten unseres Staates ja viel mehr als eine fortschreitende Entwicklung, die völlig an unserem Land vorbeigeht.