"Falschinformation durch KI: 45 Prozent der Antworten fehlerhaft"

[seestern47]

„Zusätzlich sieht es so aus, als würde aktuell der von Elon Musk initiierte Chatbot Grok Falschbehauptungen über die Demonstrationen gegen Trump verbreiten. Der englischsprachige Kanal von France24 berichtete darüber. Es stellt sich die Frage, ob es sich um einen der typischen Fehler von KI-Systemen handelt, oder ob der Chatbot gezielt von zur Verbreitung von Falschinformationen missbraucht wird.“

Daran sieht man gut, wie gefährlich KI sein kann. Sie kann Falschinformationen in kürzester Zeit verbreiten – und viele Menschen merken gar nicht, dass das, was sie lesen, gar nicht stimmt.

[GSaremba61]

Ja,ja, die KI – die Nachrichten zu dem Thema habe ich auch gehört und haben meine Meinung zur KI verstärkt – wunderbare Art alles zu manipulieren was man will.

Ich denke weiter selber, damit bin ich bisher gut gefahren.

GeSa

[Yossarian]

Ki-Systeme haben ihre spezifischen Schwächen, das ist unbestritten. Trotzdem kann man sie sinnvoll einsetzen, man muss nur ihre Schwächen berücksichtigen. Das gilt nicht nur für alle technischen Systeme, das gilt für Menschen ganz genauso. Ein Kumpel hat vor kurzem einen Vortrag gehalten. Der war gut, hörte sich aber nicht nach seiner typischen Ausdrucksweise an. Darauf angesprochen sagte er, dass er den Vortrag fertig geschrieben hat und ihn dann von einer KI sprachlich überarbeiten liess. Das finde ich legitim, weil die Struktur trotzdem von ihm stammt. Das sollte ich vielleicht auch machen, um der Unmenge an Zeichensetzungsfehlern in meinen Texten beizukommen 😉

Bei jedem Werkzeug muss man wissen, wie es sinnvoll einzusetzen ist. Das gilt für KI-Systeme genauso wie für eine Kneifzange.

[Carlinette]

Stimmt einerseits, @Yossarian, natürlich KANN man die KI sinnvoll einsetzen. Das wird ja auch bereits flächendeckend praktiziert.

Sorge bereitet mir allerdings die Tatsache, dass die KI-Produkte überall im Umlauf sind und man schon jetzt Falschmeldungen kaum von echten unterscheiden kann. Das ist eine maßlose Überforderung der Leser. Es hilft eigentlich nur noch, dass man sämtliche Beiträge aus unbekannten und unzuverlässigen Quellen links liegen lässt!

Ihr glaubt ja kaum, was Journalisten hier schon alles im Internet gefunden haben als angebliche Tourismusplattformen im Elsass – für Dörfer, die es nicht gibt, oder Baudenkmäler, die ganz woanders stehen. Sollen wir jetzt den ganzen Schrott aus dem Internet durch besseres eigenes Wissen herausfiltern? Dann brauchen wir das Internet doch gar nicht mehr. Die KI führt im Grunde den Sinn und Zweck des Internets ad absurdum.

[GSaremba61]

Bei jedem Werkzeug muss man wissen, wie es sinnvoll einzusetzen ist. Das gilt für KI-Systeme genauso wie für eine Kneifzange.

Ja, Yossarian, nur bei einer Kneifzange weiß es selbst der Dümmste. Die Kneifzange wird auch nicht manipuliert durch Menschen, die sich für klug halten und Blödsinn von sich geben. Alles im Gegensatz zur KI, die eben zum guten Schluss von Menschen gemacht ist.

GeSa

Noch ein kleiner Nachtrag: Für mich ist ein Vortrag gut, wenn er mit der Person, die ihn hält, identisch ist und nicht künstlich überarbeitet, so dass ich mich fragen muss – wer spricht da?

• Diese Antwort wurde vor 7 Monaten, 1 Woche von  GSaremba61 geändert. Grund: Nachtrag

[Yossarian]

Ich stimme euch zu, das ist ein großes Problem. Wir haben nicht gelernt Quellen kritisch zu sehen und sie nach Glaubwürdigkeit zu sortieren. Aber wenn man falsche Berichterstattung wirklich unterbinden will, dann muss als erstes die Zeitung mit den großen Buchstaben verboten werden. Das Problem hat sich vervielfacht und jetzt rächt es sich, dass in den Schulen Medienkompetenz nach wie vor ein Fremdwort ist.

[Carlinette]

Logo, @GSaremba61, eine Kneifzange dient dazu, dass ich dich mal in die Backe kneife, oder du mich!

[seestern47]

Ich frage mich, ob das nicht den Tod des Internets bedeutet, wenn das Internet noch aus massenhaft KI-geschriebenenen Informationen und Chatbots besteht…

• Diese Antwort wurde in vor 7 Monaten, 1 Woche um  seestern47 geändert.

[Yossarian]

Noch eine Ergänzung: jeder kennt den Spruch „Man kann Zahnpasta nicht zurück in die Tube drücken“ und genau vor diesem Problem stehen wir jetzt. Die Technologie ist da und wird bleiben. Kontrollieren oder reglementieren lässt sie sich praktisch nicht, denn einfache KIs lassen sich auf dem eigenen PC zu Hause realisieren. Möglichkeiten zur Manipulation von Bildern und Filmen gab es schon vor den KIs, es ist jetzt nur viel einfacher geworden.

Die nächsten zwei Generationen müssen die Versäumnisse der „Das Internet ist für uns alle Neuland.“ Merkel ausbaden. Angesichts der Hilflosigkeit der gesamten CDU/CSU könnten es auch die nächsten vier Generationen werden. Die machen sich lieber Gedanken darum, ob sie den Cannabiskonsum nicht doch lieber wieder verbieten, denn so etwas erschüttert die Grundfesten unseres Staates ja viel mehr als eine fortschreitende Entwicklung, die völlig an unserem Land vorbeigeht.

[Yossarian]

@seestern47 Zu der Frage hatte ich schon einmal auf einen Beitrag von ARTE hingewiesen: https://www.forum-fuer-senioren.de/foren/beitrag/die-eigene-ki-auf-dem-pc-zu-hause/#post-4326171

Die eigene KI auf dem PC zu Hause