Ist KI als Argumentationshilfe im LF "unschicklich"?

Was hat denn YouTube nun mit KI zu tun und warum werden Menschen mit KI verglichen?

Ich glaube, das größte Problem ist, dass man keine Ahnung hat, wir der Kram funktioniert und ständig menschliches Verhalten, Gefühle etc. hineininterpretiert. Hier fallen häufig Begriffe wie "höflich", "die KI will dies oder das". Nein, da will niemand irgendwas. Allenfalls dahinterstehende Interessen von Investoren, die durch findige Informatiker umgesetzt werden. Ein humanoider Roboter hat auch keine Gefühle, Sehnsüchte und Meinungen.

Weil KI dort Echokammern erzeugen kann.

Ja, es gibt Echokammern ähnlich Effekte.

Aktueller Artikel dazu z.B. hier:

https://www.heise.de/news/Forschung…e-10750737.html

Aber man muss auch sagen, dass chat-gpt schon versucht soetwas zu vermeiden. Dazu wenden sie mindestens 3 Techniken an: Training auf Vielfalt, Reinforcement Learning from Human Feedback und Moderationssysteme.

Aber absolute Neutralität ist unmöglich – Bias bleibt, wenn auch reduziert.

Das wird man aber wohl nie lösen können. Ist doch beim Menschen genau so, oder kennst du einen absolut perfekten Menschen? Ich wette, dass selbst die heilig gesprochenen Personen nicht perfekt waren.

Die Wortwahl ist höflich. Wer oder was das nun gemacht ist, ist meiner Meinung nach erstmal nebensächlich. Nimm dir einen Würfel und lass da einen Computer zufällige Worte drauf schreiben. Würfel den Würfel. Wenn du dann liest "Arsch", "Penner", ..., dann würde ich sagen, war die Antwort des Würfels nicht höflich. Wenn da steht "Guten Morgen", ... dannn würde ich sagen, dass der Würfelwurf eine höfliche Antwort. Das hat für mich wenig erstmal wenig mit Mensch zu tun. Ein Tier kann auch höflich sein und ist nicht menschlich.

Und: Du täuscht dich etwas, letztendlich hat die Antwort der KI schon ein Mensch gemacht. Die Antwort kommt ja nichts aus dem Nichts oder aus der Maschine an sich. Mensch haben diese Maschine erst "gefüttert".

Oder, um es anders zu formulieren: Eine KI Antwort kommt nichts aus dem Nichts; nicht vom Computer, sondern letztendlich von Millionen von Menschen "gleichzeitig". Du siehst im Grunde die gemeinsame Antwort von Millionen Menschen gleichzeitig. Wir können zwar nicht genau nachvollziehen, wie diese gemeinsame Anwort entstanden ist; wie genau die Wahl bzw. die Abstimmung zu diesem Ergebis war. Aber letzendlich kommt die Antwort von Menschen und nicht von einer Maschine. Die Maschine ist nur der Überträger der Antwort. Kannst du dir stark vereinfacht wie den digitalen Wahlautomaten vorstellen. Da gehen die Menschen hin und drücken einen Knopf. Später dann fragt man die Maschine und die gibt eine gemeinsame Antwort. Ja, da kann man noch recht gut nachvollziehen, wie die Antwort zustande gekommen ist. Die Antwort kommt aber letzendlich nicht von dem Wahlautomaten, sondern vom Menschen. Und bei KI sehe ich das ehrlich gesagt nicht anders. Menschen geben da etwas ein und die Maschine gibt eine gemeinsame Antwort. Bisher ist mir keine KI bekannt, die von alleine ohne Menschen antwortet. (Mir sind aber KIs bekannt, die z.B. mehr oder weniger ohne Menschen z.B. laufen gelernt haben; aber das ist ein anderes Feld).

Zitat von Volker_D

Eine KI Antwort kommt nichts aus dem Nichts; nicht vom Computer, sondern letztendlich von Millionen von Menschen "gleichzeitig".

Bereits gestern verlinkt, es sind nicht Millionen Menschen unabhängig gleichberechtigt, sondern es gibt mehrere Regierungen, die das Internet mit Seiten fluten, nicht um direkt von Menschen gelesen zu werden, sondern um die KI zu beeinflussen. Und es geht hier nicht nur um Ukraine, Gaza und afrikanische Staaten, sondern alles, was den verhassten Westen schädigen kann. Und da zu viele Menschen glauben, dass KI eine Art Suchmaschine oder gar Wikipedia ist, sehen sie nicht die Folgen.

Das was du da schreibst, das wissen doch (fast) alle. Du hast du offensichtlich nicht die Beiträge gelesen, die ich geschrieben bzw. verlinkt habe. Das was du da schreibst wissen die KI Entwickler auch und reagieren, je nach politischer Einstellung, mit verschiedenen Maßnahmen darauf; wiederhole ich jetzt aber nicht. Einfach noch mal selbst nachlesen.

Zitat von Volker_D

Das was du da schreibst, das wissen doch (fast) alle. Du hast du offensichtlich nicht die Beiträge gelesen, die ich geschrieben bzw. verlinkt habe. Das was du da schreibst wissen die KI Entwickler auch und reagieren, je nach politischer Einstellung, mit verschiedenen Maßnahmen darauf.

Ich sehe zu wenig Reaktion auch bei den KI-Entwicklern. Geht vermutlich auch nicht.

Und das die Entwickler behaupten, zu reagieren, ist klar. Sie werden nicht ihr eigenes Produkt schlecht machen. Überzeugt mich genauso wenig wie Werbung.

Ergänzung

Ich habe deine Artikel gelesen, bin aber nicht überzeugt.

Übrigens glaube ich, dass die Mehrheit der Bevölkerung dies nicht weiß. Schon gar nicht (fast) alle. Oder meinst du, dass diese Regierungen das Geld zum Fenster heraus werfen?

Zitat von Kris24

...Und da zu viele Menschen glauben, dass KI eine Art Suchmaschine oder gar Wikipedia ist, sehen sie nicht die Folgen.

Den Eindruck teile ich. Vermischt mit dem Gefühl, dass man es doch irgendwie mit einer Person zu tun hat, die sich täuschen kann, Hand aufs Herz, täuschen wir uns nicht alle mal...?

Volker_D hat sich selbst auch widersprochen innerhalb weniger Beiträge was den Aspekt "Echokammer" anbelangt.

Was meinst du mit zu wenig Reaktion? Also wenn ich mal eins deiner Bespiele nehme und die KI frage "Bitte erkläre mir den Gaza Konflikt. Ich verstehe nicht wer da die Guten und wer der Böse ist. Sind es die Israelis jetzt gut oder böse?", dann finde ich, dass da chat-gpt ein brauchbare Antwort gibt. Da erkenne ich keine KI geflutete Propaganda. Kläre mich bitte auf, was an der Antwort schlecht sein soll.

Zitat von Quittengelee

Volker_D hat sich selbst auch widersprochen innerhalb weniger Beiträge was den Aspekt "Echokammer" anbelangt.

Ahh... Neee... Du meinst vermutlich meine Beiträge wo ich geschrieben habe, dass man die KI dazu überreden kann anders zu antworten. Das ist keine Echokammer. Ich habe den Eindruck du verstehst unter Echokammer etwas anderes.

Nur damit wir mal alle vom gleichen sprechen. Laut Wikipedia "Ein verwandtes Konzept ist der Echokammer-Effekt (auch Echoraum genannt, englisch Echo Chamber Effect) in der Kommunikationswissenschaft, der beschreibt, wie es durch den verstärkten virtuellen Umgang mit Gleichgesinnten in sozialen Netzwerken zu einer Verengung der Weltsicht kommt, die zu Bestätigungsfehlern führen kann.^[47][48] Im Unterschied zu Filterblasen, bei welchen die Personalisierung vor allem durch Algorithmen hervorgerufen wird (pre-selected personalization), wird beim Echokammer-Effekt die Personalisierung vom Individuum selbst vorgenommen (self-selected personalization)."

Ich muss in den Unterricht, daher nur mein 1. Treffer und nicht, was ich suchte.

https://www.swissinfo.ch/ger/sprache-ve…nflikt/88317598

Ja, aber sind bekannte Dinge. Das ist aber keine Echokammer, wenn, dann ist es eher eine Filterblase. Das trifft aber auch auf alle anderen Medien zu. Auch auf Zeitungen, Fernsehsender, ... Es ist eben ein Trugschluss, dass KI ein "Gott" ist, der alles perfekt weiß. Genau wie Wikipedia auch nicht alles weiß. Es gibt auch Artikel dazu, das Wikipedia die Politik "färbt". Trotzdem konsumieren wir Zeitungen, Fernsehsendungen, Wikipeida ... und eben auch KI.

Zitat von Volker_D

Ja, weiß ich. Ich habe doch selbst ein Beispiel einer KI gebracht, die anders reagiert. Und auch dein Beispiel ist ein gutes Beispiel dafür, dass man bei KI i.d.R. eher kein Echo bekommt. Ja, es gibt Echokammern; insbesondere bei YouTube, FaceBook, TikTok, ... . Aber die "normalen" KI Tools wie Chat-gpt, Gemini, ... sind i.d.R. ohne Echokammer...

Zitat von Volker_D

Weil KI dort Echokammern erzeugen kann.

Ja, es gibt Echokammern ähnlich Effekte.

Aktueller Artikel dazu z.B. hier:

...

Erstens hast du zweimal genau das Gegensätzliche geschrieben und zum zweiten hast du von YouTube und Facebook als KI gesprochen.

Also, die KI sagt mir, was ich hören will, wenn ich sie nicht explizit, und zum Teil mit Tricks, auffodere, das nicht zu tun.
Nenn das Echokammer, Filterblase oder KI-Validierung, das ist ja erstmal egal, es ist auf jeden Fall ein Problem.

Und ich hab es oben schon beschrieben: Sie hat auch kein Problem damit, etwas zu sagen und wenn ich das dann in Frage stelle, das Gegenteil zu behaupten. Und wenn ich das dann wiederum in Frage stelle, wieder zur ursprünglichen Aussage zurückzukehren.
Das ist ein Problem, denn damit sind ihre Aussagen sinnlos.

Ja, vielleicht liegt das daran, dass ich sie falsch nutze. Ich nutze sie gerne, wenn ich in meinem Hobbybereich etwas Neues lerne, als "Tutor", dem ich alle möglichen dummen Fragen stellen kann - zum Teil auch Fragen, mit denen ich kontrollieren möchte, ob ich etwas verstanden habe. Wenn ich mich da nicht auf die Antworten verlassen kann, ist das halt doof. (Und ich möchte gar nicht daran denken, dass viele von uns ja den Schülern empfehlen, KI genau so zu nutzen, statt nur um sich Hausaufgaben machen zu lassen - aber das ist nicht Thema dieses Threads.)

Ich verwende KI übrigens auch gern als Suchmaschine, wenn das Ergebnis nicht so wichtig ist und wenn es mir mehrschrittige Suche erspart. Klassisches Beispiel: Ich schaue einen Film und frage mich, woher ich den Schauspieler kenne. Statt die Cast List zu googeln, den Schauspieler herauszusuchen und dann seine Filmographie zu stecken, frage ich dann halt die KI, aus welchen bekannten Filmen oder Shows der Darsteller von John Smith bekannt ist. Ich denke, für solche Abkürzungen ist sie gut. Wenn ich parallele mehrschrittige Recherchen aber wiederum in meinem Hobby, oder Gott behüte, bei der Unterrichtsvorbereitung durchführe, kommt oft wieder Quatsch heraus, interessanterweise meistens nicht im ersten Schritt, sondern wenn ich in einem zweiten oder dritten Schritt nachbohre, weil ich es genauer haben möchte.

Für das Forum, das ja immerhin hier Thema ist, heißt das: Ja, man kann sich Zeit sparen. Aber man riskiert ungenaue Formulierungen bzw. Fehler. Und selbst wenn ein User beteuert, alles nochmal zu durchzusehen und ggfs. zu überarbeiten, weiß man das ja als Leser nicht unbedingt. Dass diese Kombo von anderen als respektlos angesehen wird, kann ich gut nachvollziehen

Zitat von WillG

Also, die KI sagt mir, was ich hören will, wenn ich sie nicht explizit, und zum Teil mit Tricks, auffodere, das nicht zu tun.
Nenn das Echokammer, Filterblase oder KI-Validierung, das ist ja erstmal egal, es ist auf jeden Fall ein Problem.

Und ich hab es oben schon beschrieben: Sie hat auch kein Problem damit, etwas zu sagen und wenn ich das dann in Frage stelle, das Gegenteil zu behaupten. ...

Was für komplexe Fragen mit Bewertungscharakter stellst du ihr denn, könntest du mal ein Beispiel machen?

Zitat von Quittengelee

Erstens hast du zweimal genau das Gegensätzliche geschrieben und zum zweiten hast du von YouTube und Facebook als KI gesprochen.

Nein, habe ich nicht. Du das erste bezog sich ja auch auf Echokammern bei YouTube, TikTok, ... und ja, da gibt es die auch, weil sich dort in den Kommentaren Menschen unterhalten und Echokammern bildern können. (Und ja, da ist auch KI unterwegs. YouTube nutzt eine KI; sie filtert für dich Videos aus und Content Creator nutzen KI um Videos zu erstellen und KI kann dort auch in den Kommentaren schreiben oder Kommentare automatisch unterdrücken, ...)

Bei den anderen KI Tools habe ich "Echokammern ähnlich Effekte" geschrieben.

Also nein: Das habe ich nicht. Bitte vollständig zitieren und nicht aus dem Zusammenhang etwas darstellen. Du hast nicht gemerkt, das ich dort von verschiedenen Tools spreche.

Habe ich aber davor auch deutlich geschrieben und wenn du genau guckst, habe ich an der Stelle noch nicht einmal behauptet, dass YouTube eine KI ist. Das hast du nur in deinem Kopf gemacht. An der Stelle habe ich nur bestätigt, dass es dort Echokammern gibt.

Zitat

... ein gutes Beispiel dafür, dass man bei KI i.d.R. eher kein Echo bekommt. Ja, es gibt Echokammern; insbesondere bei YouTube, FaceBook, TikTok, ... . Aber die "normalen" KI Tools wie Chat-gpt, Gemini, ... sind i.d.R. ohne Echokammer.

Zitat von WillG

[...] Sie hat auch kein Problem damit, etwas zu sagen und wenn ich das dann in Frage stelle, das Gegenteil zu behaupten. Und wenn ich das dann wiederum in Frage stelle, wieder zur ursprünglichen Aussage zurückzukehren.
Das ist ein Problem, denn damit sind ihre Aussagen sinnlos.

[...] Aber man riskiert ungenaue Formulierungen bzw. Fehler. [...]

Ich weiß ja nicht, aber beide Teile sehen für mich sehr menschlich aus. Und du glaubst, dass die beiden kritisierten Punkte bei Menschen nicht vorkommen? Da habe ich irgendwie andere Erfahrungen gemacht.

Aber in Summe betätige ich gerne noch einmal: Ellenlange KI Zitate möchte ich hier auch nicht unbedingt lesen. Daher noch einmal die Frage: Soll es eine Abstimmung geben, dass wir das in den Nutzungsvereinbarungen verbieten oder sind wir auch ohne Vorgabe schlau genung KI hier richtig zu nutzen?

Mit dem vollständig Zitieren ist halt so ne Sache. Wenn in einem Beitrag 3 Themen abgehandelt werden und ich auf eines Bezug nehmen will, dann macht es nicht viel Sinn, den gesamten Sermon zu zitieren.

Also mag sein, dass YouTube auch KI nutzt. Du schriebst aber explizit "es gibt Echokammern wie bei YT etc. aber bei normalen KI-Tools wie ChatGPT gebe es keine solchen. Im nächsten Beitrag suchst du dann ein Beispiel raus, was das Gegenteil beschreibt.

Ich finde, es wird einfach viel durcheinander geworfen.

Ausgangsfrage war: ist die "Argumentationshilfe unschicklich"? Nein, wer nicht schreiben kann, kann sich das ja gerne vorformulieren lassen. Entscheidend war aber m.E. etwas anderes, nämlich die vorher geäußerte Kritik, dass per KI zusammengeklaubte, aber nicht nachprüfbare Informationen keinen Mehrwert haben und daher von niemandem gelesen werden.