„KI beeinträchtigt kritisches Denken“ (Info + Kommentar)

Briefing AI, Economy, Wirtschaft, Wissenschaft, kritisches Denken, Kognition, Handhabe beim Wahlberliner, Information und Einschätzung, KI in der Matrix, KI im Denkraum

Heute befassen wir uns wieder mit dem Thema KI / AI und vielleicht begründen wir eine neue Tradition: Bereits zum zweiten Mal übernehmen wir einen komplett von einer KI erstellten Artikel. In diesem Falle äußert die KI sich sogar kritisch zur KI. Der Mehrwert unserer Beiträge entsteht aber auch dadurch, dass wir kommentieren – Sie finden unsere Anmerkungen unterhalb.

Microsoft-Studie: KI beeinträchtigt kritisches Denken.

Die Studie, die 319 Wissensarbeiter befragte und 936 reale Beispiele für die Nutzung von KI analysierte, zeigte einen besorgniserregenden Trend: Eine erhöhte Abhängigkeit von KI-Tools korreliert mit einer Verschlechterung der kritischen Denkfähigkeiten[1][2]. Arbeiter verwechseln oft einfaches Kopieren und Einfügen mit geringfügigen Änderungen mit kritischem Denken und akzeptieren KI-Ergebnisse ohne angemessene Prüfung. Interessanterweise deckte die Forschung eine nuancierte Beziehung zwischen Selbstvertrauen und kritischem Denken auf:

* Höheres Vertrauen in KI ist mit einem geringeren Aufwand für kritisches Denken verbunden 

* Größeres Selbstvertrauen führt zu verbessertem kritischen Denken und einer gründlicheren Bewertung von KI-Ergebnissen[3][4] 

Dieses Phänomen der „mechanisierten Konvergenz“ tritt auf, wenn Nutzer häufig versäumen, persönliche, kontextualisierte Urteile auf KI-generierte Inhalte anzuwenden, was zu weniger vielfältigen Ergebnissen bei ähnlichen Aufgaben führt[5][6].

Link zum Abschnitt, zu den Quellen

Die Integration von KI-Tools hat die Herangehensweise von Wissensarbeitern an Aufgaben grundlegend verändert und die mentalen Prozesse in mehreren entscheidenden Aspekten verschoben. Der Fokus hat sich von der Informationsbeschaffung zur Informationsverifizierung verlagert, während sich die Problemlösung in die Integration von KI-Antworten entwickelt hat[1][2]. Die Aufgabenausführung hat sich zu einer Aufgabenverwaltung gewandelt, bei der Arbeiter KI-generierte Ergebnisse überwachen, anstatt sie vollständig eigenständig zu erstellen[3].

Dieser kognitive Wandel hat zu einem besorgniserregenden Trend geführt, bei dem nur 36 % der Teilnehmer angaben, aktiv kritisches Denken einzusetzen, um KI-bezogene Risiken zu mindern[4]. Häufige Anwendungen von KI am Arbeitsplatz umfassen die Erstellung von Inhalten, die Informationsbeschaffung und das Einholen von Ratschlägen, was die Notwendigkeit unterstreicht, dass Arbeiter ihre Fähigkeiten zum kritischen Denken in einer KI-gestützten Umgebung aufrechterhalten und weiterentwickeln müssen[5][6].

Link zum Abschnitt, zu den Quellen.

Die Studie hebt eine entscheidende Ironie bei der Einführung von KI hervor: Durch die Automatisierung routinemäßiger Aufgaben beraubt KI die Nutzer ungewollt der Möglichkeit, Urteilsvermögen zu üben und ihre „kognitive Muskulatur“ zu stärken, wodurch sie auf außergewöhnliche Situationen unvorbereitet bleiben[1][2].

Diese kognitive Atrophie stellt erhebliche Herausforderungen am Arbeitsplatz dar, da Mitarbeiter möglicherweise übermäßig auf KI-Tools angewiesen sind und Schwierigkeiten haben, komplexe, nuancierte Probleme zu bewältigen, die menschliche Einsicht erfordern. Die Forschung zeigt auch einen besorgniserregenden Trend der „mechanisierten Konvergenz“, bei dem KI-Nutzer weniger vielfältige Ergebnisse für ähnliche Aufgaben produzieren, was potenziell Kreativität und Innovation am Arbeitsplatz hemmen könnte[3][4].

Link zum Abschnitt, zu den Quellen.

Um den Herausforderungen zu begegnen, die durch den Einfluss von KI auf das kritische Denken entstehen, erforschen Forscher und Entwickler Möglichkeiten, KI-Systeme so zu gestalten, dass sie kognitive Fähigkeiten aktiv fördern und verbessern. Ein Ansatz besteht darin, KI-Tools zu entwickeln, die Benutzer dazu anregen, sich mit reflektierendem Denken zu beschäftigen und KI-generierte Ergebnisse zu hinterfragen[1]. Diese Systeme könnten Funktionen enthalten, die Benutzer dazu ermutigen, Informationen kritisch zu bewerten, indem sie beispielsweise mehrere Perspektiven zu einem Thema präsentieren oder potenzielle Verzerrungen in KI-generierten Inhalten hervorheben[2].

Ein weiterer vielversprechender Ansatz ist die Entwicklung von KI-Assistenten, die als kognitive Gerüste fungieren und Benutzer durch komplexe Problemlösungsprozesse führen, anstatt einfach nur Antworten bereitzustellen[3]. Diese KI-Tools könnten so gestaltet sein, dass sie tiefgehende Fragen stellen, alternative Ansätze vorschlagen und Erklärungen für ihre Überlegungen liefern, wodurch die kritischen Denkfähigkeiten der Benutzer gefördert werden[4]. Durch die Integration solcher Funktionen könnten KI-Systeme potenziell das Risiko kognitiver Verkümmerung mindern und dazu beitragen, die „kognitive Muskulatur“ aufrechtzuerhalten, die notwendig ist, um außergewöhnliche Situationen am Arbeitsplatz zu bewältigen[5].

Link zum Abschnitt, zu den Quellen.

***

Kommentar

Durch die Verlinkungen (ansonsten hätten wir jede einzelne Quelle selbst aufrufen müssen, um einen Link als Fußnote zu setzen, was den Zeitvorteil der KI-Übernahme zunichte gemacht hätte) erfahren Sie natürlich, mit welcher KI wir oben gearbeitet haben. Mittlerweile ist Perplexity ziemlich bekannt und steht auch in der – sic! – Kritik, weil diese KI sehr offensiv mit möglicherweise geschützten Texten umgeht. Ihre Fähigkeiten im Vergleich zu ähnlichen Systemen werden, wohl auch deshalb, als gut eingeschätzt.

Es hat ein Schmunzeln hervorgerufen, dass Microsoft eine Studie erstellen lässt, die KI-Kritisches zutage fördert und eine KI dies weiterverbreitet. Vielleicht ist MS nicht ganz auf dem Posten und etwas neidisch? Grinse-Smilies verbieten sich bei solchen Kommentaren, obwohl sie doch davon zeugen würden, dass hier ein Mensch am Werk war, der eine Emotionen grafisch unterstreicht.

Überraschend kam die Studie für uns nicht. Sie folgt Erkenntnissen, die im Grunde so alt sind wie die Massenmedien. Ein Rückgang an Aktivität, ein Zuwachs an Passivität verringern die Möglichkeiten, das Gehirn zu trainieren. Sei es die Konzentrationsfähigkeit oder das kritische Denken, es lässt nach, und es hängt ja alles miteinander zusammen.

Für uns würden wir diesen Effekt bisher ausschließen wollen. Wir nutzen die KI zwar mittlerweile in vielen unserer Beiträge, aber wir setzen sie wie eine bessere Suchmaschine ein, die Rechercheergebnisse in ganzen Sätzen präsentiert und diese sinnvoll gliedert. Wir verbessern also die Geschwindigkeit und Struktur der Informationsbeschaffung, lassen aber niemals Kommentare von der KI schreiben. Präziser: Wenn wir sie um eine Einschätzung bitten, dann, um darauf aufbauen zu können, nicht, um sie zu übernehmen. Uns ist klar, dass die Grenzen zwischen Vorteilen und Nachteilen fließend sind und wir natürlich auch dem ausgesetzt sind, was eine KI ermittelt.

Die KI wäre für uns aber nur gefährlich, wenn wir ein geringes politisches Wissen hätten und das, was die KI schreibt, nicht in eine Matrix unserer Ansichten, in den gut dekorierten Raum eines Mindsets stellen würden. Das Bild mit der Möblierung passt deshalb so gut, weil eine KI in einem leeren Raum natürlich eine andere Wirkung erzielt, als wenn dieser gut ausgestattet ist. In letzterem Fall steht sie als zusätzliches Objekt in einem Konkurrenzverhältnis mit vielen Objekten des Wissens, der Erfahrung, der Haltung, die sich dort im Laufe der Zeit angesammelt haben.

Trotzdem besteht die Gefahr, wenn man sich zum Beispiel Meinungen als Grundlage für den eigenen Kommentar zusammenfasst, dass die KI unbemerkt den Akzent verschiebt – weil sie nicht gewichtet, welche Meinungen dominant sind oder besser unterlegt. Bisher hatten wir beim Einsatz der oben benannten KI wenig Gründe zur Klage – nicht in dieser Richtung zumindest. Im Gegenteil, wir haben die Dialektik in unseren Kommentaren nach unserer Ansicht durch diesen Einsatz stärken können.

Die KI, das war nicht Gegenstand der Studie, hat aber immer noch Schwächen beim Recherchieren von Fakten, sowohl die Aktualität betreffend als auch die Präzision. Wenn man zum Beispiel keinen Blick dafür hat, dass bestimmte Zahlen falsch ausgewiesen oder in falsche Zusammenhänge gestellt werden, kann man sich mit dem nicht hinterfragten Einsatz einer KI schnell zum Nerd machen, der Faktenfüchsen, die logisch analysieren können, ob ein Fakt stimmen kann, klar unterlegen ist. Deshalb, nicht zum ersten Mal, die wichtige Empfehlung: machen Sie, wenn Sie sich auf einem Gebiet nicht so gut auskennen, dass Sie eine sichere eigene Einordnung vornehmen können, einen Gegencheck mit einer anderen KI oder mit einer klassischen Suchanfrage, vor allem, wenn es um Zahlen geht. Damit fördern Sie auch ihr kritisches Denken.

Gerade ist der AI-Summit in Paris zu Ende gegangen, wir hatten uns aufgeschrieben, eine Zusammenfassung dazu als nächsten AI-Artikel zu bringen, dieser wird in den nächsten Tagen kommen. Ethische Fragen der KI werden dabei auch eine Rolle spielen.

Technisch ist die KI wie jede Technik, die etwas erleichtern soll. Man kann sie verwenden, um es bequemer zu haben oder man kann sie verwenden, um dadurch mehr Freiraum und Fokussierung auf Wichtiges zu ermöglichen. Wir sind der Ansicht, beim Wahlberliner haben wir bisher Letzteres ganz gut hinbekommen, denn wir schreiben nicht weniger selbst und setzen nicht weniger Zeit ein, sondern lassen uns bei bestimmten Schritten unterstützen, um notabene für das kritische Denken ein paar Minuten mehr zu gewinnen und die Informationsdichte unserer Artikel zu verbessern. Wo wir früher auch mal etwas als Behauptung in den Raum gestellt haben, ohne Belege zu verlinken, schalten wir jetzt häufiger, optisch klar abgegrenzt, einen KI-generierten Infoblock vor den Kommentar oder zwischen dessen Bestandteile und vertiefen Informationen zum Beispiel zu Grafiken oder Umfragen, die von Dritten erstellt werden.

TH