Vielen Dank für die wieder einmal tollen Denkanstöße! Ihr Newsletter ist für mich persönlich einer der relevantesten für mich im E-Learning Support einer Universität. Ich habe an diversen Stellen meiner KI-Weiterbildungen so ein diffuses Unbehagen, ob das tatsächlich die jetzt wichtigen, nützlichen Tipps sind. Und hier ist mit dem "kritischen Denken" so ein Punkt. Ich werde das in Zukunft mit thematisieren und finde das toll, danke. Denkanstöße sind so wertvoll, selbst wenn man dazu keine fertigen, erprobten Antworten parat hat.
Ich muss auch sehr viel darüber nachdenken, was wir hier für eine schwierige Situation haben. Das Design der KI-Systeme unterstützt nicht deren "gute" Verwendung; im Gegenteil. Die Systeme spucken perfekt klingende Antworten aus und loben uns für die klugen Fragen, auch wenn die Antworten halluziniert und die Fragen nicht gut gestellt waren. Ich bin zunehmend genervt davon, wie viel Aufwand man über Support, Aufklärung, "KI-Literacy" Bildung etc. hat, damit die Systeme nicht so verwendet werden, wie sie es einem suggerieren. Ich fühle mich wie jemand, der verzweifelt versucht den Menschen zu erklären, warum sie den Türöffner-Knopf 2m neben der Tür nehmen müssen und nicht die Klinke betätigen dürfen, die aber der naheliegende Weg ist. Ich mache immer größere Pfeile zum Türöffner-Knopf, schicke Rundmails über empfindliche Türöffner-Mechaniken, entwickle Lernspiele für Knopf-statt-Klinke. Und doch laufen die Menschen natürlich (!) zur Tür, drücken die Klinke und gehen durch. Das ist halt eine Tür. Mit einer Klinke. Die echten Lösungen dafür wären bautechnisch.
Und so sind die KI-Systeme auch: Gestaltet zur falschen Nutzung. Die haben ein Eingabefeld für eine Nachricht. Sie antworten auf fast alles, sehr von sich selbst überzeugt. Die korrekte Verwendung, die tatsächlich hilfreich wäre, passiert nicht by design. Und eigentlich kann man es den Menschen nicht übel nehmen, dass sie die Systeme falsch bzw. nicht optimal benutzen.
Vielen Dank für das motivierende Feedback! Die Tür-Metapher lässt sich noch einen Schritt weiterdenken. Bei anderen Technologien haben wir bautechnische Lösungen irgendwann erzwungen. Autos bekamen Sicherheitsgurte nicht, weil Hersteller sie wollten, sondern weil Regulierung sie vorschrieb. Medikamente tragen Beipackzettel nicht aus Marketinggründen. Bei KI-Systemen fehlt dieser Druck. Und anders als beim Auto gibt es kein einfaches bautechnisches Äquivalent, denn das System selbst kann nicht erkennen, wann es falsch liegt. Es kann keine ehrlichen Warnhinweise geben, weil ihm die Grundlage für diese Ehrlichkeit fehlt. Damit bleibt die Last tatsächlich bei den Menschen. Nicht nur bei uns, die mit immer größeren Pfeilen auf den Türöffner-Knopf zeigen, sondern auch bei den Anbietern.
Ich musste lachen, weil ich heute morgen zum zigsten Mal auf einen realen Knopf nicht gedrückt habe - es fehlen einfach die übergroßen Pfeile ;)
> Und so sind die KI-Systeme auch: Gestaltet zur falschen Nutzung
***False fluency*** trifft deinen Punkt eigentlich am besten:
Eine KI-Antwort klingt richtig – Syntax, Ton, Struktur stimmen – und lädt dadurch unbeabsichtigt zur unkritischen Übernahme ein. Nicht durch Absicht des Systems, sondern als emergente Eigenschaft des Designs.
Das ist strukturell verwandt mit ***Misaffordance***: Das Signal „hier ist eine verlässliche Antwort" wird gesendet, obwohl das System das nicht garantieren kann.
Der Artikel trifft den Nagel auf den Kopf und die beschriebene „GenAI Wall“ erinnert mich stark an meine eigene Schulzeit – nur dass unser „Wunderwerk“ damals nicht KI hieß, sondern HP48A.
Wir hatten in der Unterstufe diese wahnsinnig tollen Taschenrechner und durften sie laut Lehrplan quasi für alles nutzen. Dann bekamen wir einen neuen Mathelehrer, der eine simple, aber brillante Regel einführte: Bevor wir den Taschenrechner in die Hand nehmen durften, mussten wir überschlagen, wo das Ergebnis ungefähr landen wird. Damals habe ich es vielleicht nicht ganz verstanden, aber heute weiß ich: Er hat uns gezwungen, unsere eigene Kompetenzschwelle zu erhöhen. Er hat uns eine "Intuition", ein Gefühl für die Zahlen antrainiert.
Genau diese fundamentale Intuition scheint heute oft zu fehlen, wie ich bei der Mathe-Nachhilfe meiner Nichte immer wieder feststelle. Da wird selbst für eine Rechnung wie 100 dividiert durch 10 sofort der Taschenrechner gezückt. Vertippt man sich dann (Mal statt Geteilt) und das Display zeigt 1000, wird das Ergebnis oft völlig unhinterfragt hingeschrieben. Es fehlt der Instinkt zu denken: „Warte, kann das Ergebnis überhaupt größer sein als mein Ausgangswert?“. Ohne dieses Grundgefühl nützt das beste Werkzeug nichts – im Gegenteil, es macht blind für offensichtliche Fehler.
Exakt dasselbe Muster sehe ich jetzt im Umgang mit KI. Ich habe kürzlich mit der Tochter einer Freundin geredet, die im Informatikunterricht (HAK) kleine Programme schreiben sollte. Das bestand letztlich nur noch daraus, blind drei oder vier Prompts hintereinander in Claude einzutippen, bis ein funktionierender VBScript-Code für Excel herausfiel. Ein Verständnis dafür, was da eigentlich passiert und warum der Code läuft, war schlicht nicht vorhanden, geschweige den was die Prompts bedeuten.
Was ich damit sagen will: Das Problem der Kompetenzschwelle ist nicht neu, die KI ist in dieser Hinsicht nur der neue Taschenrechner mit Anabolika. Wenn wir über moderne Bildung und E-Learning sprechen, darf es nicht nur darum gehen, wie man Prompts formuliert. Der Fokus muss darauf liegen, wie wir diese grundlegende Intuition für ein Fachgebiet (oder alle?) vermitteln. Wir müssen trainieren, Ergebnisse kritisch einschätzen zu können, bevor die Maschine uns die fertige Antwort liefert. Denn wer kein Gefühl für die Materie hat, glaubt eben auch an den Baum-Oktopus oder den Papst in Daunenjacke oder das 1000 das richtige Ergebnis ist.
"Taschenrechner mit Anabolika" ist das beste Bild für KI, das ich seit langem gelesen habe. Die Überschlagsregel des Mathelehrers ist genau das, was in der KI-Nutzung fehlt. Erst selbst einschätzen, wo das Ergebnis ungefähr landen müsste, dann das Werkzeug nutzen. Das setzt voraus, dass man genug vom Gebiet versteht, um eine Erwartung zu haben. Ohne Erwartung keine Abweichung, ohne Abweichung kein Stutzen.
Das VBScript-Beispiel aus der HAK trifft den Punkt aus der Anthropic-Studie im Beitrag. Drei Prompts hintereinander, bis etwas funktioniert, ist Delegation ohne Lernen. Der Code läuft, aber das Verständnis fehlt. Und das Tückische ist, dass "es funktioniert" als Qualitätskriterium ausreicht, solange niemand fragt, warum es funktioniert. Genau dort müsste der Unterricht ansetzen, nicht beim Prompting, sondern beim Überschlagen. Was erwarte ich, bevor ich die Maschine frage? Und was bedeutet es, wenn die Antwort von meiner Erwartung abweicht? Der Mathelehrer hat das vor Jahrzehnten gelöst. Dass wir dieselbe Idee für KI erst wieder neu erfinden müssen, zeigt, wie wenig solche didaktischen Prinzipien zwischen Fachbereichen wandern.
Ich finde die Analyse im Zusammenhang ua. mit der GenAI Wall absolut stimmig und in dem Sinne auch erhellend. Diese Analyse passt, solange wir von einem Bildungssystem ausgehen, das Effizienz und kompetitive Vergleichbarkeit von immer mehr Fakten über tatsächliche, tiefe Erkenntnis stellt.
Die Analyse im Artikel zeigt dabei, dass uns die KI (wie so oft, zB. beim Bias) einen banalen Brenn-Spiegel dieser aktuellen Realität vorhält: Sie über-belohnt und normalisiert den systemischen Bluff heutiger Wirtschaft und Bildung.
In einer Welt, die schnellen und umfangreichen Output fordert, ist tiefgehende Kompetenz aktuell schlicht zu teuer und zeitaufwändig. Wer sich die Zeit für echte Reflexion, tiefes Lernen und Verstehen nimmt, verliert im Normalfall im Wettbewerb um Noten, Jobs und Marktanteile. Motto: So gut als nötig, so schnell als möglich, aber nicht mehr. Heutige KI hilft dabei grandios, ist sie doch dafür geschaffen worden! KI ist – in der aktuellen Ausformung – der Archetypus des Systems, der Epigone des systemischen Bluffs.
Das Problem liegt also mMn tiefer als bei einem ausgeklügelten Faktencheck bzw. einer Fachkompetenzschwelle. Denn jeder hat eine solche Schwelle, ob nun beim Baumoktopus oder bei der Quantenphysik – bzw. vielmehr: in 99,9+% der Fälle erreicht jeder Mensch diese Schwelle, besonders auch in einem zunehmend heterogenen und dynamischen gesellschaftlichen wie wirtschaftlichen Umfeld und wir sollten uns daher nicht über den Baumoktopus lustig machen oder ängstlich auf einen KI-induzierten Kompetenzverlust schielen.
Solange wir weiterhin Ergebnisse im Rahmen unserer Bildungsökonomie bzw. auch der beruflichen Realität bewerten, versuchen so effektiv und effizient den Bluff fortzusetzen und nicht einen Prozess der fundierten intellektuellen Redlichkeit fördern, werden auch die besten Frameworks zur Faktenprüfung oder eine noch präzisere Stringenz des Faktenwissens an der wirtschaftlichen Realität, der Realität des mehr oder weniger direkt angeschlossenen Bildungssystems wie auch der menschlichen Natur und dem Wunsch nach sofortiger Gratifikation scheitern. Die GenAI Wall wird weiterhin nur elaboriert verdeckt, da man unfähig ist, sie abseits eines engen, trainierten Bereichs zu entdecken bzw. damit umzugehen.
Wir brauchen daher nicht nur neue Curricula und / oder neue Tools zur kritischen Faktenbeurteilung, sondern einen radikal neuen Bildungszugang, der den Mut zur Lücke und den darauf aufbauenden selbstständigen, lebenslangen Kompetenzerwerb ins Zentrum stellt, statt den, nun durch noch besseren Faktencheck und verstärktes aber ohnehin potenziell schnell obsoletes Fachwissen verbesserten perfekten Bluff zu prämieren.
Das kann natürlich nur bedingt von einzelnen Lehr- und Studiengängen gefordert werden, aber solange wir lediglich Verbesserungen im Rahmen eines grundsätzlich überholten Systems umsetzen, wird sich an der Grundproblematik nur wenig ändern, so redlich wir uns bemühen.
Geradezu paradoxerweise könnte in dem Zusammenhang eine weiterentwickelte KI auch dazu beitragen, diesen Geschwindigkeits- und Effizienzdruck aus dem „menschlichen“ Teil der Bildung und Wirtschaft herauszunehmen, wenn sie uns potenziell die Zeit gibt, sich wahrlich einem tieferen Verständnis zu nähern, sofern wir die gewonnene Zeit nicht erst wieder mit noch mehr Output zumüllen.
Die unbequemste Frage steckt zwischen den Zeilen. Wer profitiert vom Bluff? Solange Organisationen Output belohnen statt Verstehen, ist der Bluff kein individuelles Versagen, sondern rationales Verhalten. KI perfektioniert diese Rationalität.
Das Paradox am Ende verdient mehr Aufmerksamkeit. Die Berkeley-Studie zur KI-Arbeitsintensivierung zeigt, dass KI bisher keine Zeit freisetzt, sondern den Aufwand in mehr Output verschiebt. Die gewonnene Zeit wird sofort wieder gefüllt. Ob das anders laufen kann, ist keine Technikfrage, sondern eine Machtfrage. Wer entscheidet, ob freiwerdende Kapazität in Tiefe fließt oder in Menge? Aktuell entscheiden Quartalszahlen und Prüfungsordnungen, nicht Bildungsideale.
"Mut zur Lücke" wäre übrigens der radikalste denkbare Bruch mit der Bluff-Kultur und zugleich die praktische Umsetzung der Fachkompetenzschwelle. Ehrlich sagen "das kann ich nicht beurteilen" statt mit KI-Output die Lücke zuzukleistern. Dass genau das in den meisten Organisationen karriereschädlich ist, zeigt, wie tief das systemische Problem reicht.
Ja, es geht wie gesagt um einen radikalen systemischen Bruch, da ein Wandel im aktuellen Kontext auf den ersten und dominierenden Blick (wir sind alle darin sozialisiert) wenig rational erscheint und daher konsequenterweise auch zu einem Rebound Effekt mit Hilfe des aktuellen Effizienz-Tools KI führt.
Spannend ist die Frage, wie der Bruch stattfinden wird. Denn der von KI vorgehaltene Brennspiegel macht klar erkennbar:
Der heutige Homo oeconomicus wird kurz- bis mittelfristig in immer weiteren Bereichen von Maschinen abgelöst werden. Ich denke nicht, dass das unbedingt dystopisch zu verstehen ist (die Dystopie liegt zudem in anderen Bereichen viel näher), aber aufgrund der Geschwindigkeit wird es zumindest viele Herausforderungen mit sich bringen.
Was unser westliches und strikt normiert-ökonomisiertes Bildungssystem angeht, bin ich allerdings skeptisch: System-, strukturerhaltend und konservativ, bestenfalls politisch (und damit aktuell ängstlich-zurückhaltend rückwärtsgewandt) instrumentalisiert, wird es den aktuellen Wandel wohl nicht begleiten können. Ihm aufgrund der Trägheit des zugrundeliegenden Systems sowie der eigenen Strukturen massiv hinterherhinken.
Die echte Frage ist mMn, wie es den vielen und oft innovativen Akteur:innen im Bildungssystem gelingen kann einerseits selbst mit der Dichotomie eines alten Systems in rapidem Wandel zu einem neuen hochdynamischen Zustand umzugehenden und andererseits anderen Menschen dabei zu helfen, mit dem Wandel klarzukommen.
Und hier kommt ua. dann auch die Frage der Kompetenzen.
Ein zentraler und letztlich aber tragischer Wegweiser ist hier DigComp (in jeweils aktueller Version). Denn es rückt sich selber in das Eck „Digital“ des aktuellen Systems – formuliert sich entsprechend, wird konsequenterweise zB. im harten Infight mit Latein in ein Eckerl des (immerhin nun „maturablen“!) Curriculums gestellt. Es soll helfen die technischen Hürden zu meistern – im aktuellen System.
Hier ist also wenig zu erwarten. Nur meist kurzfristige Befähigung in einem gewissen Bereich.
Interessant aber, wenn man den digitalen und technischen Aspekt aus DigComp herausnimmt, erhält man zB. auch in Kombination mit BNE eine mögliche Diskussionsgrundlage für eine Neuorientierung des Bildungssystems in einer Zeit in der weder das Wissens- noch das alltägliche Handlungsmonopol beim Menschen liegt, sondern der Mensch damit gefordert sein wird sich auch im humboldtschen Sinne selbst und seine Gesellschaft in eine gemeinwohle, demokratische Zukunft zu führen. Widrigenfalls wir wohl tatsächlich in eine technokratisch-effiziente Dystopie abgleiten.
vielen Dank für den sehr aufschlussreichen Artikel und die vielen Denkanstöße. Ich habe ihn gleich fleißig verteilt. ;)
Wenn ich den Master nicht schon hätte, würde ich mich wohl nochmals bewerben. Vielleicht gibt es ja die Möglichkeit neue Lehrveranstaltung als Weiterbildung zu besuchen (?).
Vielen lieben Dank für das Feedback und das Teilen! Du kannst den Master nicht noch einmal machen (danke für die virtuellen Blumen!). Aber am Ende jedes Semesters gebe ich jetzt eine Online-Open-Lecture „KI Update” und in den nächsten Tagen starten wir mit einem Podcast. Vielleicht ist ja das eine oder andere etwas für dich.
"Nicht weil die Reakkreditierung es verlangt. Sondern weil die Menschen in meinen Hörsälen es verdienen." Das nenne ich mal einen Arbeitsethos, an dem sich viele ein Beispiel nehmen könn(t)en.
„Arbeitsethos” ist ein starkes Wort. Es bedeutet mir viel, wenn ich dazu beitragen kann, dass meine Studierenden durch das Studium bessere Lebenschancen haben, einen interessanteren, besseren und sichereren Job bekommen. Ich möchte auch selbst dauerhaft meinen Job behalten. Dafür braucht es genug Bewerber, sonst müsste ich woanders unterrichten. Vor allem aber treibt mich mein Spezialinteresse für KI und meine ständige Neugierde sowie die Freude daran, Neues auszuprobieren. Diese Freude teile ich gerne mit anderen, die sich ebenfalls dafür interessieren. Mit neuen Fächern geht das alles noch besser ;)
Während ich viele Gedankengänge in Ihrem Artikel unterstreiche und nachvollziehen kann, verfängt die Kernthese, dass kritisches Denken überbewertet sei, indes bei mir nicht. Ich gebe mal eine Gegenthese - werde wie es aussieht auch einen eigenen Substack dazu schreiben: Als Berater im IT-Bereich bin ich schon in den unterschiedlichsten Industrien unterwegs gewesen. Jedesmal fing ich in der dort vorgefundenen Materie beim fachlichen Nullpunkt an. Jedesmal fanden sich Protagonisten des jahrelang erworbenen „Fachwissens“ und lobten sich und andere über den Klee über ihre xyz-Expertise, und so weit müsse man erst mal kommen, bevor man da mitreden könne.
Ich habe diese Stimmen immer ignoriert. Zum einen gibt es ganze Firmen, die ihr Geld damit verdienen, Consultants wie mich in solche Wissensinseln zu schicken mit dem Ziel, den Prozess zu verbessern, überhaupt etwas Vorzeigbares herzustellen und und und. Jetzt kann man mir und meiner Sparte natürlich gerne Blabla-Wissen vorwerfen und von nichts eine Ahnung haben, zu allem eine Meinung (ähnlich wie ein KI fällt mir gerade auf). Und ganz klar: Die gibt es - leider - auch. Dass wir Consultants aber selten auf der grünen Wiese gerufen werden, wenn’s darum geht kreativ die besten Ideen zu finden, sondern erst dann, wenn die Hütte bereits lichterloh brennt, nachdem ausgewiesene „Fachexperten“ den Weg schon vorher eingeschlagen haben, spricht dafür, dass wir ja dann doch manchmal einen gewissen Mehrwert gegenüber ebenjenen Fachexperten erzeugen. Nach meiner Erfahrung war jeder Softwareingenieur, Architekt oder Berater, den wir in eine bestimmte Branche xy steckten, nach 1-2 Jahren genauso Fachexperte wie die selbsternannten Experten der Branche. Man nennt es „Hirn“. Das muss man natürlich in ausreichender Menge haben.
Ich verstehe dennoch ihren Punkt: Ich beispielsweise habe KI noch nie so benutzt, dass es mir in unbekannten Gebieten eine Theorie gibt, und die verfolge ich dann ungeprüft weiter. In meinem Bereich kann ich sehr schnell Wahrheit von Halluzination trennen und prüfen: Denn wenn die Konfigurationsdatei, die mir die KI jetzt im 5. Anlauf gegeben hat und mich beschworen hat: „Stefan: Ganz ehrlich - jetzt haben wir‘s!“ mit Floskeln garniert die anfangen mit „Warum das jetzt klapp“ und Bulletpointlisten gefolgt - dann sehe ich direkt das Ergebnis: Der Kleinstrechner bootet trotzdem nicht. Bullshit also.
Lassen Sie mich Ihre These des notwendigen Wissens einfach umbiegen in: „Erfahrung und Instinkt haben“. Was halten Sie davon? Ich bekomme auch in einer unbekannten Branche sehr schnell mit, woran es im Projekt mangelt. Wo sich Silos bilden, Menschen nicht miteinander reden oder einfach blind Schriftwerk folgen. Dafür muss man Pferde kotzen gesehen haben - diese Erfahrung halt. Da gehe ich mit. Aber nicht unbedingt jahrelang studiertes Wissen ins Feld führen. Was denken Sie?
Und schon wieder habe ich längere Zeit mit der Arbeit AN EINEM Artikel verbracht.
Zu sehr faszinieren mich die Begriffe der Fachkompetenzschwelle und der Kompetenzfalle, weil sie sich stark mit meinen eigenen Gedanken decken. Ich beziehe sie allerdings weniger auf Lehre und Curriculum als auf Organisations- und Qualitätsfragen. In meinen Seminaren formuliere ich diese Perspektive oft in provokativen Thesen wie: „Bequemlichkeit ersetzt Genauigkeit“, „Copy-Paste-Kultur“ und „Verlust fachlicher Expertise“.
Ergänzen würde ich allerdings, dass die Zone unterhalb dieser Schwelle auch Ausgangspunkt für Kompetenzerwerb sein. Wer um die eigene Unsicherheit weiß - ja, dieses Wissen ist natürlich zwingend notwendig-, kann KI nutzen, um Fragen zu schärfen, sich schrittweise an Zusammenhänge heranzuarbeiten und Verständnis überhaupt erst aufzubauen. Sofern die KI nicht das Denken ersetzt, sondern es stützt.
Hinzu kommt für mich noch ein weiterer Punkt: KI täuscht nicht zwingend Kompetenz vor, sie kann auch expressive Schwäche kompensieren — also helfen, inhaltlich bereits angelegte Gedanken klarer und strukturierter auszudrücken. Wobei genau darin vielleicht schon wieder die nächste Ambivalenz liegt: War ein Gedanke wirklich vorher schon da und nur sprachlich unscharf, oder wird er erst im Arbeiten mit KI wirklich fertig? Vielleicht ist selbst dieser Kommentar schon ein kleines Beispiel dafür, ohne KI würde ich ihn nicht formulieren können
Ich frage mich folgendes, wir geben uns doch bei fremden Menschen die uns etwas neues erzählen doch auch eine gewisse Skepsis mit und validieren das was wir aufnehmen und über die Zeit merken wir dann, ok das passt so. Warum wirft man dieses über den Haufen nur weil es jetzt Software ist die uns etwas zu neuen Themen uns Input liefert? Wir nehmen doch unsere Denkmurmel nicht aus der Denkschale nur weil es kein Mensch ist - und falls ja, ist das dann ein Fehler der Maschine oder nicht einfach falsche Annahmen des Nutzers?
Vielen Dank für den tiefgründigen und weitsichtigen Artikel!
Die Karte ist nicht das Terrain kannte ich vorher nur aus der systemischen Denke. Lernen und alle Unbequemzonen hatten noch nie eine gute Lobby, so wie die Abkürzungs-Lobby (SaaS, Pharma, Schönheitschirurgie, Konsumgüter, ...)
Wir sind gerade dabei, KI in die Breite unserer Hochschule zu bekommen und wollen das auf Basis eines Kompetenzmodells versuchen, wie andere das erfolgreich vorgelebt haben. Ihre Gedanken rund um die Schwelle sind für mich da sehr aufschlussreich. Danke!
Ich glaube auch daran, dass ich nicht wirklich kritisch Denken könnte, wenn ich das Allgemeinwissen aus der ach so verhassten Schule nicht weitergefüttert hätte. So habe ich immer ein paar Muster, die mich zumindest nicht im Dunkeln zurück lassen
Vielen Dank für den Artikel. Die Problematik und das Dilemma sind total auf den Punkt gebracht. Wir gehen davon aus, dass bestimmte Begriffe klar und deutlich sind und keine erneute Schärfung oder Definition benötigen. Das denke ich häufig, wenn es um das Verständnis des Begriffs Demokratie geht. So ist das auch mit dem Wissen. Was ist Wissen und was können wir wissen? Welche Rolle spielt Wissen und was ist der Unterschied zwischen Informiertheit und Wissen? Wir müssen Wissen neu denken. Paradigmenwechsel haben in der Wissenschaft immer dann stattgefunden, wenn Anomalien nicht mehr angepasst werden konnten. KI ist so etwas, das in unser gewohntes Paradigma nicht reinpasst und Probleme verursacht. Wir können KI aber als eine schlechte Hypothese nicht verwerfen. KI ist Tatsache, die da ist. Wir können aber selbstverständliche Dinge, die wir sicher zu wissen und zu verstehen meinen, neu denken und diese für die neuen Rahmenbedingungen neu erfinden sowie an sie anpassen. Das Wissen bekommt an dieser Stelle ganz andere Dimension und Bedeutung.
Vielen Dank für die wieder einmal tollen Denkanstöße! Ihr Newsletter ist für mich persönlich einer der relevantesten für mich im E-Learning Support einer Universität. Ich habe an diversen Stellen meiner KI-Weiterbildungen so ein diffuses Unbehagen, ob das tatsächlich die jetzt wichtigen, nützlichen Tipps sind. Und hier ist mit dem "kritischen Denken" so ein Punkt. Ich werde das in Zukunft mit thematisieren und finde das toll, danke. Denkanstöße sind so wertvoll, selbst wenn man dazu keine fertigen, erprobten Antworten parat hat.
Ich muss auch sehr viel darüber nachdenken, was wir hier für eine schwierige Situation haben. Das Design der KI-Systeme unterstützt nicht deren "gute" Verwendung; im Gegenteil. Die Systeme spucken perfekt klingende Antworten aus und loben uns für die klugen Fragen, auch wenn die Antworten halluziniert und die Fragen nicht gut gestellt waren. Ich bin zunehmend genervt davon, wie viel Aufwand man über Support, Aufklärung, "KI-Literacy" Bildung etc. hat, damit die Systeme nicht so verwendet werden, wie sie es einem suggerieren. Ich fühle mich wie jemand, der verzweifelt versucht den Menschen zu erklären, warum sie den Türöffner-Knopf 2m neben der Tür nehmen müssen und nicht die Klinke betätigen dürfen, die aber der naheliegende Weg ist. Ich mache immer größere Pfeile zum Türöffner-Knopf, schicke Rundmails über empfindliche Türöffner-Mechaniken, entwickle Lernspiele für Knopf-statt-Klinke. Und doch laufen die Menschen natürlich (!) zur Tür, drücken die Klinke und gehen durch. Das ist halt eine Tür. Mit einer Klinke. Die echten Lösungen dafür wären bautechnisch.
Und so sind die KI-Systeme auch: Gestaltet zur falschen Nutzung. Die haben ein Eingabefeld für eine Nachricht. Sie antworten auf fast alles, sehr von sich selbst überzeugt. Die korrekte Verwendung, die tatsächlich hilfreich wäre, passiert nicht by design. Und eigentlich kann man es den Menschen nicht übel nehmen, dass sie die Systeme falsch bzw. nicht optimal benutzen.
Vielen Dank für das motivierende Feedback! Die Tür-Metapher lässt sich noch einen Schritt weiterdenken. Bei anderen Technologien haben wir bautechnische Lösungen irgendwann erzwungen. Autos bekamen Sicherheitsgurte nicht, weil Hersteller sie wollten, sondern weil Regulierung sie vorschrieb. Medikamente tragen Beipackzettel nicht aus Marketinggründen. Bei KI-Systemen fehlt dieser Druck. Und anders als beim Auto gibt es kein einfaches bautechnisches Äquivalent, denn das System selbst kann nicht erkennen, wann es falsch liegt. Es kann keine ehrlichen Warnhinweise geben, weil ihm die Grundlage für diese Ehrlichkeit fehlt. Damit bleibt die Last tatsächlich bei den Menschen. Nicht nur bei uns, die mit immer größeren Pfeilen auf den Türöffner-Knopf zeigen, sondern auch bei den Anbietern.
Ich musste lachen, weil ich heute morgen zum zigsten Mal auf einen realen Knopf nicht gedrückt habe - es fehlen einfach die übergroßen Pfeile ;)
> Und so sind die KI-Systeme auch: Gestaltet zur falschen Nutzung
***False fluency*** trifft deinen Punkt eigentlich am besten:
Eine KI-Antwort klingt richtig – Syntax, Ton, Struktur stimmen – und lädt dadurch unbeabsichtigt zur unkritischen Übernahme ein. Nicht durch Absicht des Systems, sondern als emergente Eigenschaft des Designs.
Das ist strukturell verwandt mit ***Misaffordance***: Das Signal „hier ist eine verlässliche Antwort" wird gesendet, obwohl das System das nicht garantieren kann.
Schreibe übrigens nicht ich, sondern Claude ;)
Der Artikel trifft den Nagel auf den Kopf und die beschriebene „GenAI Wall“ erinnert mich stark an meine eigene Schulzeit – nur dass unser „Wunderwerk“ damals nicht KI hieß, sondern HP48A.
Wir hatten in der Unterstufe diese wahnsinnig tollen Taschenrechner und durften sie laut Lehrplan quasi für alles nutzen. Dann bekamen wir einen neuen Mathelehrer, der eine simple, aber brillante Regel einführte: Bevor wir den Taschenrechner in die Hand nehmen durften, mussten wir überschlagen, wo das Ergebnis ungefähr landen wird. Damals habe ich es vielleicht nicht ganz verstanden, aber heute weiß ich: Er hat uns gezwungen, unsere eigene Kompetenzschwelle zu erhöhen. Er hat uns eine "Intuition", ein Gefühl für die Zahlen antrainiert.
Genau diese fundamentale Intuition scheint heute oft zu fehlen, wie ich bei der Mathe-Nachhilfe meiner Nichte immer wieder feststelle. Da wird selbst für eine Rechnung wie 100 dividiert durch 10 sofort der Taschenrechner gezückt. Vertippt man sich dann (Mal statt Geteilt) und das Display zeigt 1000, wird das Ergebnis oft völlig unhinterfragt hingeschrieben. Es fehlt der Instinkt zu denken: „Warte, kann das Ergebnis überhaupt größer sein als mein Ausgangswert?“. Ohne dieses Grundgefühl nützt das beste Werkzeug nichts – im Gegenteil, es macht blind für offensichtliche Fehler.
Exakt dasselbe Muster sehe ich jetzt im Umgang mit KI. Ich habe kürzlich mit der Tochter einer Freundin geredet, die im Informatikunterricht (HAK) kleine Programme schreiben sollte. Das bestand letztlich nur noch daraus, blind drei oder vier Prompts hintereinander in Claude einzutippen, bis ein funktionierender VBScript-Code für Excel herausfiel. Ein Verständnis dafür, was da eigentlich passiert und warum der Code läuft, war schlicht nicht vorhanden, geschweige den was die Prompts bedeuten.
Was ich damit sagen will: Das Problem der Kompetenzschwelle ist nicht neu, die KI ist in dieser Hinsicht nur der neue Taschenrechner mit Anabolika. Wenn wir über moderne Bildung und E-Learning sprechen, darf es nicht nur darum gehen, wie man Prompts formuliert. Der Fokus muss darauf liegen, wie wir diese grundlegende Intuition für ein Fachgebiet (oder alle?) vermitteln. Wir müssen trainieren, Ergebnisse kritisch einschätzen zu können, bevor die Maschine uns die fertige Antwort liefert. Denn wer kein Gefühl für die Materie hat, glaubt eben auch an den Baum-Oktopus oder den Papst in Daunenjacke oder das 1000 das richtige Ergebnis ist.
"Taschenrechner mit Anabolika" ist das beste Bild für KI, das ich seit langem gelesen habe. Die Überschlagsregel des Mathelehrers ist genau das, was in der KI-Nutzung fehlt. Erst selbst einschätzen, wo das Ergebnis ungefähr landen müsste, dann das Werkzeug nutzen. Das setzt voraus, dass man genug vom Gebiet versteht, um eine Erwartung zu haben. Ohne Erwartung keine Abweichung, ohne Abweichung kein Stutzen.
Das VBScript-Beispiel aus der HAK trifft den Punkt aus der Anthropic-Studie im Beitrag. Drei Prompts hintereinander, bis etwas funktioniert, ist Delegation ohne Lernen. Der Code läuft, aber das Verständnis fehlt. Und das Tückische ist, dass "es funktioniert" als Qualitätskriterium ausreicht, solange niemand fragt, warum es funktioniert. Genau dort müsste der Unterricht ansetzen, nicht beim Prompting, sondern beim Überschlagen. Was erwarte ich, bevor ich die Maschine frage? Und was bedeutet es, wenn die Antwort von meiner Erwartung abweicht? Der Mathelehrer hat das vor Jahrzehnten gelöst. Dass wir dieselbe Idee für KI erst wieder neu erfinden müssen, zeigt, wie wenig solche didaktischen Prinzipien zwischen Fachbereichen wandern.
Ich finde die Analyse im Zusammenhang ua. mit der GenAI Wall absolut stimmig und in dem Sinne auch erhellend. Diese Analyse passt, solange wir von einem Bildungssystem ausgehen, das Effizienz und kompetitive Vergleichbarkeit von immer mehr Fakten über tatsächliche, tiefe Erkenntnis stellt.
Die Analyse im Artikel zeigt dabei, dass uns die KI (wie so oft, zB. beim Bias) einen banalen Brenn-Spiegel dieser aktuellen Realität vorhält: Sie über-belohnt und normalisiert den systemischen Bluff heutiger Wirtschaft und Bildung.
In einer Welt, die schnellen und umfangreichen Output fordert, ist tiefgehende Kompetenz aktuell schlicht zu teuer und zeitaufwändig. Wer sich die Zeit für echte Reflexion, tiefes Lernen und Verstehen nimmt, verliert im Normalfall im Wettbewerb um Noten, Jobs und Marktanteile. Motto: So gut als nötig, so schnell als möglich, aber nicht mehr. Heutige KI hilft dabei grandios, ist sie doch dafür geschaffen worden! KI ist – in der aktuellen Ausformung – der Archetypus des Systems, der Epigone des systemischen Bluffs.
Das Problem liegt also mMn tiefer als bei einem ausgeklügelten Faktencheck bzw. einer Fachkompetenzschwelle. Denn jeder hat eine solche Schwelle, ob nun beim Baumoktopus oder bei der Quantenphysik – bzw. vielmehr: in 99,9+% der Fälle erreicht jeder Mensch diese Schwelle, besonders auch in einem zunehmend heterogenen und dynamischen gesellschaftlichen wie wirtschaftlichen Umfeld und wir sollten uns daher nicht über den Baumoktopus lustig machen oder ängstlich auf einen KI-induzierten Kompetenzverlust schielen.
Solange wir weiterhin Ergebnisse im Rahmen unserer Bildungsökonomie bzw. auch der beruflichen Realität bewerten, versuchen so effektiv und effizient den Bluff fortzusetzen und nicht einen Prozess der fundierten intellektuellen Redlichkeit fördern, werden auch die besten Frameworks zur Faktenprüfung oder eine noch präzisere Stringenz des Faktenwissens an der wirtschaftlichen Realität, der Realität des mehr oder weniger direkt angeschlossenen Bildungssystems wie auch der menschlichen Natur und dem Wunsch nach sofortiger Gratifikation scheitern. Die GenAI Wall wird weiterhin nur elaboriert verdeckt, da man unfähig ist, sie abseits eines engen, trainierten Bereichs zu entdecken bzw. damit umzugehen.
Wir brauchen daher nicht nur neue Curricula und / oder neue Tools zur kritischen Faktenbeurteilung, sondern einen radikal neuen Bildungszugang, der den Mut zur Lücke und den darauf aufbauenden selbstständigen, lebenslangen Kompetenzerwerb ins Zentrum stellt, statt den, nun durch noch besseren Faktencheck und verstärktes aber ohnehin potenziell schnell obsoletes Fachwissen verbesserten perfekten Bluff zu prämieren.
Das kann natürlich nur bedingt von einzelnen Lehr- und Studiengängen gefordert werden, aber solange wir lediglich Verbesserungen im Rahmen eines grundsätzlich überholten Systems umsetzen, wird sich an der Grundproblematik nur wenig ändern, so redlich wir uns bemühen.
Geradezu paradoxerweise könnte in dem Zusammenhang eine weiterentwickelte KI auch dazu beitragen, diesen Geschwindigkeits- und Effizienzdruck aus dem „menschlichen“ Teil der Bildung und Wirtschaft herauszunehmen, wenn sie uns potenziell die Zeit gibt, sich wahrlich einem tieferen Verständnis zu nähern, sofern wir die gewonnene Zeit nicht erst wieder mit noch mehr Output zumüllen.
Die unbequemste Frage steckt zwischen den Zeilen. Wer profitiert vom Bluff? Solange Organisationen Output belohnen statt Verstehen, ist der Bluff kein individuelles Versagen, sondern rationales Verhalten. KI perfektioniert diese Rationalität.
Das Paradox am Ende verdient mehr Aufmerksamkeit. Die Berkeley-Studie zur KI-Arbeitsintensivierung zeigt, dass KI bisher keine Zeit freisetzt, sondern den Aufwand in mehr Output verschiebt. Die gewonnene Zeit wird sofort wieder gefüllt. Ob das anders laufen kann, ist keine Technikfrage, sondern eine Machtfrage. Wer entscheidet, ob freiwerdende Kapazität in Tiefe fließt oder in Menge? Aktuell entscheiden Quartalszahlen und Prüfungsordnungen, nicht Bildungsideale.
"Mut zur Lücke" wäre übrigens der radikalste denkbare Bruch mit der Bluff-Kultur und zugleich die praktische Umsetzung der Fachkompetenzschwelle. Ehrlich sagen "das kann ich nicht beurteilen" statt mit KI-Output die Lücke zuzukleistern. Dass genau das in den meisten Organisationen karriereschädlich ist, zeigt, wie tief das systemische Problem reicht.
Ja, es geht wie gesagt um einen radikalen systemischen Bruch, da ein Wandel im aktuellen Kontext auf den ersten und dominierenden Blick (wir sind alle darin sozialisiert) wenig rational erscheint und daher konsequenterweise auch zu einem Rebound Effekt mit Hilfe des aktuellen Effizienz-Tools KI führt.
Spannend ist die Frage, wie der Bruch stattfinden wird. Denn der von KI vorgehaltene Brennspiegel macht klar erkennbar:
Der heutige Homo oeconomicus wird kurz- bis mittelfristig in immer weiteren Bereichen von Maschinen abgelöst werden. Ich denke nicht, dass das unbedingt dystopisch zu verstehen ist (die Dystopie liegt zudem in anderen Bereichen viel näher), aber aufgrund der Geschwindigkeit wird es zumindest viele Herausforderungen mit sich bringen.
Was unser westliches und strikt normiert-ökonomisiertes Bildungssystem angeht, bin ich allerdings skeptisch: System-, strukturerhaltend und konservativ, bestenfalls politisch (und damit aktuell ängstlich-zurückhaltend rückwärtsgewandt) instrumentalisiert, wird es den aktuellen Wandel wohl nicht begleiten können. Ihm aufgrund der Trägheit des zugrundeliegenden Systems sowie der eigenen Strukturen massiv hinterherhinken.
Die echte Frage ist mMn, wie es den vielen und oft innovativen Akteur:innen im Bildungssystem gelingen kann einerseits selbst mit der Dichotomie eines alten Systems in rapidem Wandel zu einem neuen hochdynamischen Zustand umzugehenden und andererseits anderen Menschen dabei zu helfen, mit dem Wandel klarzukommen.
Und hier kommt ua. dann auch die Frage der Kompetenzen.
Ein zentraler und letztlich aber tragischer Wegweiser ist hier DigComp (in jeweils aktueller Version). Denn es rückt sich selber in das Eck „Digital“ des aktuellen Systems – formuliert sich entsprechend, wird konsequenterweise zB. im harten Infight mit Latein in ein Eckerl des (immerhin nun „maturablen“!) Curriculums gestellt. Es soll helfen die technischen Hürden zu meistern – im aktuellen System.
Hier ist also wenig zu erwarten. Nur meist kurzfristige Befähigung in einem gewissen Bereich.
Interessant aber, wenn man den digitalen und technischen Aspekt aus DigComp herausnimmt, erhält man zB. auch in Kombination mit BNE eine mögliche Diskussionsgrundlage für eine Neuorientierung des Bildungssystems in einer Zeit in der weder das Wissens- noch das alltägliche Handlungsmonopol beim Menschen liegt, sondern der Mensch damit gefordert sein wird sich auch im humboldtschen Sinne selbst und seine Gesellschaft in eine gemeinwohle, demokratische Zukunft zu führen. Widrigenfalls wir wohl tatsächlich in eine technokratisch-effiziente Dystopie abgleiten.
Ich zitiere Ihren Artikel im Rahmen eines KI-Curriculums. Tolle Arbeit. Danke.
Herzlichen Dank! Über einen Einblick, wie es im Curriculum eingesetzt wird, würde ich mich freuen.
Liebe Barbara,
vielen Dank für den sehr aufschlussreichen Artikel und die vielen Denkanstöße. Ich habe ihn gleich fleißig verteilt. ;)
Wenn ich den Master nicht schon hätte, würde ich mich wohl nochmals bewerben. Vielleicht gibt es ja die Möglichkeit neue Lehrveranstaltung als Weiterbildung zu besuchen (?).
Lieben Gruß,
Levi
Vielen lieben Dank für das Feedback und das Teilen! Du kannst den Master nicht noch einmal machen (danke für die virtuellen Blumen!). Aber am Ende jedes Semesters gebe ich jetzt eine Online-Open-Lecture „KI Update” und in den nächsten Tagen starten wir mit einem Podcast. Vielleicht ist ja das eine oder andere etwas für dich.
"Nicht weil die Reakkreditierung es verlangt. Sondern weil die Menschen in meinen Hörsälen es verdienen." Das nenne ich mal einen Arbeitsethos, an dem sich viele ein Beispiel nehmen könn(t)en.
„Arbeitsethos” ist ein starkes Wort. Es bedeutet mir viel, wenn ich dazu beitragen kann, dass meine Studierenden durch das Studium bessere Lebenschancen haben, einen interessanteren, besseren und sichereren Job bekommen. Ich möchte auch selbst dauerhaft meinen Job behalten. Dafür braucht es genug Bewerber, sonst müsste ich woanders unterrichten. Vor allem aber treibt mich mein Spezialinteresse für KI und meine ständige Neugierde sowie die Freude daran, Neues auszuprobieren. Diese Freude teile ich gerne mit anderen, die sich ebenfalls dafür interessieren. Mit neuen Fächern geht das alles noch besser ;)
Klasse Beitrag. Interessant auch jenseits der Lehre. Danke.
Vielen Dank für das motivierende Feedback!
Während ich viele Gedankengänge in Ihrem Artikel unterstreiche und nachvollziehen kann, verfängt die Kernthese, dass kritisches Denken überbewertet sei, indes bei mir nicht. Ich gebe mal eine Gegenthese - werde wie es aussieht auch einen eigenen Substack dazu schreiben: Als Berater im IT-Bereich bin ich schon in den unterschiedlichsten Industrien unterwegs gewesen. Jedesmal fing ich in der dort vorgefundenen Materie beim fachlichen Nullpunkt an. Jedesmal fanden sich Protagonisten des jahrelang erworbenen „Fachwissens“ und lobten sich und andere über den Klee über ihre xyz-Expertise, und so weit müsse man erst mal kommen, bevor man da mitreden könne.
Ich habe diese Stimmen immer ignoriert. Zum einen gibt es ganze Firmen, die ihr Geld damit verdienen, Consultants wie mich in solche Wissensinseln zu schicken mit dem Ziel, den Prozess zu verbessern, überhaupt etwas Vorzeigbares herzustellen und und und. Jetzt kann man mir und meiner Sparte natürlich gerne Blabla-Wissen vorwerfen und von nichts eine Ahnung haben, zu allem eine Meinung (ähnlich wie ein KI fällt mir gerade auf). Und ganz klar: Die gibt es - leider - auch. Dass wir Consultants aber selten auf der grünen Wiese gerufen werden, wenn’s darum geht kreativ die besten Ideen zu finden, sondern erst dann, wenn die Hütte bereits lichterloh brennt, nachdem ausgewiesene „Fachexperten“ den Weg schon vorher eingeschlagen haben, spricht dafür, dass wir ja dann doch manchmal einen gewissen Mehrwert gegenüber ebenjenen Fachexperten erzeugen. Nach meiner Erfahrung war jeder Softwareingenieur, Architekt oder Berater, den wir in eine bestimmte Branche xy steckten, nach 1-2 Jahren genauso Fachexperte wie die selbsternannten Experten der Branche. Man nennt es „Hirn“. Das muss man natürlich in ausreichender Menge haben.
Ich verstehe dennoch ihren Punkt: Ich beispielsweise habe KI noch nie so benutzt, dass es mir in unbekannten Gebieten eine Theorie gibt, und die verfolge ich dann ungeprüft weiter. In meinem Bereich kann ich sehr schnell Wahrheit von Halluzination trennen und prüfen: Denn wenn die Konfigurationsdatei, die mir die KI jetzt im 5. Anlauf gegeben hat und mich beschworen hat: „Stefan: Ganz ehrlich - jetzt haben wir‘s!“ mit Floskeln garniert die anfangen mit „Warum das jetzt klapp“ und Bulletpointlisten gefolgt - dann sehe ich direkt das Ergebnis: Der Kleinstrechner bootet trotzdem nicht. Bullshit also.
Lassen Sie mich Ihre These des notwendigen Wissens einfach umbiegen in: „Erfahrung und Instinkt haben“. Was halten Sie davon? Ich bekomme auch in einer unbekannten Branche sehr schnell mit, woran es im Projekt mangelt. Wo sich Silos bilden, Menschen nicht miteinander reden oder einfach blind Schriftwerk folgen. Dafür muss man Pferde kotzen gesehen haben - diese Erfahrung halt. Da gehe ich mit. Aber nicht unbedingt jahrelang studiertes Wissen ins Feld führen. Was denken Sie?
Und schon wieder habe ich längere Zeit mit der Arbeit AN EINEM Artikel verbracht.
Zu sehr faszinieren mich die Begriffe der Fachkompetenzschwelle und der Kompetenzfalle, weil sie sich stark mit meinen eigenen Gedanken decken. Ich beziehe sie allerdings weniger auf Lehre und Curriculum als auf Organisations- und Qualitätsfragen. In meinen Seminaren formuliere ich diese Perspektive oft in provokativen Thesen wie: „Bequemlichkeit ersetzt Genauigkeit“, „Copy-Paste-Kultur“ und „Verlust fachlicher Expertise“.
Ergänzen würde ich allerdings, dass die Zone unterhalb dieser Schwelle auch Ausgangspunkt für Kompetenzerwerb sein. Wer um die eigene Unsicherheit weiß - ja, dieses Wissen ist natürlich zwingend notwendig-, kann KI nutzen, um Fragen zu schärfen, sich schrittweise an Zusammenhänge heranzuarbeiten und Verständnis überhaupt erst aufzubauen. Sofern die KI nicht das Denken ersetzt, sondern es stützt.
Hinzu kommt für mich noch ein weiterer Punkt: KI täuscht nicht zwingend Kompetenz vor, sie kann auch expressive Schwäche kompensieren — also helfen, inhaltlich bereits angelegte Gedanken klarer und strukturierter auszudrücken. Wobei genau darin vielleicht schon wieder die nächste Ambivalenz liegt: War ein Gedanke wirklich vorher schon da und nur sprachlich unscharf, oder wird er erst im Arbeiten mit KI wirklich fertig? Vielleicht ist selbst dieser Kommentar schon ein kleines Beispiel dafür, ohne KI würde ich ihn nicht formulieren können
🤯 im positiven Sinne! Das komische Gefühl, dass ich nicht in Worte fassen konnte, habe ich jetzt in deinem Beitrag erkannt. Danke dafür
Ich frage mich folgendes, wir geben uns doch bei fremden Menschen die uns etwas neues erzählen doch auch eine gewisse Skepsis mit und validieren das was wir aufnehmen und über die Zeit merken wir dann, ok das passt so. Warum wirft man dieses über den Haufen nur weil es jetzt Software ist die uns etwas zu neuen Themen uns Input liefert? Wir nehmen doch unsere Denkmurmel nicht aus der Denkschale nur weil es kein Mensch ist - und falls ja, ist das dann ein Fehler der Maschine oder nicht einfach falsche Annahmen des Nutzers?
Vielen Dank für den tiefgründigen und weitsichtigen Artikel!
Die Karte ist nicht das Terrain kannte ich vorher nur aus der systemischen Denke. Lernen und alle Unbequemzonen hatten noch nie eine gute Lobby, so wie die Abkürzungs-Lobby (SaaS, Pharma, Schönheitschirurgie, Konsumgüter, ...)
Wir sind gerade dabei, KI in die Breite unserer Hochschule zu bekommen und wollen das auf Basis eines Kompetenzmodells versuchen, wie andere das erfolgreich vorgelebt haben. Ihre Gedanken rund um die Schwelle sind für mich da sehr aufschlussreich. Danke!
Interessant. Aber vielleicht sollte man das ganze Bildungssystem in frage stellen . Und wer definiert kritisches Denken.
Ich glaube auch daran, dass ich nicht wirklich kritisch Denken könnte, wenn ich das Allgemeinwissen aus der ach so verhassten Schule nicht weitergefüttert hätte. So habe ich immer ein paar Muster, die mich zumindest nicht im Dunkeln zurück lassen
Treffender kann man es nicht formulieren, wie es Guillermo del Toro getan hat:
„Meine Sorge gilt nicht der Künstlichen Intelligenz, sondern der natürlichen Dummheit.“
Vielen Dank für den Artikel. Die Problematik und das Dilemma sind total auf den Punkt gebracht. Wir gehen davon aus, dass bestimmte Begriffe klar und deutlich sind und keine erneute Schärfung oder Definition benötigen. Das denke ich häufig, wenn es um das Verständnis des Begriffs Demokratie geht. So ist das auch mit dem Wissen. Was ist Wissen und was können wir wissen? Welche Rolle spielt Wissen und was ist der Unterschied zwischen Informiertheit und Wissen? Wir müssen Wissen neu denken. Paradigmenwechsel haben in der Wissenschaft immer dann stattgefunden, wenn Anomalien nicht mehr angepasst werden konnten. KI ist so etwas, das in unser gewohntes Paradigma nicht reinpasst und Probleme verursacht. Wir können KI aber als eine schlechte Hypothese nicht verwerfen. KI ist Tatsache, die da ist. Wir können aber selbstverständliche Dinge, die wir sicher zu wissen und zu verstehen meinen, neu denken und diese für die neuen Rahmenbedingungen neu erfinden sowie an sie anpassen. Das Wissen bekommt an dieser Stelle ganz andere Dimension und Bedeutung.