Diskussion über diese Post

Avatar von User
Avatar von Melanie

Vielen Dank für die wieder einmal tollen Denkanstöße! Ihr Newsletter ist für mich persönlich einer der relevantesten für mich im E-Learning Support einer Universität. Ich habe an diversen Stellen meiner KI-Weiterbildungen so ein diffuses Unbehagen, ob das tatsächlich die jetzt wichtigen, nützlichen Tipps sind. Und hier ist mit dem "kritischen Denken" so ein Punkt. Ich werde das in Zukunft mit thematisieren und finde das toll, danke. Denkanstöße sind so wertvoll, selbst wenn man dazu keine fertigen, erprobten Antworten parat hat.

Ich muss auch sehr viel darüber nachdenken, was wir hier für eine schwierige Situation haben. Das Design der KI-Systeme unterstützt nicht deren "gute" Verwendung; im Gegenteil. Die Systeme spucken perfekt klingende Antworten aus und loben uns für die klugen Fragen, auch wenn die Antworten halluziniert und die Fragen nicht gut gestellt waren. Ich bin zunehmend genervt davon, wie viel Aufwand man über Support, Aufklärung, "KI-Literacy" Bildung etc. hat, damit die Systeme nicht so verwendet werden, wie sie es einem suggerieren. Ich fühle mich wie jemand, der verzweifelt versucht den Menschen zu erklären, warum sie den Türöffner-Knopf 2m neben der Tür nehmen müssen und nicht die Klinke betätigen dürfen, die aber der naheliegende Weg ist. Ich mache immer größere Pfeile zum Türöffner-Knopf, schicke Rundmails über empfindliche Türöffner-Mechaniken, entwickle Lernspiele für Knopf-statt-Klinke. Und doch laufen die Menschen natürlich (!) zur Tür, drücken die Klinke und gehen durch. Das ist halt eine Tür. Mit einer Klinke. Die echten Lösungen dafür wären bautechnisch.

Und so sind die KI-Systeme auch: Gestaltet zur falschen Nutzung. Die haben ein Eingabefeld für eine Nachricht. Sie antworten auf fast alles, sehr von sich selbst überzeugt. Die korrekte Verwendung, die tatsächlich hilfreich wäre, passiert nicht by design. Und eigentlich kann man es den Menschen nicht übel nehmen, dass sie die Systeme falsch bzw. nicht optimal benutzen.

Avatar von Channel 0/1

Ich muss dagegenhalten: Teil kritischen Denkens ist das Wissen um Biases und Selbsterkenntnis. Wer weiß, wie sein Wissensstand in einem Wissenbereich einzuordnen ist, sich also wenigstens über bekannte Unbekannte in seinem Wissen im Klaren ist, der kann auch mit seinem Unwissen umgehen. Soweit mein agnotologischer Einwurf.

30 weitere Kommentare …

Sind Sie bereit für mehr?