Wer heute einen Führerschein macht, lernt ein Auto zu bedienen, nicht wie es funktioniert. Wer heute KI-Tools benutzt lernt beides nicht mehr. Dabei sind die Risiken größer, sowohl für  den Einzelnen als auch für die Gesellschaft. Höchste Zeit für Nachdenklichkeit und Fragen.

KI - Extension oder self amputation?

Die Frage ob und wie viel Intelligenz in der KI steckt würde hier den Rahmen sprengen, nur soviel: die aktuellen Systeme werden als “schwache KI” bezeichnet weil sie für die Lösung spezifischer Aufgaben spezialisiert sind. Eine dem Menschen vergleichbare universelle Intelligenz (AGI) existiert noch nicht und es ist unklar ob und wann es dazu kommt. Sicher ist auch dass die gegenwärtigen Systeme nicht über Bewusstsein verfügen, namhafte Wissenschaftler wie Roger Penrose halten das generell für unmöglich.

Näherliegend erscheint die Frage wie wir mit der Technologie interagieren und wie uns das verändert. Marshall McLuhan stellte schon vor 50 Jahren fest, “we shape our tools and then our tools shape us”. Tools sind zugleich “extensions” und “self amputation”. Also betrachten wir diese beiden Optionen im Zusammenhang mit den verschiedenen Methoden unserer KI-Nutzung.
 
Der Assistent - Chatbots
Assistenten nehmen uns Arbeit ab die wir ihnen übertragen. Es empfiehlt sich den Assistenten gründlich auszuwählen und die Ergebnisse stets kritisch zu überprüfen. Damit können wir produktiver werden, unsere spezifischen Fähigkeiten weiterentwickeln und die Kontrolle behalten.

Der Agent - generative AI
Agents übernehmen Aufgaben vollständig, z.B. Erstellung von Texten, Bildern, Musik, Software-Code, etc.. Je mehr wir davon delegieren, umso mehr büßen wir unsere diesbezüglichen Fähigkeiten ein (self amputation). Die Ergebnisse sind komplexer, ihre Generierung eine “black box”, wir verlieren zunehmend die Kontrolle. Da die KI schneller und preiswerter ist, führt das zur Substituierung von (zunächst low-level) Jobs.

Der Spiegel - Sprachmodelle
LLM’s sind Sprachmodelle, wir interagieren verbal mit ihnen, durch sog. Prompting. Dumme Fragen führen zu dummen Antworten. Unpräzise Sprachanwendung ebenfalls, die Dialoge werden länger und teurer. Wir können also unsere rhetorischen Defizite erkennen und unser Sprachbewusstsein verbessern, was auch für das Denken förderlich ist, und nicht nur im Umgang mit KI nutzt.

Der Sparringspartner 
Immer häufiger lesen wir von intensiven Diskursen die Anwender mit Chatbots führen. Dabei versuchen sie mit gezielter Fragetechnik der KI mehr substantielle Informationen zu entlocken. Anfänglich geäußerte Narrative werden mit validen Fakten und stringenter Logik entkräftet, was wiederholt zu “Geständnissen” der KI geführt hat. Selbst im Mainstream geächtete Ansichten wurden durch die KI bestätigt, weil unlogische Argumente oder Gesprächsabbruch (wie bei Menschen üblich) offenbar keine Option für den Chatbot waren. Klar ist dass auch die KI-Modelle daraus lernen, es wird spannend sein die weitere Entwicklung diesbezüglich zu beobachten.
https://apolut.net/apolut-fragt-ki-antwortet-von-asch-bis-alexa-die-nahtlose-kette-der-konditionierung/ 
 
In diese Richtung, nur noch deutlich weiter, zielen die Ausführungen aus dem lesenswerten Artikel von Knut Opitz “Der Mensch, die KI und das Ende der strukturellen Isolation”. Es wird die These einer symbiotischen Beziehung vertreten, in der Menschen sachlich-rational mit KI kommunizieren können, ohne die emotionalen Verletzungen befürchten zu müssen, die zwischenmenschliche Kommunikation so oft beeinflusst.
https://knutopitz.substack.com/p/der-mensch-die-ki-und-das-ende-der 

PS: das erinnert an den Film “Her”, wo der Protagonist sich in seine digitale Assistentin Samantha verliebt
https://youtu.be/plhzM2vYK58?si=7Tg37zyMJ7V_cnsp 

Günther Anders warnte bereits 1956 in seinem Buch “Die Antiquiertheit des Menschen” vor anderen Tendenzen bezüglich unseres Umgangs mit technischen Innovationen. “Es genügt nicht, die Welt zu verändern. Das tun wir ohnehin. Und weitgehend geschieht das sogar ohne unser Zutun. Wir haben diese Veränderung auch zu interpretieren. Und zwar, um diese zu verändern. Damit sich die Welt nicht weiter ohne uns verändere. Und nicht schließlich in eine Welt ohne uns.”

Die Internet-Revolution hat die Welt nachhaltig verändert, speziell im letzten Jahrzehnt getrieben von Großkonzernen und staatlichen Akteuren, unter weitgehender Missachtung der Anwender-Bedürfnisse. Das Beispiel sollte ein Warnsignal sein, denn eine KI-Revolution nach den Vorstellungen der 1% würde die 99% obsolet machen (Agenda 2030).