Meine Heilpraktikerin möchte jetzt doch ein Smartphone – zu viele WhatsApp-Gruppen, deren Inhalt sie verpasst. Wir tauschen: ich erkläre ihr das „Telefon“, ich kriege eine Behandlung. So mag ich das. Im Vorfeld mache ich mir ganz viele Gedanken. Ich weiß nicht, wo ich anfangen soll. Ich erinnere mich, dass ich bei meinem ersten Smartphone Anrufe nicht annehmen konnte, ich musste die Leute immer zurückrufen. Sie ist super vorbereitet, mit einem Block und einem Stift und macht sich seitenweise Notizen. Nach fast zwei Stunden bin ich nicht ganz sicher, ob sie weiß, wo es an- und ausgeht – aber sie wird sich da schon reinfinden. Beim nächsten Mal bittet sie mich tatsächlich, ihr zu erklären, wo man das Smartphone ausschaltet, denn sie hat gelesen, dass man abgehört wird. In ihrer Vorstellung sitzen da echte Menschen und hören zu und warten, dass sie irgendwelche Buzzwords sagt. Ich kriege einen Rede-Anfall, höre mich von Algorithmen und der Messung von Daumenbewegungen erzählen, von individualisierter Werbung und der Verstetigung von Vorurteilen durch KI. Sie ist komplett verwirrt. Ich beruhige mich wieder, werde langsamer und versuche, von vorne anzufangen. Aber wo ist vorne? Ich frage sie, wie es an der Schule ist, die sie betreut? Werden da Kinder gut für den Umgang mit digitalen Medien ausgestattet? Sie weiß es nicht. Ich erinnere mich kurz an meine Tochter, die durchaus genervt war davon, dass wir so viel gemeinsam reflektiert haben, was da passiert – im Außen mit ihren Daten, vor allem aber im Innen mit ihrer Stimmung, ihrer Sucht. Heute ist sie dankbar, damals war sie wütend. Ihre Freund*innen durften alle ganz oder gar nicht. Niemand durfte, aber nur reflektiert. Ich erinnere mich an meine Gespräche mit anderen Eltern, die genervt waren von ihren Teenies, die nur am Handy hängen, und keine Antwort wussten, wenn ich gefragt habe, was sie denn da machen.

Ich sitze dazwischen: Ich bewege mich viel in Kreisen, die sehr naturnah und spirituell sind und Digitalität verteufeln. Sie mögen mich, finden mich aber mit meiner Liebe für Technologie doch sehr schräg. Ich bewege mich auch viel in Tech-Startups, die alles lieben, was neu und technologisch ist. Sie mögen mich, aber sie finden meine ethischen Bedenken, Fragen nach ihrem Suchtverhalten und pragmatischen Fragen („ist das nicht mit einem Stift einfacher?“ z.B.) doch sehr schräg.

Ich glaube an eine Technologie, die dem Menschen dient. Ein Chatbot, an dem ich nicht vorbeikomme, um mit einer* Kundendienstmitarbeiter*in zu sprechen, dient mir nicht. Der* Mitarbeiter*in auch nicht, schließlich bin ich total genervt, wenn ich sie dann endlich dran habe und in den meisten Fällen kann sie die vorgegebenen Prozesse nicht überschreiben. Die Programmierung entscheidet, nicht sie*. Vielleicht dient es der Unternehmensbilanz, aber die ist nicht lebendig. Damit ist meine Faszination sofort vorbei, es ermüdet mich.

Mit ChatGPT gemeinsam Texte für ARLINA zu entwickeln, macht mir Freude. Langsam finde ich raus, was „Chattie“ kann und was nicht. Lehre nicht so toll. Marketing besser als ich. Ich habe total Freude daran, mein ganzes Repertoire an Fragetechniken aus meiner Mediationserfahrung auf eine KI loszulassen, zu gucken, ob und wie ich Einfluss nehmen kann auf Tonalität und Tiefe. Mir ist bewusst, dass ich nicht mit einem Menschen spreche, sondern mit einer Informationssammlung der Menschheit. Cool, mit dem kollektiven Feld 2021 kommunizieren zu können. Oftmals auch sehr ernüchternd.

Ich könnte keine KI programmieren, nichts aufsetzen, was halbwegs Sinn ergibt. Aber ich weiß genug über maschinelles Lernen, um zu wissen, wo es mir überall begegnet, um zu verstehen, an welchen Stellen es Inhalte und an welchen nur noch Zahlen gibt, die von Menschen nicht mehr interpretierbar sind. Ich weiß, warum die Datensätze so wichtig sind und wie sich alte Muster dadurch verfestigen. Ich weiß genug, dass mein kreatives Hirn regelmäßig Ideen für neue Anwendungen produziert, spätestens, wenn ich von einer Tätigkeit genervt bin oder nicht weiterkomme. Als Bildungstante habe ich mich besonders mit Deep Learning befasst, da ich den Begriff im Bildungskontext ja auch nutze und den Verdacht hatte, dass sich da etwas Geniales kombinieren lässt.

Und ja, ich habe Angst. Ich habe mehr Angst vor der unbewussten Verwendung von Technologie als vor CO2 Problemen. Bei CO2 kennen wir die Lösungen. Die Technologien werden uns aber keinen Zugriff mehr erlauben, wenn wir heute nicht drauf achten. Ich habe keine Angst vor den Technologien, sondern vor dem mangelndem Bewusstsein, mit denen sie entwickelt und eingesetzt werden. „Wir machen jetzt unser Trainermanagement mit KI“, hat mir kürzlich eine Bildungsorganisation stolz erzählt. Auf meine Nachfragen, was denn genau die KI macht, hatten sie allerdings keine Antworten. Das heißt, dass jetzt eine Maschine entscheidet, wer wen in was wann unterrichtet und niemand interessiert sich für die Kriterien? Der Moment wird gar nicht genutzt, um Bildungstheorien zu digitalisieren und einen deutlichen Qualitätssprung für alle zu ermöglichen? Das ist nur ein kleines Beispiel, das nicht sonderlich gefährlich ist, aber: die Daten sind die Entscheidungen, die die Organisation bisher getroffen hat. Sie sind sehr unzufrieden mit ihrer Handhabung, weshalb sie digitalisieren. Und jetzt nehmen sie ihre unzufriedenstellenden Ergebnisse als Basis, eine KI zu trainieren? Alles, was sie bisher falsch gemacht haben, wird sich jetzt verhundertfachen. Yippie Fortschritt?

Was mir aber besonders Angst macht, ist, dass als Motivation hinter den meisten Entwicklungen nicht das Wohl von allem Lebendigen steht, sondern in der Regel Gewinnmaximimierung – und die hat keine so hohe Erfolgsquote zum Thema Verbesserung von Lebensbedingungen, egal welcher Spezies. Technologien machen das, was man ihnen sagt. Und da die meisten Menschen gerne wegsehen – entweder weil sie Technologie verteufeln oder verherrlichen, so oder so, kein Grund genauer hinzusehen – haben wir keine intelligente Schwarmintelligenz, die genauer hinsieht, wenn wir uns verrennen.

Es ist nicht so schwer, die Grundlagen von technologischen Entwicklungen zu verstehen und einen bewussten Umgang damit herzustellen. Doch irgendwie klingt es ganz schrecklich schwer und anstrengend, die meisten Menschen sind der Überzeugung, dass sie ein neuronales Netzwerk gar nicht verstehen könnten. Es gibt aber sehr viele Menschen, die es uns einfach erklären, wie z.B. hier:

Stattdessen übergeben wir gesamtgesellschaftlich, ohne es zu verstehen, immer mehr Entscheidungen an Technologien. Wenn wir beispielsweise den Algorithmus nicht kennen, dann denken wir, dass sich die Welt wirklich so einseitig entwickelt wie unser Feed. Es ist schon schwer genug, das nicht zu denken, wenn wir wissen, dass wir mit immer einseitigeren Informationen gefüttert werden (es heißt ja sogar Feed, um uns ans Gefüttertwerden zu erinnern). Ohne dieses Bewusstsein sind wir dem jedoch machtlos ausgesetzt – und das ist nur ein kleines Beispiel.

Ich befürchte, dass während das Bewusstsein der Menschen steigt, verfestigen die alten Daten, aus denen Technologien lernen, die Vergangenheit und beginnen, gegen unsere Bewusstseinsentwicklung zu arbeiten. Statt Technologien für eine gute Zukunft zu nutzen, wofür sie unendliches Potential haben, verstärken wir alte Probleme und polarisieren uns bis zum Bürger*innenkrieg. Und während die Debatten pro oder contra Technologie die Menschen bewegen, wünsche ich mir einfach nur mehr Menschen, die sich die Mühe machen, zu verstehen, was sie gerade nutzen und zu beobachten, was es mit ihnen und der Welt macht.