Was uns als Menschen ausweist, ist unser Körper. Über ihn erfahren wir die Wirklichkeit. KI hat keinen Körper und keinen geistigen Überorganismus, der – wie bei Lebewesen – deren Lebensräume verändern kann. Eine vergleichende Analyse aus naturwissenschaftlicher Sicht.
Es ist kein Trend der letzten Jahrzehnte, sondern der vergangenen Jahrhunderte, der uns Menschen zunehmend in einer Welt der Information leben lässt. Mit der Schrift ist eine Kulturtechnik entstanden, die es Menschen erlaubte, eine Welt, den ‹Korpus des Wissens›, zu schaffen. Schon lange ist dieser Korpus so groß, dass es in einer Lebensspanne vollkommen unmöglich ist, mehr als einen verschwindend kleinen Teil dieser gewaltigen Welt des Wissens und der Information zur Kenntnis zu nehmen. Dies berücksichtigend stellt sich die Frage, auf welcher Grundlage wir uns für urteilsfähig halten. Aber nehmen wir an, wir könnten beispielsweise zu der Frage, wie ein Stein fällt, alle jemals verfassten Texte lesen, die Texte von Aristoteles, Abhandlungen der Scholastiker, der neuzeitlichen Vertreter der mechanischen Philosophie bis zu Galileo, Abhandlungen Newtons, die Mehrweltenquantentheorien und schließlich die Stringtheoretiker – würde uns dieses Wissen in Bezug auf die Frage urteilsfähig machen? Ich denke nicht. Letztlich ist es unsere Leiblichkeit und der durch sie mögliche Wirklichkeitsabgleich, in diesem Falle in Form des Experiments, der es uns erst ermöglicht, den Sinnzusammenhang all dieser Abhandlungen zu erschließen. Entkörperte Wesen können – ungeachtet ihrer Intelligenz – die Frage nicht fassen. Wann immer eine Frage unsere Welt betrifft, sei sie wissenschaftlich, kulturell oder politisch, so wird sie letztlich nicht im logischen Raum, sondern im Wirklichkeitsabgleich beantwortbar. Daher gründen die Naturwissenschaften nicht auf Wissen, sondern auf Erfahrung, die uns urteilsfähig macht.
Emanzipationsphänomene der Information
Doch ein Wirklichkeitsabgleich ist in der Flut der Informationen immer schwerer möglich. Die Globalisierung der Medienlandschaft – insbesondere durch digitale Medien – führt zunehmend dazu, dass die Lesenden einer Nachricht sich eingestehen müssen, nicht urteilsfähig zu sein, da ein Wirklichkeitsabgleich schon räumlich und zeitlich ausgeschlossen ist. Informationen sind heutzutage oft kaum nachprüfbar, sie ‹emanzipieren› sich aus den persönlichen Lebensbezügen. Als Physiker kenne ich das Phänomen, dass in riesigen Datenmengen sich nahezu jede Aussage finden und durch weitere Kontexte logisch stützen lässt, ohne dass klar ist, was sie mit der Wirklichkeit zu tun hat. Dem Aufpoppen von Faktenchecks, Begriffen wie ‹Fake News›, ‹alternative Fakten› liegt das implizite Eingeständnis zugrunde, dass ein Wirklichkeitsabgleich immer schwieriger wird. Diesen Trend setzt KI lediglich fort.
Sprachmodelle wie Chatgpt gehören zu den bemerkenswertesten, technischen Entwicklungen der letzten Jahre; sowohl die sprachliche als auch die inhaltliche Qualität der generierten Texte sind oft bewundernswert. Da ihnen allein der ‹Korpus des Wissens› zugrunde liegt, sie jedoch keinerlei direkten Wirklichkeitsbezug aufbauen können, kann man aber gerade an ihnen eindrücklich studieren, wie sich eine innere logische Struktur eines Textes vollständig emanzipiert davon, ob das Beschriebene einen Wirklichkeitsbezug aufweist oder kontrafaktisch ist, also realen Begebenheiten, wie historischen Ereignissen etc. widerspricht. Durch präzisere Trainingsmethoden gelang es den Entwicklern in den letzten Jahren, kontrafaktische Aussagen, die gerne auch als ‹Halluzinationen› bezeichnet werden, zu reduzieren.1 Jedoch frage ich mich, ob ihre Anwesenheit weniger als Problem der Programmierung der Sprachmodelle einzuordnen ist, als vielmehr als Charakteristikum eines gigantischen ‹Korpus des Wissens›, der sich in seinen Inhalten von der Wirklichkeit zunehmend zu emanzipieren beginnt. – Was uns im Augenblick überwiegend als vielleicht amüsante Fehlfunktion einer KI erscheint, droht dies nicht in Zukunft die neue Normalität einer mehr und mehr außerhalb der leiblichen Wahrnehmung lebenden Gesellschaft zu werden? Spiegelt uns die künstliche Intelligenz nicht Phänomene, die wir an uns selbst bereits studieren könnten? Aus dieser Perspektive erscheint die Sorge, dass KI-Systeme in Zukunft dem Menschen immer ähnlicher werden könnten, schon deshalb eher unbegründet, weil die Menschen der KI immer ähnlicher werden. Waldorfpädagogik und Goetheanismus in ihrer Zuwendung zur regelmäßigen und bewussten, sinnlichen und leiblichen Erfahrung erscheinen zunehmend als unverzichtbare, existenzielle Forderungen der Gegenwart.
Lernen ohne Erfahrung
Menschen lernen durch Erfahrung, die einen bisweilen auch schmerzvollen Wirklichkeitsbezug herstellt. Da dieser einer entkörperten Entität, die lediglich im digitalen Raum agiert, unmöglich ist, fragt sich, was unter ‹Lernen› und anderen Begriffen im Umfeld der KI zu verstehen ist:2 Neuronale Netzwerke, auf denen das Training der Sprachmodelle beruht, sind Strukturen mit einem sehr großen Parametersatz, der den Rechnungsoperationen zugrunde liegt. Die Parameter erlauben eine Adaption. Je größer der Satz der Parameter, desto größer sind dessen Adaptionsmöglichkeiten. Doch gibt es in der Regel keine Kriterien dafür, welche Bedeutung ein bestimmter Parameter hat oder wie er gesetzt werden könnte – wie wird dann eine Adaption möglich? Dies kann durch Optimierungsverfahren (Training) geschehen, in denen nach dem Prinzip ‹try and error› versucht wird, ob das Modell mit einem zufallsvariierten Parametersatz eine bessere Adaption an den Datensatz erzielt, der dem Training zugrunde liegt. Je nach Adaptionsgrad werden die Parameter fixiert oder erneut variiert. Es ist ein Vorgehen, das einem evolutionären Prinzip von Selektion und Auslese folgt, wie es verschiedentlich für die Evolutionstheorie Darwins, oft wie auch hier vereinfacht, dargestellt wurde. Adaptives Lernen im neuronalen Netzwerk beruht auf diesem evolutionären Prinzip – welche Entwicklungsräume der KI sind damit denkbar?
Als Physiker lerne ich hier gerne von meinen Kolleginnen und Kollegen aus dem Bereich der Biologie und Lebenswissenschaften: Mit Selektion und Auslese lässt sich wunderbar verstehen, wie sich eine Art in einer Nische optimiert, sich an einen Lebensraum anpasst oder sich an veränderte Umweltbedingungen adaptiert. Jedoch wie es zur Bildung einer neuen Art kommt, lässt sich kaum verstehen, weil es dazu Hunderte von konzertierten Änderungen im Organismus braucht, die mit gravierenden Nachteilen im bisherigen Lebensraum einhergehen, bevor aus diesen im neuen Lebensraum nennenswerte Vorteile folgen. Natürliche Selektion erklärt das Überleben angepasster Lebensformen, für das bereits Darwin in Anlehnung an Spencer die Formel ‹survival of the fittest› verwendete. Aber das Entstehen dieser Lebensformen, vermutlich erstmals von dem niederländischen Botaniker Jacob Gould Schurman als ‹arrival of the fittest› bezeichnet,3 bleibt nach der Theorie der Adaption durch Selektion und Auslese unverstanden. Denn dem Konzept der natürlichen Selektion liegt zugrunde, dass die evolutionären Veränderungen nicht durch ein Lernen der Lebewesen in Auseinandersetzung mit ihrer Umwelt entstehen, die im Übergang auf die nächste Generation immer wieder verloren gehen. Für den evolutionären Mechanismus kommt es zum Wirklichkeitsbezug in erster Linie in der Selektion. Lernprozesse spielen gerade keine Rolle. Die Vererbung der durch Lernprozesse erworbenen Fähigkeiten und Eigenschaften einzelner Exemplare der Art wurde kategorisch ausgeschlossen.4 Als geistige Entität aufgefasst, ‹lernt› aber eine Art durch Variation und Selektion ihrer Exemplare. Neuronale Netzwerke bilden in ihren Strukturen und Optimierungsstrategien diese Form des Lernens nach. Die strukturelle Ähnlichkeit neuronaler Netzwerke mit der Evolutionstheorie Darwins spricht dafür, dass die Entwicklungsräume der auf neuronalen Netzwerken beruhenden KI-Modelle sich auf Optimierungen in Nischen beschränken. Aus dieser Sicht ist nicht einzusehen, wie etwas Neues, eine neue kreative Schöpfung, ein neuer Kunststil etwa, in die Welt kommen kann. In dem beständigen Selbstbezug, der beständigen Selbstreferenz, die durch KI innerhalb des ‹Korpus des Wissens› milliardenfach repetiert wird, lässt sich Zukunft nur als ein beständiges Fortrollen der Vergangenheit denken.
Die Bedeutung des Individuums für die Evolution
Die Evolution auf der Erde betrachten wir, analog zu den Adaptionsstrategien der neuronalen Netzwerke, als eine Angelegenheit der Entwicklung der Arten. Als geistige Entität ist jede Art eine Sorte von Überorganismus, dem wir relevante Veränderungen der Lebensräume auf der Erde zutrauen. Als einzelnes Lebewesen fühlen wir uns immer unbedeutend. Doch gibt es Hinweise darauf, dass auch in der biologischen Evolution sprunghafte Entwicklungen gerade aus individuellen Lernprozessen einzelner Individuen hervorgehen. So haben die Beobachtung der Plastizität, das heißt der Anpassungs- und Lernfähigkeit einzelner Exemplare, und die Vererbung der durch diese erworbenen Eigenschaften eine Verständnislücke im Entstehen der Landwirbeltiere aus den Lungenfischen schließen können.5 Es könnte eine zunächst kleine Population gewesen sein, die den gewaltigen Evolutionsschritt an Land geschafft hat. Ganz ähnliche Beispiele könnte man natürlich auch aus der Kulturgeschichte erzählen. Solche Phänomene sind in heutigen KI-Systemen undenkbar. Nicht nur durch den fehlenden Wirklichkeitsabgleich der Modelle und das Prinzip der Modellentwicklung durch selektive Adaption, sondern insbesondere dadurch, dass im Modell anstelle lebendiger Einzelorganismen bzw. Gattungsexemplare lediglich Einzelparameter stehen, die den Entwicklungsraum nicht öffnen können, der in der Natur- und Kulturentwicklung durch das Einzelwesen eröffnet wird.
Titelbild Glasfaser-Anschüsse in einem Serverraum. Foto: Albert Stoynov/Unsplash
Fußnoten
- ChatGPT/
- Verschiedentlich wurde darauf aufmerksam gemacht, dass in Begriffen wie ‹lernen› oder auch ‹Halluzination› etc. Anthropomorphismen bemüht und teilweise durch Sprachassistenten wie Alexa eingeübt werden, die den rein statistischen Charakter dieser Phänomene verschleiern und zur Personifizierung von Sprachmodellen führen können. Siehe z. B. Matthias Rang, Das verliehene Du. Elemente unseres Verhältnisses zur Technik. Stil 45. Jg., Heft 3, 2023, S. 7–15.
- Glenn Branch, Whence «arrival of the fittest»? National Center for Science Education 2015.
- Vgl. z. B. Johannes Wirz, Ruth Richter, Epigenetik und epigenetische Vererbung. Erschienen in: Reinhard Wallmann, Ylva-Maria Zimmermann, Biologie in der Waldorfschule. Praxishandbuch für die Oberstufe. Stuttgart 2019.
- Emily M. Standen, Trina Y. Du, Hans C. E. Larsson, Developmental plasticity and the origin of tetrapods. Nature 513(7516), 2014, S. 54–58. Johannes Wirz, Ruth Richter, Als die Fische gehen lernten. Elemente der Naturwissenschaft 103, S. 116–119.
