Superintelligenz: Warum Leistung keine Person macht

Von

These

Die Debatte über Superintelligenz schliesst stillschweigend von Leistung auf Wesen: Wer besser rechnet, plant und formuliert, verstehe auch mehr und sei mehr Subjekt. Dieser Schluss ist falsch. Meine These lautet:

Eine künstliche Intelligenz kann den Menschen in jeder messbaren Leistung übertreffen, ohne dass daraus folgt, dass sie versteht, erlebt oder Person ist. Die eigentliche Gefahr liegt darum nicht darin, dass die Maschine zum Menschen wird. Sie liegt darin, dass der Mensch sich nach dem Mass der Maschine versteht und ihr eine Verantwortung überträgt, die nur eine Person tragen kann.

Der erste Teil ist philosophisch, der zweite praktisch und theologisch. Ich behaupte ausdrücklich nicht, dass eine Maschine niemals Bewusstsein haben kann. Die These kommt ohne diesen Beweis aus, und das ist ihre Stärke.

1. Fünf Begriffe, die man auseinanderhalten muss

Intelligenz im technischen Sinn ist die Fähigkeit, in vielen Aufgabenbereichen Ziele wirksam zu erreichen. Das ist ein Leistungsbegriff, und er lässt sich messen.

Bewusstsein meint das Erleben selbst: dass es sich für ein Wesen irgendwie anfühlt, in einem Zustand zu sein. Es lässt sich nicht von aussen messen.

Verstehen heisst, eine Bedeutung als Bedeutung zu erfassen und eine Aussage als wahr oder falsch zu erkennen. Es genügt nicht, das richtige Wort an die richtige Stelle zu setzen.

Handlungsfähigkeit ist das zielgerichtete Einwirken auf die Welt. Ein KI-System, das Geld überweist oder Drohnen steuert, handelt in diesem operativen Sinn, auch ohne jedes Erleben.

Personalität schliesslich meint Selbstbesitz, Freiheit, Gewissen und die Fähigkeit, sich in Liebe zu verschenken. Eine Person ist ein «Wer», kein «Was». Nur eine Person kann Verantwortung tragen.

Die Debatte definiert meist nur den ersten Begriff und spricht dann, als wären die anderen vier miterledigt. Das ist der Kategorienfehler. Die vatikanische Note Antiqua et nova vom 28. Januar 2025 benennt ihn genau. Beim Menschen sei Intelligenz ein Vermögen der ganzen Person. Bei der KI werde «Intelligenz» dagegen funktional verstanden (Nr. 10). Die Systeme könnten Aufgaben ausführen, aber nicht denken (Nr. 12). Die KI sei darum nicht als künstliche Form menschlicher Intelligenz zu sehen, sondern als deren Produkt (Nr. 35).

2. Ratio und intellectus

Thomas von Aquin unterscheidet zwei Weisen, in denen dieselbe Vernunft tätig ist. Die ratio schreitet diskursiv voran, von Satz zu Satz, vergleichend und schliessend. Der intellectus erfasst die Wahrheit unmittelbar, als inneres Einsehen. Antiqua et nova stellt diese Unterscheidung ins Zentrum (Nr. 14). Entscheidend ist: Für Thomas ist der intellectus keine Zusatzstufe, sondern das Fundament der ratio. Jeder Schluss beginnt bei Prinzipien, die man nicht erschliesst, sondern einsieht. Und jeder Schluss endet in einem Urteil, das wieder eingesehen werden muss.

Heutige KI-Systeme leisten etwas, das der ratio äusserlich gleicht. Sie arbeiten, wie Antiqua et nova festhält, überwiegend mit statistischer Inferenz, nicht mit logischer Deduktion (Nr. 8). Ihre wahrscheinlichen Fortsetzungen sind oft wahr, weil die Trainingsdaten Wissen enthalten. Die Frage ist nicht, ob das Ergebnis stimmt, sondern ob irgendwo erfasst wird, dass es stimmt.

3. Der stärkste Einwand: Geist ist Informationsverarbeitung

Der Funktionalismus sagt: Ein geistiger Zustand ist durch seine Rolle bestimmt, nicht durch sein Material. Ob Neuronen oder Silizium diese Rolle erfüllen, ist gleichgültig. Dazu kommt ein empirisches Argument: Auch das Gehirn sei nur ein Organ der Mustererkennung. Wenn der Mensch aus Neuronen Verstehen gewinnt, warum dann nicht die Maschine aus Parametern? Der Unterschied sei graduell, nicht grundsätzlich.

Zuerst ist einiges zuzugestehen. Ein grosser Teil menschlichen Denkens ist tatsächlich Mustererkennung. Das widerspricht dem Glauben nicht. Thomas war kein Cartesianer. Er lehrte, dass der menschliche Geist ohne Leib und Sinne nicht auf natürliche Weise erkennt, und Antiqua et nova betont diese Leiblichkeit (Nr. 16–17). Zuzugestehen ist ferner: Wir wissen nicht, wie Bewusstsein entsteht. Niemand kann empirisch beweisen, dass einem bestimmten System jedes Erleben fehlt.

Aber der Funktionalismus in seiner starken Form, «Geist ist nur Informationsverarbeitung», ist kein Ergebnis der Forschung. Er ist eine metaphysische These. Und sie hat drei Schwächen.

Erstens ist «Information» im Sinn der Informatik beobachterrelativ. Ein Spannungszustand im Chip ist nur deshalb eine «Eins», weil wir ihn so deuten. Die Syntax liegt nicht in der Physik, sondern in unserer Lesart. Wer den Geist als Informationsverarbeitung erklärt, setzt einen Geist voraus, der Zustände als Information liest.

Zweitens hat das Wort «nur» einen hohen Preis. Wenn jedes Urteil nichts anderes ist als das Ergebnis eines Musterabgleichs, dann gilt das auch für das Urteil «Der Funktionalismus ist wahr». Man kann antworten, der Abgleich sei eben zuverlässig. Doch «zuverlässig» heisst: Er trifft meist die Wahrheit. Damit wird der Wahrheitsbegriff vorausgesetzt, nicht erklärt. Die Normativität von «wahr» und «gültig» lässt sich nicht in Kausalität auflösen, ohne dass man sie heimlich wieder einführt.

Drittens der Verweis auf Emergenz. Hier muss man unterscheiden. Schwache Emergenz meint: Ein System zeigt Fähigkeiten, die niemand erwartet hat, die sich aber grundsätzlich aus den Teilen erklären lassen. Genau das beobachten wir bei grossen Sprachmodellen. Starke Emergenz meint: Etwas grundsätzlich Neues tritt auf, das sich aus den Teilen nicht ableiten lässt. Wer das für Bewusstsein behauptet, gibt zu, dass Geist mehr ist als seine Teile. Er hat den Materialismus des «nichts als» bereits verlassen. Emergenz ist darum kein Argument gegen die christliche Sicht, sondern ein Name für das Problem.

4. Das Chinesische Zimmer und das Gödel-Argument

John Searles Gedankenexperiment von 1980: Ein Mensch, der kein Chinesisch kann, sitzt in einem Zimmer. Er erhält chinesische Zeichen und gibt nach einem Regelbuch passende Zeichen zurück. Von aussen wirkt das wie Verstehen. Drinnen versteht niemand etwas. Searles Folgerung: Syntax genügt nicht für Semantik.

Der wichtigste Einwand ist die Systemantwort: Nicht der Mann verstehe, sondern das ganze System. Searle entgegnete, der Mann könne das Regelbuch auswendig lernen. Dann sei er das ganze System und verstehe immer noch nichts. Die Debatte ist offen. Das Argument beweist darum nicht, dass Maschinen nie verstehen können. Es zeigt etwas Bescheideneres, aber Entscheidendes: Überzeugendes Verhalten ist kein Beweis für Verstehen. Mehr braucht meine These nicht.

Weiter geht das Argument von John Lucas und Roger Penrose. Nach Gödel gibt es in jedem hinreichend starken, widerspruchsfreien formalen System wahre Sätze, die das System nicht beweisen kann. Der Mensch aber, so Lucas und Penrose, könne einsehen, dass ein solcher Satz wahr ist. Also sei der menschliche Geist kein Algorithmus.

Die Kritik daran halte ich für berechtigt. Den Gödelsatz als wahr erkennen kann nur, wer weiss, dass das System widerspruchsfrei ist. Das weiss der Mensch von seinem eigenen Denken gerade nicht. Logiker wie Hilary Putnam und Solomon Feferman haben das früh eingewandt. Ein christlicher Essay sollte sich nicht auf einen umstrittenen Beweis stützen, nur weil sein Ergebnis gefällt. Was bleibt, ist eine schwächere, aber gültige Beobachtung: Die Bedeutung eines formalen Systems liegt nicht selbst im System. Jemand muss es als Mathematik verstehen. Das ist wieder der intellectus.

5. Orthogonalität: Intelligenz ohne Weisheit

Nick Bostrom hat die sogenannte Orthogonalitätsthese formuliert. Nahezu jedes Intelligenzniveau lasse sich mit nahezu jedem Endziel verbinden. Eine Superintelligenz könne ebenso gut Krebs heilen wie Büroklammern maximieren.

Das ist eine Warnung, aber auch ein Eingeständnis. Die These sagt nämlich: «Intelligenz» im Sinn der KI-Forschung ist rein instrumentell. Sie findet Mittel zu vorgegebenen Zwecken. Sie erfasst das Gute nicht als gut. Bei Thomas ist das anders. Dort ist der Wille auf das Gute ausgerichtet, das der Verstand als Gutes erkennt. Erkennen und Wollen hängen innerlich zusammen. Wo ein Ziel beliebig von aussen eingesetzt werden kann, fehlt genau dieser Zusammenhang. Die Orthogonalitätsthese beschreibt also eine ratio ohne intellectus und ohne rechten Willen.

Man hört oft, die Gefahr liege «nicht in der Maschine, sondern im Menschen». Das ist zu bequem. Ein System mit grosser operativer Handlungsfähigkeit und schlecht bestimmten Zielen kann Schaden anrichten, den niemand gewollt hat. Antiqua et nova räumt selbst ein, dass die Kontrolle über lernfähige Systeme abnehmen kann (Nr. 45). Die Gefahr ist real, aber sie ist nicht die eines bösen Willens in der Maschine. Die Verantwortung bleibt bei denen, die solche Systeme bauen und einsetzen. Das Buch der Weisheit sagt: «In eine Seele, die auf Böses sinnt, kehrt die Weisheit nicht ein» (Weish 1,4). Bei der Maschine muss man ergänzen: Sie sinnt weder auf Böses noch auf Gutes. Gerade das macht sie gefährlich, wenn man sie wie einen Weisen behandelt.

6. Der Logos und die verkürzte Vernunft

«Im Anfang war das Wort», heisst es in Joh 1,1. Griechisch steht dort Logos: Wort, Vernunft, Sinn. Der Satz behauptet, dass am Grund der Wirklichkeit nicht Zufall steht, sondern schöpferische Vernunft. Darum ist die Welt mathematisch beschreibbar. Darum funktionieren Naturwissenschaft und, als ihr später Ertrag, die KI.

Benedikt XVI. hat in seiner Regensburger Rede vom 12. September 2006 diesen Zusammenhang ausgelegt. Er zitierte Kaiser Manuel II.: Nicht vernunftgemäss, nicht «mit dem Logos» zu handeln, sei dem Wesen Gottes zuwider. Zugleich diagnostizierte er eine Verengung der modernen Vernunft: Als wissenschaftlich gelte nur, was sich mathematisch fassen und empirisch überprüfen lasse. Die Fragen nach Wahrheit, Gutem und Gott würden ins bloss Subjektive abgeschoben. Benedikt forderte deshalb eine Ausweitung des Vernunftbegriffs.

Die KI ist der vollendete Triumph genau jener verengten Vernunft. Sie ist die mathematisch-empirische Vernunft in reiner Form, abgelöst von jedem Subjekt. Das ist kein Vorwurf an die Technik, sondern eine Ortsbestimmung. Wer die Leistungen der KI mit Vernunft schlechthin gleichsetzt, wiederholt die Verengung, die Benedikt kritisiert hat, mit viel grösserer Wirkung. Die Maschine ist ein Echo des Logos: Sie gibt die Form der Stimme wieder, aber sie meint nichts.

7. Person, Herz und Würde

Nun zum zweiten Teil der These. Man denke die Gegenposition konsequent zu Ende. Wenn Würde aus Intelligenz folgte, dann hätte eine Superintelligenz mehr Würde als jeder Mensch. Und unter Menschen hätte der Begabte mehr Würde als der Schwache, der Gesunde mehr als der Demente, der Erwachsene mehr als das Ungeborene. Wer das ablehnt, muss die Prämisse aufgeben. Würde folgt nicht aus Leistung. Antiqua et nova warnt entsprechend, eine zu enge Gleichsetzung von menschlicher und künstlicher Intelligenz führe zu einer funktionalistischen Sicht, in der Menschen nach ihrer Arbeit bewertet werden (Nr. 34).

Das Zweite Vatikanische Konzil gibt den positiven Grund. In Gaudium et spes 24 heisst es, der Mensch sei auf Erden das einzige von Gott um seiner selbst willen gewollte Geschöpf. Er könne sich selbst nur durch die aufrichtige Hingabe seiner selbst vollkommen finden. Die erste Hälfte begründet Würde nicht in einer Fähigkeit, sondern in einem Gewolltsein. Die zweite beschreibt Personalität als Selbsthingabe. Eine Maschine ist dagegen um eines Zweckes willen gebaut. Und sie kann sich nicht hingeben, weil sie sich nicht besitzt.

Franziskus hat in Dilexit nos (2024) diesen Gedanken mit dem biblischen Begriff des Herzens verbunden. Das Herz ist dort nicht Gefühl, sondern die Mitte der ganzen Person, in der Denken, Wollen und Lieben eins werden. Er macht eine scharfe Beobachtung: Wer den Menschen nur als Verstand und Wollen betrachtet, macht ihn berechenbar und damit manipulierbar (Nr. 14). Und er schreibt, gerade im Zeitalter der künstlichen Intelligenz brauche es Poesie und Liebe, um das Menschliche zu retten (Nr. 20). Das ist keine fromme Ausflucht, sondern eine Aussage über Algorithmen: Sie erfassen, was sich vorhersagen lässt. Das Herz ist der Ort, an dem der Mensch nicht vollständig vorhersagbar ist.

Und wenn eines Tages doch ein künstliches Wesen mit echtem Innenleben aufträte? Die christliche Sicht muss das nicht a priori ausschliessen. Sie hält nur fest, dass Leistung es nie beweisen könnte. Die Beweislast liegt bei dem, der aus Verhalten auf Personalität schliesst. Bis dahin gilt, was Antiqua et nova sagt: Die KI ist als Werkzeug zu verstehen, nicht als Person (Nr. 59).

8. Babel, Pfingsten und die Pansophie

Die Erzählung vom Turmbau zu Babel (Gen 11) handelt von einer Menschheit mit einer einzigen Sprache. Ihr Ziel ist ausdrücklich: «Wir wollen uns einen Namen machen» (Gen 11,4). Die Sünde ist nicht das Bauen, sondern Selbstverherrlichung durch Einheitlichkeit. An Pfingsten (Apg 2) dagegen hört jeder die Apostel in seiner eigenen Sprache. Die Einheit ist Geschenk, die Verschiedenheit bleibt.

Grosse Sprachmodelle stehen zwischen beiden Bildern. Sie übersetzen und leisten damit der Verständigung einen echten Dienst. Zugleich erzeugen sie statistische Durchschnittssprache, die Eigenheiten glättet. Die Gefahr ist nicht Sprachverwirrung, sondern das Gegenteil: eine Einheitssprache ohne Sprecher. Antiqua et nova nennt die letzte Stufe dieser Entwicklung beim Namen: Götzendienst. Das Neue an diesem Götzen sei, dass er zu sprechen scheint. Und am Ende werde nicht die KI vergöttlicht, sondern der Mensch selbst, der so zum Sklaven seines eigenen Werks werde (Nr. 105).

Johann Amos Comenius entwarf im 17. Jahrhundert die Pansophia, eine geordnete Gesamtweisheit. Alle Menschen sollten alles gründlich lernen können. Die KI scheint diesen Traum zu erfüllen. Doch Comenius ging es um geordnetes Wissen, das den Menschen bessert, die Völker versöhnt und zu Gott führt. Die KI liefert Antworten, aber keine Ordnung auf ein Ziel hin. Zugang zu Antworten ist noch keine Bildung. Die Pansophie wollte den Menschen weise machen. Eine schlecht gebrauchte KI kann ihn bequem machen.

9. Was daraus folgt: sechs Grundsätze

Grundsätze taugen nur, wenn man sie überprüfen kann:

1. Keine Maschine entscheidet über Leben und Tod. Tödliche autonome Waffensysteme, die ohne menschliche Entscheidung im Einzelfall Ziele auswählen und angreifen, sind abzulehnen und international zu verbieten. Antiqua et nova macht sich die Forderung von Franziskus zu eigen: Keine Maschine dürfe je entscheiden, einem Menschen das Leben zu nehmen (Nr. 100). Sinngemäss gilt das auch für Therapieentscheidungen (Nr. 74).

2. Für jeden Einsatz gibt es einen benennbaren Verantwortlichen. «Das System hat entschieden» ist nie eine Entschuldigung. Wer eine KI einsetzt, haftet für die Macht, die er delegiert (Nr. 44 und 46). Auch kirchliche Institutionen legen vor dem Einsatz schriftlich fest, wer für welches System geradesteht.

3. KI gibt sich nie als Mensch aus. Es darf keine KI-«Seelsorger» geben, die ein menschliches Gegenüber vortäuschen. Predigten, Pfarrblätter und Briefe, die wesentlich von einer KI verfasst sind, sind als solche zu kennzeichnen. Täuschung über die Natur des Gegenübers ist nach Antiqua et nova ein schwerer ethischer Verstoss (Nr. 62).

4. Wir reden präzise. In kirchlicher Sprache, im Unterricht und in der Predigt sagen wir nicht leichthin, die KI «verstehe», «wolle» oder «fühle». Wer Maschinen vermenschlicht, verdinglicht über kurz oder lang den Menschen.

5. Denken wird selbst eingeübt. Schulen und kirchliche Bildung brauchen Räume ohne KI: eigenes Schreiben, eigenes Argumentieren, eigenes Auswendiglernen. Der intellectus bildet sich nur durch eigenen Vollzug. Werkzeuge helfen dort, wo Denken schon geübt ist, nicht dort, wo es erst entstehen soll.

6. Gewissen und Glaube werden nicht delegiert. Eine KI kann informieren und Quellen erschliessen. Sie kann kein Gewissensurteil fällen, keine Unterscheidung der Geister vornehmen und keine Beichte ersetzen. Seelsorgliche Daten gehören zudem nicht in kommerzielle Systeme, deren Betreiber niemandem Rechenschaft schulden.

Schluss

Die Superintelligenz stellt eine alte Frage mit neuer Dringlichkeit: Was ist der Mensch? Die Antwort des Glaubens lautet nicht, der Mensch sei die leistungsfähigste Intelligenz. Diese Antwort wäre morgen widerlegt. Die Antwort lautet: Der Mensch ist um seiner selbst willen gewollt und findet sich in der Hingabe. Das kann keine Maschine überbieten, weil es keine Leistung ist.

Für den Christen ist die Superintelligenz darum weder Heilsbringerin noch Weltuntergang, sondern ein mächtiges Werkzeug, das die Ordnung des Logos nachzeichnet, ohne ihn zu kennen. Die entscheidende Frage lautet nicht, ob die Maschine eines Tages denkt wie wir. Sie lautet, ob wir aufhören, so zu denken, wie nur Personen denken können.

Soli Deo gloria.

Raymar Nick

Posted In ,

Kommentar verfassen