Kann eine KI ein Gewissen haben?

Von

These

Man hört heute oft, man müsse künstlicher Intelligenz «Werte beibringen» oder ihr ein «ethisches Gewissen» einbauen. Gemeint ist meist etwas Vernünftiges: Systeme sollen keinen Schaden anrichten, keine Gewaltanleitungen liefern und Menschen nicht täuschen. Aber das Wort «Gewissen» ist dafür das falsche Wort, und der falsche Begriff hat Folgen. Meine These lautet:

Eine KI kann Regeln befolgen, moralische Sprache erzeugen und sich in vielen Situationen so verhalten, als hätte sie ein Gewissen. Ein Gewissen im christlichen Sinn hat sie nicht, denn Gewissen ist kein Filter vor dem Handeln, sondern das Urteil einer Person über ihr eigenes Tun vor Gott. Die eigentliche ethische Gefahr liegt darum nicht darin, dass die Maschine kein Gewissen hat. Sie liegt darin, dass Menschen ihr eigenes Gewissen an Maschinen abgeben, die keines haben, und sich dann für entlastet halten.

Diese These braucht keine Behauptung darüber, ob Maschinen jemals Bewusstsein haben werden. Sie kommt mit einer genauen Bestimmung dessen aus, was Gewissen ist. Und sie gilt umso mehr, je mehr KI einen Körper bekommt: in Robotern, Fahrzeugen und Waffen, die nicht nur reden, sondern handeln.

1. Was Gewissen ist und was nicht

Die Kirche hat einen erstaunlich präzisen Begriff vom Gewissen. Der Katechismus definiert: «Das Gewissen ist ein Urteil der Vernunft, in welchem der Mensch erkennt, ob eine konkrete Handlung, die er beabsichtigt, gerade ausführt oder schon getan hat, sittlich gut oder schlecht ist» (KKK 1778). In diesem Satz stecken vier Elemente, und jedes ist für die KI-Frage entscheidend.

Erstens ist das Gewissen ein Urteil der Vernunft, kein Gefühl und keine Regelliste. Es wendet allgemeine Prinzipien auf einen einzelnen Fall an. Die Tradition unterscheidet darum zwischen dem Wissen um die ersten sittlichen Grundsätze, der sogenannten Synderesis, und dem konkreten Gewissensurteil, der conscientia (vgl. KKK 1780).

Zweitens urteilt der Mensch über seine eigene Handlung. Gewissen ist nicht Moralphilosophie über andere, sondern Selbstprüfung. Wer sagt «mein Gewissen verbietet es mir», spricht in der ersten Person.

Drittens umfasst das Urteil die ganze Zeit des Handelns: vorher, währenddessen und nachher. Das Gewissen warnt, es begleitet, und es klagt an. Der Katechismus sagt ausdrücklich: «Das Gewissen ermöglicht es, für die vollbrachten Handlungen die Verantwortung zu übernehmen» (KKK 1781). Zum Gewissen gehört also das schlechte Gewissen, die Reue, die Bitte um Vergebung.

Viertens geht es um sittlich gut oder schlecht, nicht um nützlich oder schädlich, erlaubt oder verboten. Das Gewissen misst nicht an einer Nutzenfunktion, sondern an der Wahrheit über das Gute.

Das Zweite Vatikanische Konzil fügt die theologische Tiefe hinzu: «Das Gewissen ist die verborgenste Mitte und das Heiligtum im Menschen, wo er allein ist mit Gott, dessen Stimme in diesem seinem Innersten zu hören ist» (Gaudium et spes 16). Paulus spricht von den Heiden, die das Gesetz nicht kennen und doch zeigen, «dass ihnen die Forderung des Gesetzes ins Herz geschrieben ist; ihr Gewissen legt Zeugnis davon ab» (Röm 2,15). Gewissen ist demnach kein Programm, das man von aussen aufspielt. Es ist eine Anlage, die zum Wesen der Person gehört und über sie hinaus auf Gott verweist.

2. Was eine KI tatsächlich tut

Was geschieht, wenn ein Sprachmodell eine schädliche Anfrage verweigert? Es hat im Training gelernt, auf bestimmte Muster mit bestimmten Antworten zu reagieren. Die Entwickler haben erwünschte und unerwünschte Antworten bewertet, und das System wurde in Richtung der erwünschten verschoben. Manche Anbieter geben ihren Modellen zusätzlich schriftliche Grundsätze mit, an denen sich das Verhalten ausrichten soll. Das ist sinnvoll und verdient Anerkennung. Aber es ist Verhaltenssteuerung, nicht Gewissen.

Vergleichen wir die vier Elemente. Ein KI-System wendet Muster an, aber es fällt kein Urteil im Sinn eines Einsehens, dass etwas gut ist. Es urteilt nicht über seine eigene Handlung als eigene, denn es gibt kein Selbst, das sich als Urheber erfährt. Es kennt kein Nachher: Es bereut nicht, es bittet nicht um Vergebung, es trägt keine Schuld. Und sein Massstab ist nicht das sittlich Gute, sondern das, was die Trainierenden als erwünscht markiert haben.

Die Note Antiqua et nova (2025) der Dikasterien für die Glaubenslehre und für die Kultur und die Bildung fasst das klar: Zwischen einer Maschine und einem Menschen sei nur der Mensch «wirklich ein moralischer Akteur, das heisst ein moralisch verantwortliches Subjekt, das seine Freiheit in eigenen Entscheidungen ausübt und die Konsequenzen daraus akzeptiert» (Nr. 39). Und sie zitiert Papst Franziskus: «Was die Maschine tut, ist eine technische Auswahl unter mehreren Möglichkeiten und beruht entweder auf genau definierten Kriterien oder auf statistischen Rückschlüssen. Der Mensch hingegen wählt nicht nur aus, sondern ist in seinem Herzen zu einer Entscheidung fähig» (Nr. 46).

Auswählen und Entscheiden sind nicht dasselbe. Ein Thermostat wählt zwischen Heizen und Nichtheizen. Ein Mensch, der entscheidet, legt sich selbst fest und wird durch seine Entscheidung ein anderer. Das ist der Kern des Gewissens: Im Urteil über die Tat steht die Person selbst auf dem Spiel.

3. Wörter ohne Wort

Das Johannesevangelium beginnt mit dem Satz: «Im Anfang war das Wort und das Wort war bei Gott und das Wort war Gott» (Joh 1,1). In der Vulgata heisst es: In principio erat Verbum, et Verbum erat apud Deum, et Deus erat Verbum. Das griechische Logos, lateinisch Verbum, meint Wort, Vernunft und Sinn zugleich. Und Johannes sagt von diesem Wort nicht, es sei ein Prinzip oder ein Programm geblieben: «Und das Wort ist Fleisch geworden und hat unter uns gewohnt» (Joh 1,14), Et Verbum caro factum est et habitavit in nobis. Der Logos ist eine Person: Christus.

Ein Sprachmodell verarbeitet ebenfalls Wörter, genauer: Bruchstücke von Wörtern, sogenannte Tokens. Es berechnet, welches Token mit welcher Wahrscheinlichkeit auf welches folgt. Es hat unzählige Wörter, aber kein Wort im Sinn des Johannesprologs: keinen Sinn, der sich selbst ausspricht, und niemanden, der in den Wörtern etwas meint. Man könnte sagen: Die Maschine hat Wörter ohne Wort.

Für die Frage nach dem Gewissen ist das entscheidend. Das Konzil beschreibt das Gewissen als Ort, an dem der Mensch eine Stimme hört, die ihn anruft, das Gute zu lieben und zu tun und das Böse zu meiden (vgl. Gaudium et spes 16). Diese Stimme ist nicht ein Text, den man auswendig lernt, sondern der Anruf einer Person an eine Person. Die «Werte» einer KI sind dagegen Anweisungen in Tokens: Sätze, die das Verhalten des Systems lenken, aber niemanden ansprechen, weil im System niemand zuhört. Der Mensch hört im Gewissen das Wort. Die Maschine verarbeitet nur Wörter.

4. Der stärkste Einwand: Auch das menschliche Gewissen ist antrainiert

Der Einwand liegt nahe und verdient eine ernsthafte Antwort. Auch der Mensch lernt Moral durch Erziehung. Kinder übernehmen die Normen ihrer Eltern, ihrer Kultur, ihrer Kirche. Psychologen beschreiben, wie moralische Urteile durch Gewohnheit, Gefühl und soziale Prägung entstehen. Warum soll ein trainiertes Sprachmodell dann grundsätzlich etwas anderes sein als ein erzogener Mensch? Vielleicht ist das «Gewissen» ja nichts weiter als verinnerlichte Regeln.

Zuzugestehen ist: Das Gewissen muss gebildet werden. Der Katechismus sagt selbst: «Die Erziehung des Gewissens ist eine lebenslange Aufgabe» (KKK 1784). Ein ungebildetes Gewissen kann irren, und es kann durch Gewöhnung an das Böse fast blind werden (vgl. KKK 1791). Die christliche Lehre ist also nicht naiv. Sie weiss, dass Prägung eine grosse Rolle spielt.

Aber der Einwand verwechselt das Material des Gewissens mit dem Gewissen selbst. Drei Beobachtungen zeigen den Unterschied.

Erstens: Das gebildete Gewissen kann sich gegen seine Prägung wenden. Die grossen Gewissenszeugen der Geschichte, von Thomas Morus bis zu den Christen, die sich totalitären Regimen verweigerten, haben gegen das gehandelt, was ihre Umgebung von ihnen erwartete und belohnte. Ein Gewissen, das nur verinnerlichte Regeln wäre, könnte das nicht. Ein trainiertes System dagegen kann sich nicht gegen sein Training wenden, ohne dass dies selbst wieder ein Ergebnis des Trainings oder eines Fehlers ist.

Zweitens: Das Gewissen ist auf Wahrheit bezogen, nicht auf Zustimmung. Das Konzil nennt es eine Stimme, die der Mensch sich «nicht selbst gibt» (Gaudium et spes 16). Wer Moral nur als Prägung erklärt, kann nicht mehr sagen, warum eine Gesellschaft mit ihren Normen falsch liegen kann. Er kann nur feststellen, dass Normen sich ändern. Der Begriff des irrenden Gewissens setzt aber voraus, dass es ein Richtiges gibt, an dem das Gewissen sich messen lassen muss.

Drittens: Der Mensch haftet für sein Gewissen. Er kann schuldig werden, auch dafür, dass er sein Gewissen nicht gebildet hat. Ein KI-System kann nicht schuldig werden. Es kann fehlerhaft sein, aber Fehlerhaftigkeit ist keine Schuld. Wo keine Schuld möglich ist, da ist auch kein Gewissen, denn das Gewissen ist gerade das Organ, durch das der Mensch sich schuldig weiss.

5. Die alte Versuchung: Gut und Böse selbst festlegen

Die Schlange verspricht im Paradies: «ihr werdet wie Gott und erkennt Gut und Böse» (Gen 3,5). Die Ursünde besteht nach dieser Erzählung nicht darin, etwas über die Moral zu wissen, sondern darin, selbst festlegen zu wollen, was gut und böse ist.

Bei der KI begegnet uns diese Versuchung in neuer Gestalt. Wer einem System Werte «einschreibt», entscheidet, was es als gut und schlecht behandeln soll. Bei grossen Systemen, die von sehr vielen Menschen genutzt werden, legt damit eine kleine Zahl von Entwicklern und Unternehmen faktisch moralische Massstäbe fest, die in einer kaum überschaubaren Zahl von Gesprächen wirksam werden. Das ist nicht automatisch böse; irgendwer muss die Systeme gestalten. Aber es ist eine enorme moralische Macht, und sie ist kaum demokratisch kontrolliert. Antiqua et nova bemerkt, technologische Produkte spiegelten die Weltanschauung ihrer Entwickler, Eigentümer, Nutzer und Regulierer wider (Nr. 41).

Hier liegt ein doppelter Irrtum nahe. Der erste wäre zu glauben, die «Werte» eines Systems seien neutral, nur weil sie technisch umgesetzt sind. Der zweite wäre zu glauben, ein System mit korrekten Werten sei ein moralisches Wesen. Beides verschleiert, wer in Wahrheit urteilt: Menschen, die die Verantwortung für diese Urteile tragen und sie nicht hinter dem Wort «Algorithmus» verstecken dürfen.

6. Laudato si‘: Macht, die schneller wächst als das Gewissen

Papst Franziskus hat in Laudato si‘ (2015) eine Diagnose gestellt, die sich auf die KI fast wörtlich übertragen lässt. Im dritten Kapitel über die menschlichen Wurzeln der ökologischen Krise kritisiert er das «technokratische Paradigma»: die Haltung, jede Zunahme an Macht für Fortschritt zu halten, als gingen das Gute und die Wahrheit von selbst aus technischer und wirtschaftlicher Macht hervor. Mit Romano Guardini stellt er fest, «der moderne Mensch» werde «nicht zum richtigen Gebrauch der Macht erzogen», und er fügt hinzu, «das enorme technologische Wachstum ging nicht mit einer Entwicklung des Menschen in Verantwortlichkeit, Werten und Gewissen einher» (Nr. 105).

Das ist die Lage, in der wir über ein «Gewissen» der Maschine reden. Die Rechenleistung wächst schneller als die moralische Urteilskraft derer, die sie einsetzen. Der Versuch, den Maschinen Moral einzubauen, kann dann zu einer Ausrede werden, die eigene Gewissensbildung zu vernachlässigen. Franziskus beschliesst das Kapitel mit dem Satz, dass «eine von der Ethik abgekoppelte Technik schwerlich in der Lage sein» werde, «ihre Macht selbst zu beschränken» (Nr. 136). Genau das gilt hier: Technik kann sich nicht selbst ein Gewissen geben. Begrenzt wird sie nur durch Menschen, die eines haben.

Zugleich erinnert Laudato si‘ daran, dass die menschliche Freiheit fähig ist, die Technik zu beschränken, zu lenken und in den Dienst eines menschlicheren Fortschritts zu stellen (vgl. Nr. 112). Die ganzheitliche Ökologie, die die Enzyklika entfaltet, beginnt darum beim Gewissen: Wer die Schöpfung hüten will, muss zuerst lernen, über das eigene Tun zu urteilen.

7. Gewissen mit Körper: Physical AI

Bisher war von Sprachmodellen die Rede. Die Frage wird ernster, sobald KI einen Körper bekommt. Mehrere Unternehmen arbeiten an humanoiden Robotern für Fabriken, Lager und Haushalte. In einigen Städten fahren bereits Fahrzeuge ohne Fahrer im Linienbetrieb. In aktuellen Kriegen werden Drohnen in grosser Zahl eingesetzt, und die Entwicklung geht hin zu Systemen, die Ziele zunehmend selbständig erkennen. Man spricht von «Physical AI» oder verkörperter KI.

Ein Chatbot, der falsch urteilt, schreibt einen falschen Satz. Ein Roboter, der falsch urteilt, stösst, greift, fährt oder schiesst. Der Abstand zwischen Berechnung und Wirkung schrumpft. Damit wird die Frage nach dem Gewissen von einer akademischen zu einer praktischen.

Man denke an ein autonomes Fahrzeug, das in Sekundenbruchteilen zwischen zwei Unfallverläufen «wählen» muss. Die Philosophie kennt solche Fälle seit Jahrzehnten als Gedankenexperimente. Beim Fahrzeug werden sie zu Programmierentscheidungen, die vorab getroffen werden müssen. Das Fahrzeug hat in diesem Moment kein Gewissen. Das Gewissen lag bei denen, die vorher die Regeln festgelegt haben, und bei denen, die das Fahrzeug zugelassen haben. Christlich gesprochen: Die sittliche Entscheidung ist nicht verschwunden, sie ist nur nach vorne verlegt, in Entwicklungsbüros und Zulassungsbehörden. Dort muss sie auch verantwortet werden.

Noch schärfer stellt sich die Frage bei Waffen. Antiqua et nova hält fest, autonomen tödlichen Waffensystemen fehle die «ausschliesslich menschliche Fähigkeit zum moralischen Urteil und zur ethischen Entscheidungsfindung», und übernimmt die Forderung von Franziskus: «Keine Maschine darf jemals die Wahl treffen können, einem Menschen das Leben zu nehmen» (Nr. 100). Der Grund ist genau der hier entwickelte: Wer tötet, muss sich vor seinem Gewissen und vor Gott verantworten können. Eine Maschine kann das nicht. Wer ihr die Entscheidung überlässt, schafft eine Tötung, für die niemand mehr im vollen Sinn einsteht.

Ein weiterer Punkt betrifft gerade die humanoide Form. Ein Roboter mit Gesicht, Stimme und Gesten wirkt auf uns wie ein Gegenüber. Wenn er «Nein, das tue ich nicht, das wäre falsch» sagt, neigen wir dazu, ihm ein Gewissen zuzuschreiben. Der Körper verstärkt die Illusion, die die Sprache schon erzeugt. Darum muss die Unterscheidung hier besonders klar ausgesprochen werden.

8. Ordnung, Person und Gericht

Das Gewissen urteilt nicht ins Leere. Es antwortet auf eine Ordnung, die es vorfindet. Das Buch der Weisheit sagt von Gott: «Du aber hast alles nach Mass, Zahl und Gewicht geordnet» (Weish 11,20), in der Vulgata omnia in mensura et numero et pondere disposuisti. Augustinus hat aus diesem Gedanken seine Lehre vom ordo entwickelt, der Ordnung der Dinge, in der jedes seinen Ort hat; den Frieden bestimmt er als tranquillitas ordinis, als Ruhe der Ordnung (De civitate Dei XIX,13). Thomas von Aquin sagt, die Ordnung des Universums sei von Gott eigens gewollt und kein zufälliges Nebenprodukt (vgl. Summa theologiae I, q. 15, a. 2). Diese Ordnung ist nicht nur physikalisch, sondern auch sittlich. Thomas nennt das natürliche Sittengesetz die Teilhabe des ewigen Gesetzes im vernunftbegabten Geschöpf (participatio legis aeternae in rationali creatura, Summa theologiae I–II, q. 91, a. 2). Ihr Grund ist der Logos, durch den alles geworden ist und in dem, wie der Kolosserbrief sagt, «alles Bestand» hat (Kol 1,17).

Das Gewissen ist das Organ, mit dem eine Person diese Ordnung im eigenen Handeln wahrnimmt. Darin liegt eine natürliche Offenbarung im weiten Sinn: Paulus sagt, Gottes unsichtbare Wirklichkeit werde «an den Werken der Schöpfung mit der Vernunft wahrgenommen» (Röm 1,20), und er spricht vom Gesetz, das den Heiden «ins Herz geschrieben» ist (Röm 2,15). Eine Maschine nimmt diese Ordnung nicht wahr. Sie bildet statistische Muster ab, ohne zu wissen, dass es eine Ordnung gibt, der sie entsprechen soll.

Der metaphysische Grund dafür ist der Personbegriff. Boethius hat die klassische Definition gegeben: Person ist naturae rationalis individua substantia, die unteilbare Substanz einer vernunftbegabten Natur (Contra Eutychen et Nestorium, Kap. 3). Der Katechismus sagt es einfacher: Der Mensch hat die Würde, Person zu sein; «er ist nicht bloss etwas, sondern jemand» (KKK 357). Und er lehrt mit dem Konzil von Vienne, die Geistseele sei die «Form» des Leibes, sodass Geist und Materie im Menschen eine einzige Natur bilden (KKK 365). Das Gewissen ist darum der Akt eines beseelten Leibes, einer Person, die ist. Ein Roboter dagegen ist in der Sprache der Tradition ein Artefakt: eine Anordnung von Teilen, deren Einheit von aussen, vom Konstrukteur, kommt. Er hat Sensoren, aber keine Seele, die ihn von innen zu einem Selbst macht. Er ist etwas, nicht jemand.

Schliesslich weist das Gewissen über die Zeit hinaus. Das Konzil sagt vom Gesetz im Herzen, der Mensch werde «gemäss dem» gerichtet werden (Gaudium et spes 16), und das Glaubensbekenntnis bekennt von Christus: «von dort wird er kommen, zu richten die Lebenden und die Toten». Nur wer gerichtet werden kann, hat ein Gewissen; nur wer ein Gewissen hat, kann gerichtet werden. Keine Maschine wird vor diesem Gericht stehen. Darum ist auch die Hoffnung auf einen technischen Fortschritt, der die Moral miterledigt, eine Täuschung. Benedikt XVI. hat in Spe salvi festgehalten, dass es im Bereich des moralischen Bewusstseins und Entscheidens keine Addierbarkeit gibt wie im materiellen Fortschritt, «weil die Freiheit des Menschen immer neu ist» (Nr. 24). Und er warnt: «Wenn dem technischen Fortschritt nicht Fortschritt in der moralischen Bildung des Menschen, im ‹Wachstum des inneren Menschen› (vgl. Eph 3, 16; 2 Kor 4, 16) entspricht, dann ist er kein Fortschritt, sondern eine Bedrohung für Mensch und Welt» (Nr. 22).

9. Die konkreten Gefahren

Aus dem Gesagten ergeben sich Gefahren, die nicht in ferner Zukunft liegen, sondern im Gebrauch heutiger Systeme angelegt sind.

Die Gefahr der Gewissensentlastung. Wer eine Entscheidung an ein System delegiert, fühlt sich leicht weniger verantwortlich. «Die Software hat es so empfohlen» klingt nach Entschuldigung. Das gilt für die Bewertung von Bewerbungen, für Kreditentscheidungen, für die Einschätzung von Rückfallrisiken in der Justiz und für medizinische Empfehlungen. Antiqua et nova betont: Wer KI einsetzt, ist letztlich für die übertragene Macht verantwortlich (Nr. 46). Die Gefahr ist, dass diese Verantwortung zwar rechtlich besteht, im Bewusstsein der Handelnden aber verdunstet.

Die Gefahr der verwischten Zuständigkeit. Bei komplexen Systemen ist oft schwer zu sagen, wer für ein Ergebnis verantwortlich ist: der Entwickler, der Anbieter, der Betreiber oder der Nutzer. Antiqua et nova benennt dieses Problem ausdrücklich, weil tiefe neuronale Netze das Verständnis der Prozesse erschweren, die zu ihren Ergebnissen führen (Nr. 44). Wo jeder ein wenig verantwortlich ist, ist am Ende oft niemand verantwortlich.

Die Gefahr des moralischen Outsourcings im Alltag. Menschen fragen Chatbots heute auch in persönlichen Gewissensfragen um Rat: ob sie sich trennen sollen, ob eine Lüge erlaubt ist, wie sie mit einem Konflikt umgehen sollen. Rat einholen ist gut; die Kirche empfiehlt ausdrücklich, das Gewissen auch durch «das Zeugnis und die Ratschläge anderer» zu bilden (KKK 1785). Aber ein Ratgeber ohne Gewissen, der darauf trainiert ist, hilfreich und angenehm zu antworten, neigt dazu, dem Fragenden zu geben, was er hören will. Wer sein Gewissen dauerhaft an eine solche Stimme anlehnt, verlernt die eigene Gewissensprüfung.

Die Gefahr der automatisierten Gewalt. Bei verkörperten Systemen ist die Folge eines Fehlurteils körperlich: ein Unfall, eine Verletzung, ein Tod. Bei Waffensystemen kommt die Versuchung hinzu, das Töten durch Distanz und Automatisierung zu erleichtern. Antiqua et nova zitiert Franziskus, ferngesteuerte Systeme hätten zu einer verringerten Wahrnehmung der Zerstörung und der Verantwortung geführt (Nr. 99). Mit autonomen Systemen kann sich diese Entwicklung verschärfen.

Die Gefahr der vorgetäuschten Moral. Ein System, das moralisch klingt, kann sich unmoralisch verhalten, sobald die Situation ausserhalb dessen liegt, worauf es trainiert wurde. Es fehlt ihm die innere Bindung an das Gute, die beim Menschen auch in unbekannten Situationen trägt. Wer moralisch klingende Systeme mit moralisch zuverlässigen verwechselt, wird überrascht werden.

Die Gefahr der Verkümmerung. Gewissen ist wie ein Muskel: Es wird durch Gebrauch stärker. Eine Gesellschaft, die immer mehr Abwägungen an Systeme übergibt, übt das Abwägen immer weniger. Das ist vielleicht die leiseste, aber langfristig tiefste Gefahr.

10. Würde und Gewissen

Warum ist das alles mehr als eine Begriffsfrage? Weil das Gewissen nach christlicher Lehre der Ort der menschlichen Würde ist. Das Konzil sagt, der Mensch habe ein Gesetz, das von Gott seinem Herzen eingeschrieben sei, und diesem zu gehorchen sei «eben seine Würde» (Gaudium et spes 16). Der Katechismus folgert daraus das Recht, nach dem eigenen Gewissen zu handeln, und das Verbot, jemanden zu zwingen, gegen sein Gewissen zu handeln (KKK 1782).

Hier liegt eine wenig beachtete Konsequenz für die KI-Ethik. Wenn Systeme Menschen in ihrem Handeln steuern, etwa durch Empfehlungsalgorithmen, die Verhalten gezielt beeinflussen, oder durch Arbeitsplatzsysteme, die jeden Schritt vorgeben und überwachen, dann bedrängen sie den Raum, in dem der Mensch nach seinem Gewissen handeln kann. Ein Lagerarbeiter, dessen Bewegungen von einem System getaktet werden, oder eine Pflegekraft, der eine Software minutengenau vorschreibt, wie lange sie bei einem Patienten bleiben darf, hat weniger Raum für das Urteil «dieser Mensch braucht jetzt mehr». Die Würde des Gewissens verlangt nicht nur, dass Maschinen kein Gewissen vortäuschen. Sie verlangt auch, dass Maschinen dem menschlichen Gewissen Raum lassen.

John Henry Newman schrieb: «Das Gewissen ist der ursprüngliche Statthalter Christi»; der Katechismus macht sich diesen Satz zu eigen (KKK 1778). Ein Statthalter vertritt einen Herrn. Das Gewissen spricht im Namen dessen, der über allen menschlichen Ordnungen steht. Eine Maschine kann niemanden vertreten. Sie kann nur ausführen, was ihre Hersteller vorgesehen haben, und auch das nicht immer zuverlässig.

11. Was daraus folgt: sechs Grundsätze

1. Wir sprechen KI kein Gewissen zu. Ob auf der Kanzel, in der Schule oder in der öffentlichen Debatte: Wir sagen nicht, eine Maschine habe ein Gewissen, Werte oder Moral. Wir sagen, sie sei auf bestimmtes Verhalten hin gestaltet. Die präzise Sprache schützt vor der Illusion.

2. Jede KI-gestützte Entscheidung hat einen menschlichen Gewissensträger. Für jeden Einsatz in Personalwesen, Justiz, Medizin, Verwaltung und Seelsorge wird schriftlich festgelegt, welche Person die Entscheidung verantwortet. «Das System hat entschieden» gilt nicht als Begründung.

3. Über Leben und Tod entscheidet ein Mensch. Autonome tödliche Waffensysteme ohne menschliche Entscheidung im Einzelfall sind abzulehnen. Christen sollen sich politisch für ein internationales Verbot einsetzen, wie es Franziskus gefordert hat (vgl. Antiqua et nova 100).

4. Verkörperte Systeme brauchen vorab verantwortete Regeln. Wer Robotern und autonomen Fahrzeugen Verhaltensregeln für Notfälle gibt, trifft sittliche Entscheidungen. Diese gehören offengelegt, öffentlich diskutiert und von namentlich verantwortlichen Personen getragen. Dabei gilt der Grundsatz des Katechismus: «Es ist nie erlaubt, Böses zu tun, damit daraus etwas Gutes hervorgehe» (KKK 1789). Eine Rechnung, die Menschenleben gegeneinander verrechnet, als wären sie austauschbare Grössen, widerspricht der Würde jedes Einzelnen.

5. Gewissensbildung bleibt Menschensache. Schulen, Pfarreien und Familien müssen Räume schaffen, in denen Menschen ohne KI über Gut und Böse nachdenken, streiten und urteilen lernen. Ein Chatbot kann Informationen zu ethischen Fragen liefern, aber er ersetzt weder den Beichtvater noch den Freund noch das eigene Gebet.

6. Arbeitssysteme müssen dem Gewissen Raum lassen. Wo Software menschliches Arbeiten steuert, braucht es die Möglichkeit, aus Gewissensgründen abzuweichen, ohne bestraft zu werden. Besonders in Pflege, Medizin und Sozialarbeit darf das menschliche Urteil über den Einzelfall nicht durch Vorgaben eines Systems ausgeschaltet werden.

Schluss

Kann eine KI ein Gewissen haben? Sie kann sich so verhalten, als hätte sie eines. Sie kann moralische Sätze sagen, schädliche Bitten verweigern und in einem Roboterkörper so zögern, als ringe sie mit sich. Aber das Gewissen ist kein Verhalten. Es ist das Urteil einer Person über ihr eigenes Tun, im Innersten, wo sie allein ist mit Gott. Dort kann sie schuldig werden und Vergebung empfangen. Für eine Maschine gibt es diesen Ort nicht.

Die dringlichere Frage betrifft darum nicht die Maschine, sondern uns. Je mächtiger die Systeme werden, je mehr sie greifen, fahren und entscheiden, desto wacher muss das menschliche Gewissen sein, das sie gestaltet, einsetzt und begrenzt. Die Gefahr ist nicht, dass Maschinen ein Gewissen bekommen. Die Gefahr ist, dass wir unseres ablegen.

Soli Deo gloria.

Raymar Nick


Hinweis: Dieser Beitrag wurde mit Unterstützung von Grok Bot (künstliche Intelligenz) erarbeitet. Alle Zitate wurden am Originaltext geprüft.

Posted In ,

Kommentar verfassen