Vatikan warnt vor blindem Vertrauen in KI

In einer am Dienstag veröffentlichten "Note" warnt der Vatikan davor, menschliche Verantwortung an die KI abzugeben. Neben großen Potenzialen für den menschlichen Fortschritt und Wohlstand berge die KI wie jedes von Menschen erdachte Werkzeug auch erhebliche Risiken und Möglichkeiten zum Missbrauch. So müsse etwa im Krieg die Entscheidung über das Töten von Menschen immer bei Menschen und nicht bei Maschinen liegen.

Das Dokument mit dem Titel "Antiqua et nova" (Mit alter und neuer Weisheit) wurde gemeinsam verantwortet von der vatikanischen Glaubensbehörde unter Kardinal Víctor Fernández sowie von der Behörde für Kultur und Bildung unter Kardinal José Tolentino Calaça de Mendonça. Es wendet sich an einzelne Nutzer von KI ebenso wie an Familien, Unternehmen, Institutionen, Regierungen und internationale Organisationen. Auf allen Ebenen gehe es darum, KI im Sinne des Allgemeinwohls zu nutzen.

Ausdrücklich betont der Vatikan in dem Text, dass die Kirche den Fortschritt in Wissenschaft und Technik begrüßt und sie als "Mitwirken mit Gott an der Vervollkommnung der Schöpfung" sieht. Dies gelte auch für die KI, die "in manchen Gebieten menschliche Fähigkeiten sogar übertreffen" könne.
 

"Erhebliche ethische Probleme"

Zugleich betont der Vatikan: "Da die KI (...) bestimmte Entscheidungen selbstständig trifft, wobei sie sich an neue Situationen anpasst und von ihren Programmierern nicht vorhergesehene Lösungen bietet, ergeben sich erhebliche Probleme der ethischen Verantwortung und Sicherheit, die sich auf die gesamte Gesellschaft auswirken."

Der Einfluss der KI sei in vielen Bereichen spürbar, unter anderem in Bildung, Arbeit, Kunst, Gesundheit, Recht, Krieg und internationalen Beziehungen. Da die KI rasant voranschreitet, sei es "von entscheidender Bedeutung, ihre anthropologischen und ethischen Implikationen abzuwägen."
 

Auf der Linie des Papstes

In den vergangenen Monaten hatte Papst Franziskus bei mehreren Gelegenheiten über Chancen und Risiken der KI gesprochen. Von den Gesetzgebern forderte er Schritte zur ethischen Eingrenzung der neuen technologischen Möglichkeiten. So müsse etwa im Krieg die Entscheidung über das Töten von Menschen immer bei Menschen und nicht bei Maschinen liegen. Dieser Grundsatz wird auch im neuen Vatikan-Dokument unterstrichen.

Bei der grundsätzlichen Einordnung erklärt der Vatikan, die KI sei zwar lernfähig, ihr fehle aber die existenzielle Dimension der körperlichen Erfahrung und der persönlichen Entwicklung. Im Unterschied zu Menschen fehle ihr die Fähigkeit, Beziehungen einzugehen und die Wahrheit und das Gute zu erkennen.

Wer die menschliche Intelligenz zu sehr mit den Fähigkeiten der KI gleichsetze, laufe Gefahr, eine rein funktionale Sicht zu entwickeln. Der Mensch würde dann nur noch nur nach dem beurteilt, was er leisten könne. Die Würde des Menschen basiere aber darauf, dass er als Abbild Gottes erschaffen worden sei. Diese Würde gelte auch für ungeborene Kinder und für alte und leidende Menschen.
 

Anlass zur Sorge nicht nur für die Kirche

In dem Text heißt es, die Kirche begrüße technologische Fortschritte. Zugleich widersetze sie sich jenen Anwendungen, die eine Bedrohung für die Unverletzlichkeit des menschlichen Lebens und der menschlichen Würde darstellen. Diese Sorge um ethisch bedenkliche Konsequenzen des technischen Fortschritts teile die Kirche mit vielen Wissenschaftlern.

Das Prinzip der menschlichen Verantwortung wird in dem Dokument unterstrichen. Ein Mensch, der KI nutze, um Entscheidungen zu treffen, bleibe in jeder Phase der Entscheidung letztverantwortlich. Wegen der enormen Lernfähigkeit von KI sei es wichtig, darauf zu achten, dass sie immer dem Menschen und dem Allgemeinwohl diene.

Sie dürfe nicht dazu genutzt werden, Ungerechtigkeiten und Diskriminierungen zu verschärfen. Dass KI derzeit von wenigen Unternehmen beherrscht und kontrolliert werde, sei Anlass zu erheblichen Sorgen, zumal KI die Manipulation der Gewissen und die Beeinflussung demokratischer Prozesse erleichtere.

Auch für die Entwicklung der Kinder berge KI erhebliche Gefahren, heißt es in dem Papier. Wenn sie nicht mehr von Menschen, sondern von Maschinen lernten, würden menschliche Beziehungen und Empathie zu kurz kommen.

(kathpress.at)