Die verborgenen menschlichen Kosten der KI: Was die „Magnifica Humanitas" uns abverlangt zu sehen

Forscher und investigative Journalisten dokumentieren seit mehreren Jahren, dass das Training großer Sprachmodelle auf einer umfangreichen, weitgehend unsichtbaren Arbeitnehmerschaft beruht. Diese Arbeitskräfte, die vor allem in Ländern Subsahara-Afrikas, Südostasiens und Lateinamerikas konzentriert sind, übernehmen Inhaltsmoderation, Datenannotation und die Kennzeichnung schädlichen Materials, damit KI-Systeme lernen können, dessen Erzeugung zu vermeiden. Eine Recherche des TIME-Magazins aus dem Jahr 2023 ergab, dass kenianische Arbeitnehmer, die über das Unternehmen Sama für OpenAI verstörende Inhalte sichten mussten, weniger als zwei Dollar pro Stunde erhielten und von schweren psychischen Traumata durch die wiederholte Konfrontation mit grafischen Darstellungen berichteten. In einigen Aussagen beschrieben sie ihre Tätigkeit als eine Art psychische Verletzung, für die keinerlei angemessene Unterstützung bereitgestellt wurde (Perrigo, 2023).

Naftali Wambalo, ein kenianischer Vater von zwei Kindern mit einem Hochschulabschluss in Mathematik, schilderte dem CBS-Format60 Minutes, wie diese Arbeit von innen aussah: „Ich habe Menschen beim Abgeschlachtetwerden zugesehen." Er hatte den Job als Datenbeschrifter angenommen, weil er verfügbar war. Die psychischen Kosten waren kein Bestandteil des Vertrags (Whitaker, 2023).

Die erste Enzyklika von Papst Leo XIV.,Magnifica Humanitas, veröffentlicht am 25. Mai 2026, spricht diesen Punkt unmittelbar an. Das Dokument warnt davor, die Effizienzgewinne, die KI verspricht, zu bejubeln, wenn sie „auf einer Kette der Ausbeutung aufgebaut sind, die bewusst verborgen bleibt" (Leo XIV., 2026). Die katholische Theologin Léocadie Lushombo, die bei der vatikanischen Präsentation vor Kardinal Michael Czerny sprach, nannte diese Aussage prophetisch. In ihrer Heimat, der Demokratischen Republik Kongo, hat sie Kinder erlebt, die mit giftigem Staub bedeckt aus Kobalt- und Nickelminen kamen — jene Arbeit in den Lieferketten, die KI-Hardware überhaupt erst ermöglicht und die in Gesprächen über künstliche Intelligenz kaum je vorkommt. Gegenüber dem National Catholic Register ermutigte sie die Menschen, „sich darum zu sorgen zu wissen", wie ihr Gebrauch von KI-Produkten andere Menschen betrifft (Hackett, 2026).

Dieser Satz verdient mehr Gewicht, als er auf den ersten Blick zu tragen scheint. Er ist kein Aufruf zum Boykott und kein Positionspapier. Er ist ein Aufruf zu einer bestimmten Art der Aufmerksamkeit — einer, die die katholische Geistestradition seit langem als moralische Fähigkeit versteht, die geübt oder vernachlässigt, gestärkt oder geschwächt werden kann.

Was moralische Abkopplung tatsächlich bewirkt

Albert Banduras Arbeiten zur moralischen Abkopplung benennen zwei Mechanismen, die in Situationen wie dieser zusammenwirken: die Diffusion von Verantwortung über lange Lieferketten hinweg und die faktische Entmenschlichung ferner Arbeitskräfte, deren Gesichter und Namen in dem Produkt, das sie ermöglichen, niemals auftauchen (Bandura, 1999). Beide sind in der heutigen KI-Wirtschaft wirksam. Die Arbeit ist über Kontinente verteilt. Die Arbeitenden fehlen in jedem Marketingnarrativ, das die Intelligenz der Systeme preist, zu deren Training sie beigetragen haben.

Das katholisch-christliche Verständnis der Person korrigiert unmittelbar die Annahme, der Nutzer eines Werkzeugs stehe außerhalb des moralischen Feldes, das dieses Werkzeug erzeugt. Der Mensch ist ein ganzheitliches Wesen — Verstand, Wille, Gefühl, Leib und Geist —, dessen Akte des Wählens an der Formung der Person teilhaben, die wählt. Dies ist keine Randbehauptung. Es ist die strukturelle Grundlage, auf der die Katholische Soziallehre seit mehr als einem Jahrhundert in zahlreichen Dokumenten darauf besteht, dass die Bedingungen, unter denen Menschen arbeiten, selbst moralische Wirklichkeiten sind (Päpstlicher Rat für Gerechtigkeit und Frieden, 2004).

Magnifica Humanitastut etwas Gezieltes, wenn es digitale Arbeitskräfte als Kategorie moralischer Verantwortung benennt: Es vollzieht eine Wiedereingliederung in den moralischen Blick. Es stellt die Sichtbarkeit von Menschen wieder her, die die Architektur der globalen Technologiewirtschaft unsichtbar gemacht hatte. Nähe war im katholischen moralischen Denken niemals Voraussetzung für Verpflichtung (Leo XIV., 2026).

Belastbarkeit ist nicht dasselbe wie Durchhalten

Die Arbeitskräfte, die in den Berichten über KI-Arbeitsbedingungen beschrieben werden, sind keine Menschen, denen es an Belastbarkeit mangelt. Viele beweisen außerordentliche Ausdauer unter Bedingungen, die klinische Konzepte als traumatisch einordnen würden. Was ihnen häufig fehlt, ist der Zugang zu dem, was echte Belastbarkeit erst ermöglicht: stabile Beschäftigung, psychologische Unterstützung, Löhne, die dem Schaden entsprechen, den sie absorbieren, und die grundlegende Anerkennung, dass ihr Leiden moralisch bedeutsam ist.

Die therapeutische Allianz — die die klinische Forschung durchgängig als den stärksten Prädiktor guter Ergebnisse in der psychischen Gesundheitsversorgung identifiziert — wirkt, weil sie einer Person das Gefühl zurückgibt, gesehen zu werden, wichtig zu sein, in einer Beziehung zu existieren, in der ihr inneres Leben zählt (Norcross & Lambert, 2011). Was Lushombo auf gesellschaftlicher Ebene beschreibt, ist das strukturelle Fehlen dieser Allianz für eine ganze Kategorie von Arbeitenden. Das Beharren der Enzyklika auf ihrer Würde ist im Wesentlichen die Forderung, dass sie gesehen werden.

Simone Weil schrieb, Aufmerksamkeit sei die seltenste und reinste Form der Großzügigkeit — womit sie etwas Genaues meinte: dass einem anderen Menschen wirklich zuzuwenden, ohne ihn zu vereinnahmen oder auf eine Funktion zu reduzieren, die er erfüllt, zugleich außerordentlich schwierig und außerordentlich wertvoll ist (Weil, 1977). Die Forschung zur Mitgefühlserschöpfung bestätigt dies empirisch: Moralische Aufmerksamkeit ist keine unveränderliche Ressource. Sie kann erschöpft und sie kann kultiviert werden. Gemeinschaften, die durch Ritual, Erzählung und gemeinschaftliche Reflexion eine bewusste Aufmerksamkeit für Leiden einüben, zeigen eine größere Fähigkeit zu dauerhaftem prosozialem Verhalten als solche, die auf spontane emotionale Reaktion setzen (Figley, 2002).

Lushombos Aufruf, „sich darum zu sorgen zu wissen", ist in diesem Rahmen ein Aufruf zu einer Praxis, nicht zu einer Position. Er bittet Menschen, die KI-Werkzeuge nutzen, das Wissen zu suchen, das moralische Aufmerksamkeit erst möglich macht — die Berichte zu lesen, die Fragen zu stellen und die Antworten in nachfolgenden Entscheidungen Gewicht tragen zu lassen. Dies ist die alltägliche Arbeit des Gewissens in einem Kontext, der vor einem Jahrzehnt noch nicht existierte.

Wer die Augen vor vermeidbarem Leid verschließt, schützt damit nicht das eigene Wohlergehen. Er mindert es. Diese Aussage gehört zum Kernbestand der katholischen Tradition und wird zunehmend durch die Positive Psychologie der zweiten Welle gestützt, wie sie etwa Paul Wong vertritt; sein existentieller Ansatz behandelt moralische Verantwortung nicht als eine dem Gedeihen aufgebürdete Last, sondern als eines seiner konstitutiven Elemente (Wong, 2011).Magnifica Humanitasschöpft aus Jahrhunderten anthropologischer Tiefe, um einen Punkt zu machen, dem die empirische Forschung allmählich aufholt: Die Formung von Personen, die zu sehen vermögen, was ihre Kultur sie gelehrt hat nicht zu sehen, ist nicht nebensächlich für die geistige und geistliche Gesundheit. Sie gehört zu dem, was Gesundheit wirklich verlangt (Leo XIV., 2026).

Drei Dinge, die Sie tun können

Moralische Aufmerksamkeit wird — wie sowohl die katholische Tradition als auch die psychologische Forschung nahelegen — erst durch Praxis real. Hier sind drei konkrete Ausgangspunkte:

Lesen Sie die BerichteSuchen Sie investigative Berichte über die Arbeitsbedingungen im KI-Bereich — die TIME-Recherche zu kenianischen Datenbeschriftern, das CBS-60 Minutes-Segment und ähnliche Journalismusprojekte. Allein das Lesen genügt jedoch nicht; die Übung besteht darin, mit dem Gelesenen lange genug innezuhalten, bis es beeinflusst, wie Sie über die Werkzeuge nachdenken, die Sie täglich nutzen.

Stellen Sie den Unternehmen, deren Produkte Sie nutzen, Fragen.Verbraucher, Institutionen und Pfarrgemeinden können KI-Unternehmen und den Organisationen, die deren Werkzeuge lizenzieren, schreiben und nach Arbeitsstandards, Lohnniveaus und psychologischer Unterstützung für Datenbeschrifter fragen. Die Forderung nach Transparenz verschiebt — selbst wenn sie zunächst unbeantwortet bleibt — die Bedingungen, unter denen Rechenschaftspflicht möglich wird.

Unterstützen Sie Advocacy-Organisationen, die sich für die Rechte von KI-Arbeitenden einsetzen.Gruppen wie das Data Workers' Inquiry und die African Content Moderators' Union arbeiten unmittelbar an gerechten Löhnen, psychologischer Fürsorge und rechtlichem Schutz für die Menschen, deren Arbeit KI-Systemen zugrunde liegt. Finanzielle Unterstützung, öffentliche Solidarität und institutionelle Partnerschaften erweitern die Reichweite ihrer Arbeit.

Literatur

Bandura, A. (1999). Moral disengagement in the perpetration of inhumanities.Personality and Social Psychology Review, 3(3), 193–209. https://doi.org/10.1207/s15327957pspr0303_3

Figley, C. R. (Hrsg.). (2002).Treating compassion fatigue. Brunner-Routledge.

Hackett, C. (2026, 27. Mai). At Vatican launch ofMagnifica Humanitas, theologians call AI encyclical a moral turning point.National Catholic Register.

Leo XIV. (2026, 25. Mai).Magnifica humanitas[Enzyklika]. Dikasterium für Kommunikation, Heiliger Stuhl. https://www.vatican.va

Norcross, J. C., & Lambert, M. J. (2011). Psychotherapy relationships that work II.Psychotherapy, 48(1), 4–8. https://doi.org/10.1037/a0022180

Perrigo, B. (2023, 18. Januar). Exclusive: OpenAI used Kenyan workers on less than $2 per hour to make ChatGPT less toxic.TIME. https://time.com/6247678/openai-chatgpt-kenya-workers/

Päpstlicher Rat für Gerechtigkeit und Frieden. (2004).Kompendium der Soziallehre der Kirche. Libreria Editrice Vaticana.

Weil, S. (1977). Reflections on the right use of school studies with a view to the love of God. In G. Panichas (Hrsg.),The Simone Weil reader(S. 44–52). McKay. (Originalwerk erschienen 1951)

Whitaker, B. (2023, 5. März). The workers who train AI are fighting for their rights [Fernsehbeitrag].60 Minutes. CBS News.

Wong, P. T. P. (2011). Positive psychology 2.0: Towards a balanced interactive model of the good life.Canadian Psychology, 52(2), 69–81. https://doi.org/10.1037/a0022511