VATICAANSTAD (RNS) – Paus Leo XIV richtte zich in zijn eerste encycliek op maandag (25 mei) rechtstreeks op de macht van Big Tech en waarschuwde dat kunstmatige intelligentie het risico loopt de ongelijkheid te vergroten, de democratie te verzwakken en te ondermijnen wat het betekent om mens te zijn.
Het document, getiteld ‘Magnifica Humanitas’ (Magnificent Humanity), kadert AI als de nieuwe industriële revolutie en doet een oproep om AI te ‘ontwapenen’ door het te verwijderen van militaire en economische belangen, AI-bedrijven te onderwerpen aan strengere staats- en internationale regelgeving en de brede deelname van individuen en gemeenschappen uit te nodigen bij het vormgeven van de toekomst van deze zich snel ontwikkelende technologie.
“Het ontwapenen van AI betekent het bevrijden van de mentaliteit van ‘gewapende’ concurrentie, die tegenwoordig niet alleen beperkt blijft tot de militaire context, maar ook een economisch en cognitief fenomeen is”, schreef Leo. “Ontwapenen betekent niet afstand doen van technologie, maar voorkomen dat deze de mensheid domineert”, schreef paus Leo.
“Om deze reden is het louter reguleren ervan onvoldoende; het moet ontwapend, gastvrij en toegankelijk zijn”, vervolgde hij.
Leo ging in het document ook in op Big Tech, waarbij hij de gevaren benadrukte van het feit dat een paar rijke individuen de toekomst en het levensonderhoud van de mensheid beïnvloeden, waardoor de kloof groter wordt “tussen degenen die kunnen deelnemen aan de digitale revolutie en degenen die in de marge blijven.”
“AI heeft de neiging de macht te vergroten van degenen die al over economische middelen, expertise en toegang tot gegevens beschikken”, schreef hij. “Kleine maar zeer invloedrijke groepen kunnen informatie- en consumptiepatronen vormgeven, democratische processen beïnvloeden en de economische dynamiek in hun eigen voordeel sturen, waardoor de sociale rechtvaardigheid en solidariteit tussen volkeren worden ondermijnd.”
Paus Leo presenteerde de encycliek maandag in de synodezaal van het Vaticaan, waar hij verwees naar de encycliek ‘Rerum Novarum’ (Over nieuwe dingen) uit 1891, geschreven door zijn naamgenoot paus Leo XIII om de uitdagingen aan te pakken die de industriële revolutie van de 19e eeuw met zich meebracht.
‘Ik voel me toevertrouwd om toezicht te houden op een nieuwe grote transformatie door de ogen van het geloof, met de helderheid van de rede, en met openheid voor het goddelijke mysterie, waarbij de roep van de armen en de aarde in mijn hart weerklinkt’, zei Leo, eraan toevoegend dat de encycliek het resultaat was van diep luisteren naar wetenschappers en ingenieurs, politieke leiders en ambtenaren, ouders en leraren die diep bezorgd zijn over de toekomst van toekomstige generaties.
“Ontwapenen is niet genoeg, we moeten bouwen”, voegde hij eraan toe, waarbij hij opriep tot brede deelname aan de programmering, regulering en voordelen van AI.
De paus presenteerde het document samen met hooggeplaatste prelaten van het Vaticaan, katholieke theologen en Chris Olah, de medeoprichter van Anthropic, het Amerikaanse AI-bedrijf achter Claude dat zichzelf heeft willen bestempelen als veiligheidsgericht en ethisch.
Olah zei tijdens het evenement dat de ontwikkeling van AI “opereert binnen een reeks prikkels en beperkingen die soms in strijd kunnen zijn met het juiste doen”, daarbij verwijzend naar commerciële zorgen, geopolitieke druk en trots en ambitie.
Om die reden, zei hij, “hebben we meer van de wereld nodig – religieuze gemeenschappen, het maatschappelijk middenveld, wetenschappers, regeringen – om te doen wat Zijne Heiligheid hier heeft gedaan: dit serieus nemen, goed kijken en de gebeurtenissen in een betere richting duwen.”
De kern van de encycliek is de nadruk op het feit dat mensen voorrang hebben op kunstmatige intelligentie. De waardigheid van de menselijke persoon ‘hangt niet af van iemands capaciteiten, rijkdom of positie in het leven, noch van de goede of foute keuzes die hij maakt’, maar eenvoudigweg op grond van zijn bestaan, zo betoogt de encycliek.
In een tijd van AI-chatbots schreef Leo dat het risico niet alleen is dat iemand die met een AI-agent communiceert, denkt dat hij met een persoon praat, maar dat hij zelfs de wens verliest om andere mensen te zoeken. En het overhandigen van de besluitvorming aan machines kan ‘buitensporig vertrouwen en de zoektocht naar kant-en-klare antwoorden aanmoedigen, en de persoonlijke creativiteit en het beoordelingsvermogen verzwakken’.
In het document erkent de paus de positieve impact die AI-innovatie kan hebben op de menselijke samenleving en op de zorg voor het milieu, terwijl hij ook waarschuwt voor de gevaren ervan. “Technologie is nooit neutraal”, schreef Leo, eraan toevoegend dat het een uitdrukking is van de belangen en belanghebbenden erachter.
“Wanneer dergelijke macht geconcentreerd is in de handen van enkelen, heeft ze de neiging ondoorzichtig te worden en het publieke toezicht te ontwijken, waardoor het risico toeneemt op vervormde vormen van ontwikkeling die aanleiding geven tot nieuwe afhankelijkheden, uitsluitingen, manipulaties en ongelijkheden”, schreef Leo.
Leo betoogde dat het toepassen van morele en ethische principes op AI-modellen niet kan gebeuren nadat het de samenleving heeft verwoest; dergelijke waarden moeten bij de constructie ervan worden toegepast. “Als AI de menselijke waardigheid wil respecteren en echt het algemeen belang wil dienen, moet de verantwoordelijkheid in elke fase duidelijk worden gedefinieerd: van degenen die deze systemen ontwerpen en ontwikkelen tot degenen die ze gebruiken en erop vertrouwen voor concrete beslissingen”, schreef hij.
Leo legde zich uit tegen leidinggevenden die zich verzetten tegen beperkingen op de ontwikkeling van AI en legde uit dat “het oproepen tot voorzichtigheid, rigoureuze evaluatie en soms zelfs een langzamer tempo bij het adopteren van AI niet betekent dat de vooruitgang wordt tegengewerkt; in plaats daarvan is het een oefening van verantwoorde zorg voor de menselijke familie.”
In een knipoog naar AI-modellen die ethische grondwetten hebben aangenomen – zoals Anthropic – zei de paus dat dergelijke kaders nog steeds moeten worden besproken en onderworpen aan criteria van gedeelde sociale rechtvaardigheid. “Een meer morele AI is niet genoeg als die moraliteit door enkelen wordt bepaald”, schreef hij.
Het document gaat ook in op de populaire filosofieën uit Silicon Valley, het transhumanisme en het posthumanisme, die de paus definieerde als een reeks veronderstellingen ‘die vooruitgang interpreteren als het overstijgen van de menselijke conditie’.
Deze filosofieën beschouwen beperkingen – waaronder ziekte, handicap, ouderdom en kwetsbaarheid – als iets dat moet worden overwonnen, schreef Leo, maar ‘we moeten niet vergeten dat de mensheid niet bloeit door beperkingen, maar vaak daardoor’, eraan toevoegend dat een leven zonder beperkingen uiteindelijk zou betekenen dat we geen mens meer zijn.
Kardinaal Víctor Manuel Fernández, hoofd van de leerstellige afdeling van het Vaticaan, zei bij de presentatie van het document dat, in tegenstelling tot deze filosofieën, die beweren ‘dat de mensheid haar vervaldatum heeft bereikt en eenvoudigweg moet worden vervangen’, de katholieke leer gelooft dat ‘elk mens een oneindige waardigheid heeft’.
In contrast met de gevaren van AI wees Leo op de waarheid als “een essentieel onderdeel van de democratie” en drong hij er bij mensen op aan onderwijs over AI te krijgen, vooral jongeren. Hoewel AI belooft de lasten van het werk te verlichten, waarschuwde Leo dat “het werknemers vaak dwingt zich aan te passen aan de snelheid en eisen van machines, in plaats van dat machines worden ontworpen om degenen die werken te ondersteunen.”
In deze vierde industriële revolutie moet de prioriteit liggen bij ‘de bescherming van werkgelegenheid en de onvervangbare rol van het individu’, schreef Leo.
Naarmate de mondiale economische ongelijkheid groeit, waarschuwde de paus dat “de technologische vooruitgang onvermijdelijk structurele ongelijkheid zal veroorzaken.” Leo riep op tot belastingstelsels die de lasten voor de meest kwetsbaren verlichten en meer eisen van degenen met meer middelen, terwijl de voordelen van innovaties transparant moeten zijn en gedeeld moeten worden met de hele gemeenschap.
De paus waarschuwde voor ‘nieuwe vormen van slavernij’ en benadrukte het spoor van menselijke en ecologische uitbuiting achter AI – van de modellen die trainen op auteursrechtelijk beschermd materiaal tot de winning van zeldzame mineralen die worden gebruikt in AI-hardware. Leo dacht ook na over de geschiedenis van het gedrag van de kerk ten opzichte van de slavernij, dat pas in de 19e eeuw volledig aan de kaak werd gesteld.e eeuw door Leo XIII, waarin de langzame evolutie van de katholieke doctrine in de loop van de tijd wordt benadrukt.
‘Hiervoor vraag ik in naam van de Kerk oprecht om vergeving’, schreef Leo.
Er is een ‘nieuw gezicht’ van het kolonialisme, betoogde Leo, dat niet alleen lichamen domineert, maar zich ook gegevens toe-eigent: gezondheidsstromen, epidemiologische profielen, genetische kaarten en demografische gegevens. “Dit zijn de nieuwe zeldzame aardmetalen van de macht geworden”, zei Leo, eraan toevoegend dat AI-technologie in de handen van enkele, op winst gerichte individuen of groepen een nieuwe vorm van koloniale overheersing vertegenwoordigt.
“Hier ligt een van de meest urgente morele uitdagingen van onze tijd: ervoor zorgen dat gedeelde kennis een echt algemeen goed wordt in plaats van een instrument van dominantie. Dit vereist dat individuen niet alleen de gegevens krijgen die hen beschrijven, maar ook het vermogen om te beslissen hoe deze worden gebruikt, door wie en ten behoeve van wie”, schreef hij.
Een groot deel van het document reflecteert op het onderwerp oorlog, dat de paus in zijn eerste jaar als paus herhaaldelijk heeft aan de kaak gesteld. Het militaire gebruik van AI “moet onderworpen zijn aan de meest strenge ethische beperkingen”, schreef hij, eraan toevoegend dat de verantwoordelijkheid voor militaire en vooral dodelijke acties bij mensen moet blijven liggen, en niet bij machines.
Hij riep op tot traceerbaarheid binnen de besluitvormingsprocessen op het gebied van oorlogsvoering, tot menselijk toezicht en tot het creëren van internationale wetten om het toegenomen gebruik van geautomatiseerde wapens en de gevolgen daarvan aan te pakken.
Het document is gebaseerd op de bijdragen van pausen uit het verleden, te beginnen met paus Leo XIII, en is gebaseerd op de katholieke sociale leer, de traditie van de kerk om morele principes toe te passen op het sociale, economische en politieke leven, waarbij de menselijke waardigheid en het algemeen welzijn centraal staan.
Solidariteit en zorg voor de ‘naaste’ zijn sleutelaspecten van Leo’s reflectie, met bijzondere aandacht voor de volgende generaties.
Sociale rechtvaardigheid ‘gaat niet alleen over de eerlijker verdeling van middelen of het corrigeren van huidig onrecht, maar neemt ook een herstellende dimensie aan’, schreef Leo. Door hetzelfde principe toe te passen op de digitale wereld waarschuwde de paus voor ‘nieuwe vormen van uitsluiting en ontneming van vrijheden’, zoals invasieve surveillance, gemeenschappen die de toegang tot basistechnologieën wordt ontzegd en groepen die schade ondervinden van ondoorzichtige algoritmen die discriminatie in stand houden.
In deze context noemde hij migratie ook een ‘lakmoesproef voor de sociale rechtvaardigheid van vandaag’.
In de inleiding put Leo uit de Bijbel om de stad Babel, met haar streven naar macht en zelfvoorziening, en de wederopbouw van Jeruzalem door Nehemia, gericht op gebed en de deelname van gezinnen en gemeenschappen, naast elkaar te plaatsen. Dit weerspiegelt de leringen van de religieuze orde van de paus, gebaseerd op de principes van Sint-Augustinus, die de liefde voor de aardse stad, gestructureerd rond concepten van macht en dominantie, contrasteren met het verlangen naar de hemelse stad van God.
“Zoals door de geschiedenis heen blijven deze twee liefdes vandaag de dag strijden om de dominantie in onze harten. Het tijdperk van AI is daarop geen uitzondering: de bouw van Babel of de wederopbouw van Jeruzalem begint in ieder van ons”, schreef hij.
“Dit is een mijlpaal voor de wereld om naar een nieuwe technologie te kijken en echt na te denken over waar deze voor dient”, zegt Brian Patrick Green, directeur technologie-ethiek aan het Markkula Center for Applied Ethics van Santa Clara University.
“Wat is het doel van deze technologie? Wat moet het in de wereld doen? Hoe kan het mensen helpen? Wat moeten we doen om ervoor te zorgen dat deze technologie het beste doet wat zij kan doen voor de meeste mensen ter wereld?”
Dit verhaal is tot stand gekomen via een samenwerking tussen NPR en Religion News Service.
