I Vatikanen varnade påven Leo XIV på fredagen för att artificiell intelligens kan göra mänskligheten till offer för de uppfinningar den själv har skapat. Han talade till medlemmar av Internationella institutet för förvaltningsvetenskap, IIAS, där Heliga stolen också är medlem.
Mötet hölls under årets konferens, vars tema handlar om hur digital teknik ska användas i samhället. Påven kopplade frågan till sin encyklika Magnifica humanitas, där han behandlar skyddet för människan i artificiell intelligens tidsålder.
Beslut om människoliv får inte lämnas åt maskiner
Utvecklingen inom AI går snabbt. Det väcker enligt påven frågan om människor i framtiden kommer att kunna kontrollera maskinerna, och om mänskligheten riskerar att bli offer för sina egna skapelser.
”Vi måste se till att den mänskliga familjens bästa inte offras för privata intressen”, sade han.
Han pekade särskilt på att beslut som rör människoliv redan håller på att överlåtas åt maskiner. Det gäller en gräns där teknisk effektivitet inte kan ersätta mänskligt omdöme.
Påven berömde därför institutets arbete med att försvara den mänskliga intelligensens ställning i mötet med tekniska verktyg. Forskningen bör också hjälpa offentliga myndigheter att fatta beslut som tjänar hela mänskligheten, sade han.
Efterlyser etiska regler och offentlig kontroll
En etisk ram måste följa med användningen av AI, enligt påven. Samtidigt samlas de viktigaste digitala verktygen i händerna på stora ekonomiska och tekniska aktörer, medan staten har svårt att utöva kontroll.
Det gör offentlig förvaltning till en central plats för frågan. Myndigheter behöver kunna bedöma hur systemen används, vem som ansvarar för besluten och hur människors rättigheter skyddas när tekniken får större inflytande över vardagen.
Konferensens vädjan om balans i användningen av digital teknik ligger nära påvens egen uppmaning. Tekniken ska inte bara bedömas efter vad den klarar, utan efter vilket samhälle den formar och om den tjänar människors liv.
Institutet grundades efter den stora depressionen
Internationella institutet för förvaltningsvetenskap grundades 1930, i spåren av den stora depressionen. Organisationen arbetar med hur offentliga myndigheter kan anpassa styrning och förvaltning till förändrade samhällsbehov.
Påven uppmanade medlemmarna att fortsätta söka praktiska vägar för att göra digital teknik mer mänsklig och inriktad på liv och fred. Uppgiften är svår, sade han, och modlöshet kan ibland ta över. Han försäkrade samtidigt att han ber för att Gud ska ge dem kraft att fortsätta.
Vatican News rapporterade från mötet.
