Assisi: Kardinal Charles Maung Bo kräver ett omedelbart och bindande internationellt förbud mot helt autonoma dödliga vapen. Vid ett möte för kristna lagstiftare och politiska ledare varnade han samtidigt för att algoritmer kan försvaga medborgarnas omdöme och göra våld lättare att besluta om.
Bo, ärkebiskop av Yangon och ordförande för Myanmars katolska biskopskonferens, höll huvudtalet vid samlingen The Urgent Call for Christian Leaders to be Effective Peacemakers i Assisi. Vatican News rapporterar att talet knöt samman artificiell intelligens, mänsklig värdighet och fred.
Lagstiftare måste sätta gränser
Kardinalen riktade sig främst till de folkvalda. De måste kräva insyn från teknikföretag, reglera systemen och se till att tekniken förblir underordnad människan, sade han. Företag som utvecklar AI söker i vissa fall själva vägledning och tydliga gränser, enligt Bo. De kan förstå tekniken utan att ha svar på alla frågor om människans värdighet.
establish binding legal guardrails, demand corporate transparency, reject the automation of human slaughter, and ensure that technology remains entirely subservient to the magnificent humanity that God has entrusted to our care.
Att avstå från reglering innebär enligt kardinalen att folkvalda lämnar över sitt ansvar till en föreställning om teknisk oundviklighet. Han beskrev lagstiftarnas uppgift som att dra moraliska gränser där företag av kommersiella och juridiska skäl inte alltid kan göra det själva.
AI får inte sänka tröskeln för våld
Bo avvisade automatiserad krigföring. Maskiner kan optimera sannolikheter, men de kan inte ha en rätt avsikt eller förstå sorg, barmhärtighet och människolivets helighet, sade han. När beslut om angrepp flyttas till system utan mänskligt samvete riskerar människor att reduceras till datapunkter.
Det är särskilt farligt i en tid som präglas av krig, oro i samhällen och ekonomiska kriser, enligt kardinalen. Han kopplade därför kravet på ett vapenförbud till en bredare kristen uppgift: att söka fred och rättvisa. Påven Leo XIV har formulerat fred som rättvisa i arbete, sade Bo.
Algoritmer formar medborgarnas val
Varningen gällde inte bara slagfältet. Bo sade att plattformar och algoritmer redan kan paketera det människor läser, köper, tror på och värderar. En övergång utan styrning kan enligt honom göra en hel generation beroende av förutsägande återkoppling och ersätta rationellt och moraliskt omdöme med snabba tekniska svar.
Följden kan bli svagare demokratiska institutioner och mer utrymme för auktoritära styren. Kardinalen efterlyste därför teknik som stärker mänsklig kreativitet och avlastar farligt arbete utan att göra människor till utbytbara kuggar.
Hans syn på välstånd var densamma: tekniken ska tjäna människan och inte förvandla henne till en vara. Den digitala utvecklingen behöver enligt Bo förenas med ansvar, öppenhet och skydd för människoliv.
