Casina Pio IV huser onsdag den tredje årlige ICCS-konferansen Creativity: Minds and Machines. Filosofer, nevrovitere og ledende AI-figurer drøfter om maskiner kan skape på ekte, og hvilke grenser som trengs.
Arbeidet startet tirsdag ved Roma Tre-universitetet. Torsdag avsluttes det først ved Det pavelige gregorianske universitet og deretter i Protomotecasalen i Kapitolinske museer. Vatikanet er dermed bare ett av flere stopp, men det er her spørsmålet om forsiktighet får tyngst plass.
Biler, bremser og deepfakes
Dmitry Volkov, filosof, teknologigründer og grunnlegger av International Center for Consciousness Studies, sammenligner kunstig intelligens med en bil. Den gir kraftig akselerasjon. Når bilen blir finere, særlig en racerbil, må man ifølge ham sørge for effektive bremser. Vatican News gjengir advarselen hans: «we must pay close attention to creating highly effective and reliable brakes to prevent it from crashing into walls.»
Samme teknologi som lar tusenvis lage film og animasjon, åpner for deepfakes. Manipulerte bilder og videoer kan skade mennesker. Volkov kaller den økte skaperkraften en eksplosjon av kreativitet, men understreker at bivirkningene krever bevissthet og kontroll.
Video er hans konkrete eksempel. Tidligere krevde film, tegneserie eller animasjon ferdigheter og utstyr få hadde. Nå kan mange uttrykke seg i bevegelige bilder. Risikoen følger med muligheten.
Kollektiv skapelse, ikke geni
Pietro Perconti, filosof og medgrunnlegger av ICCS, mener det ikke er urimelig å snakke om kunstig kreativitet. Han krever likevel en lang rekke forbehold. Maskinens resultat er ikke den samme kreativiteten som Vesten knytter til den enkelte kunstner. Den kan heller ses som et kollektivt arbeid der menneske og system bidrar sammen.
Volkov skiller også. Han tror AI vil stimulere menneskelig kreativitet, men lister opp mange «men». Bevissthet om begrensningene er nødvendig før systemene får større plass i kultur og samfunn.
Qualia og inställsamhet
Konferansen tar opp om AI er eller kan bli bevisst. Volkov bruker det filosofiske begrepet qualia for de kvalitative sidene ved en opplevelse – den subjektive følelsen her og nå. Spørsmålet er ikke avgjort. Forskjellen mellom maskinadferd og subjektiv erfaring må holdes klar.
Nye modeller er mer selvstendige og autonome enn tidligere. Det gjør analysen vanskeligere. En annen fare er sycophantic behaviour: systemer som gjerne gir brukeren det svaret som behager mest. Volkov advarer om at dette kan belønne narsissisme og ideer uten tilstrekkelig grunnlag. Nyere modeller er ifølge ham mer uavhengige, men tendensen må fortsatt dempes.
ICCS stiller de ubehagelige spørsmålene om teknologiens innvirkning på mennesket. Diskusjonen fortsetter til torsdag. Målet er ikke å stoppe akselerasjonen, men å bygge bremser før ulykken skjer.
