Tech-expert: Folk behöver ett moraliskt ledarskap inom AI
Vatican News
”Världen har ett stort behov av moraliskt ledarskap” när det gäller artificiell intelligens, säger den amerikanske tech-experten och entreprenören Eli Pariser till Vatican News, dagarna efter publiceringen av påve Leo XIV:s första encyklika Magnifica humanitas, som handlar om att värna om människan i en tid präglad av artificiell intelligens.
”Just nu är de som leder utvecklingen så uppslukade av den tekniska kapplöpningen och de pengar som står på spel att de inte ägnar tillräckligt med tid åt att fundera över de djupare etiska och moraliska frågorna”, menar han.
En antropologisk och inte teknisk fråga
Pariser har i över ett decennium talat, reflekterat och skrivit om riskerna och möjligheterna med olika digitala och tekniska utvecklingar. Han började med att främja medborgarengagemang på nätet, och 2011 varnade han för farorna med ett hyperpersonligt internet genom att mynta begreppet ”filterbubblor” – system som selektivt presenterar information för användarna genom algoritmer eller personanpassade sökningar. Idag är han meddirektör för New Public, en ideell organisation som ägnar sig åt att bygga upp hälsosamma och blomstrande digitala offentliga rum, och fokuserar på effekterna av artificiell intelligens. Den 21 maj deltog han i en konferens anordnad av Vatikanens dikasterium för kommunikation om behovet av att bevara mänskliga röster och ansikten i AI-eran.
I intervjun med Vatican News talar Pariser om encyklikans inverkan i kretsar inom teknikbranschen och andra områden, och berömmer påvens uppfattning att det fortfarande finns tid att utveckla AI på ett sätt som gynnar mänskligheten. ”Jag är mycket tacksam mot påven och Vatikanen för att de leder samtalet och påminner människor om att det i slutändan måste handla om mänsklig värdighet och mänsklig blomstring och inte om teknik”, betonade han. ”Det är antropologiskt, inte tekniskt.”
Ett dokument med stor räckvidd och som håller länge
För Pariser kunde Magnifica humanitas inte ha kommit vid en bättre tidpunkt: ”I takt med att diskussionen om AI har tagit fart tror jag att många nu inser att det inte bara är en hype, inte bara en bubbla, utan att det är något verkligt och viktigt som håller på att hända.” ”Å ena sidan vänder sig encyklikan till dem som utvecklar tekniken”, säger han, ”men å andra sidan vänder den sig till en mycket bredare publik av personer som inser hur stor inverkan denna teknik kommer att ha på framtiden för oss alla.”
Medier från hela världen har skrivit om påvens encyklika och Pariser bekräftade att dokumentet diskuteras flitigt online, i olika grupper och bland AI-utvecklare och teknikexperter.
Pariser berättar att encyklikan, under veckan då den publicerades, var ”ett av de mest omtalade samtalsämnena överallt inom alla tekniska sammanhang” som han deltog i. ”Folk har kommenterat, diskuterat, plockat isär och debatterat den". Pariser kallar den ett ”briljant och effektivt sätt” att få människor att faktiskt tänka på och reflektera över de moraliska och andliga dimensionerna av AI och dess utveckling. Han understryker även att han, på grund av de ämnen som behandlas, tror att ”det kommer att bli ett dokument som håller länge”. ”Det finns så mycket där som är viktigt och klargörande. Det kanske inte är direkt relevant för vissa människor idag, men kanske imorgon eller längre fram”.
En AI som för folk samman, inte skiljer dem åt
Påve Leo XIV inleder sin encyklika med att betona att mänskligheten, när det gäller artificiell intelligens, ”står inför ett avgörande val: antingen att uppföra ett nytt Babels torn eller att bygga den stad där Gud och mänskligheten bor tillsammans.” Pariser säger att han uppskattar hänvisningen till Babels torn som en ”påminnelse om farorna med hybris och mänsklig övermod i det vi bygger” och noterar att denna analogi också belyser ”behovet av att skydda både det som gör människor speciella och unika och vår stora mångfald som grupp”. När det gäller AI ”säger påven inte att valet står mellan att helt stoppa allt och gå tillbaka till en tidigare era eller att gå framåt”, utan snarare att ”vi måste välja hur vi vill att AI ska tjäna oss”, förklarar Pariser.
I samma anda understryker Pariser att AI kan ta olika former – det kan antingen vara en ”prosocial AI som knyter samman människor” eller en ”parasitisk AI som fångar människors uppmärksamhet och kannibaliserar deras relationer”. ”Ett enkelt exempel på detta är att om du är ensam kan din chatbot antingen säga ’Jag ska vara din vän’ eller ’Det bästa sättet att få vänner är att engagera dig i en lokal grupp; här är några lokala grupper nära dig som passar dina intressen’”, fortsätter Pariser. ”Jag tror att dessa pekar i väldigt olika riktningar när det gäller effekterna på samhället.”
Pariser understryker hur många känner en ”känsla av hjälplöshet” när det gäller AI, men han insisterar på att denna teknik ”fortfarande befinner sig i ett mycket tidigt skede” och att vi därför kan forma vad den kommer att bli. ”Det finns ingen anledning till att denna teknik inte skulle kunna hjälpa människor”, inte ens när det gäller att förstå hur man bedömer vilken typ av innehåll på internet som är sanningsenligt eller inte, reflekterar Pariser.
Enligt honom är det en fråga om ”incitament”: ”Om din chatbot arbetar för dig och vill granska vad som dyker upp på din skärm för att hjälpa dig att se var det kommer ifrån och vad som är korrekt och vad som inte är det, så är det möjligt. Men om den arbetar för någon annan som vill påverka dig eller få dig att tro på något eller förstärka dina egna felaktiga övertygelser, så är det också mycket enkelt.”
”Det är vårt jobb som samhälle att bestämma hur vi ska strukturera dem och hur vi ska använda dem och i vilket sammanhang”, betonar Pariser.
Börja ta kontroll
I Magnifica humanitas talar påven Leo XIV också om att ”avväpna AI”, eller ”befria den från mentaliteten av ’beväpnad’ konkurrens” och förhindra att den dominerar mänskligheten.
Pariser instämmer i att AI utvecklas i ”en atmosfär av intensiv ekonomisk konkurrens och kapitalistisk maximering”. ”Vi vet från sociala medier och från andra erfarenheter vi har haft med teknik, att när människor optimerar enbart för vad som ger ekonomisk avkastning, har det ofta riktigt skadliga effekter för människor och samhällen”, betonar han och lägger till att han uppskattar att encyklikan lyfter fram denna fråga.
Pariser noterade också att till skillnad från sociala medier, som i hög grad förlitade sig på reklam som affärsmodell, försöker AI-företag generera intäkter på olika sätt; till exempel fokuserar Anthropic på företagsanvändare.
”Det finns mycket utrymme här för att forma saker på ett annat sätt”, betonade Pariser, ”om vi kan ta oss ur den där känslan av hjälplöshet och börja ta kontroll.”
