Förhållandet mellan artificiell intelligens och demokrati är varken linjärt eller enkelriktat, utan snarare en sammanvävning av motstridiga krafter som samtidigt förstärker och undergräver grunderna för den demokratiska processen.

‍

Omvandlingen av den offentliga agoran

AI har på ett genomgripande sätt förändrat det offentliga rum där den demokratiska debatten äger rum. Denna förändring går långt utöver den enkla frågan om desinformation. Vi bevittnar en fragmentering av den kollektiva informationsupplevelse som historiskt sett har varit en grundläggande förutsättning för moderna demokratier.

‍

När olika medborgare lever i radikalt olika informationsverkligheter som struktureras av rekommendationsalgoritmer, försvinner den gemensamma grund som krävs för en demokratisk dialog.

‍

Samtidigt som AI har mångfaldigat de tillgängliga informationskällorna har den paradoxalt nog också urholkat de demokratiska samhällenas förmåga att nå samförstånd om vad som utgör "fakta". Denna epistemiska erosion utgör en djupare och mer lömsk utmaning än att bara sprida falska nyheter.

‍

Dilemmat mellan makt och kompetens

Demokratierna står inför ett grundläggande dilemma: beslut om AI kräver extremt specifik teknisk expertis, men att överlåta dessa beslut uteslutande till experter innebär att de avlägsnas från den demokratiska processen. Det finns således en olöst spänning mellan den demokratiska principen (beslut som fattas av och för medborgarna) och behovet av specialistkompetens.

‍

Denna spänning förvärras av det faktum att alltmer komplexa AI-system är ogenomskinliga inte bara för vanliga medborgare, utan ibland även för de experter som utvecklar dem. Hur ska demokratisk kontroll kunna fungera när de instrument som ska styras är svårbegripliga för människor?

‍

Politisk mikromålgruppering och valprocesser

Politisk mikromålgruppering med hjälp av AI har blivit alltmer sofistikerad i dagens valkampanjer. AI-system analyserar stora datamängder om väljare för att skapa mycket personligt anpassade politiska budskap. Bara säkerhet

‍

Forskning visar att personlighetsinriktade, AI-genererade politiska annonser är betydligt mer övertygande än generiskt innehåll. PubMedNih

‍

Skalan och effektiviteten hos AI gör det möjligt för kampanjer att generera anpassat innehåll för miljontals väljare samtidigt, vilket gör mikromålgruppering mycket mer genomförbart och kostnadseffektivt än någonsin tidigare. Politisk marknadsförareCSET

‍

Nya studier visar att AI-förstärkta kampanjverktyg kan identifiera psykologiska sårbarheter hos väljare och skapa budskap som utnyttjar dessa egenskaper. OUPAkademiskTeknikInformerad

‍

De demokratiska aspekterna är betydande:

• Potentialen för manipulation demonstreras av forskning som visar hur mikromålgruppering kan utnyttja psykologiska sårbarheter OUPAcademicTechInformed
• AI kan bidra till polarisering genom att väljare främst exponeras för innehåll som stämmer överens med deras befintliga åsikter Lse
• Väljarna är vanligtvis inte medvetna om att de får skräddarsytt politiskt innehåll SFGateTechInformed
• Välfinansierade kampanjer kan använda mer sofistikerade AI-verktyg, vilket potentiellt kan skapa ojämlikt politiskt inflytande SFGateBrennancenter

Röstningssystem och valinfrastruktur påverkas också av AI, på både positiva och negativa sätt:

• AI kan förbättra valsäkerheten genom att upptäcka avvikelser och övervaka infrastruktur för potentiell störning R StreetInstituteBrookings
• Valadministrationen kan bli mer effektiv tack vare AI som förenklar processer som verifiering av röstregistrering CisaBrookings
• AI medför dock också risker som mer sofistikerade nätfiskeattacker, deepfakes av desinformation inför val och storskaliga automatiserade desinformationskampanjer Sophos News + 3

‍

Demokratiskt deltagande och medborgerligt engagemang

AI innebär både möjligheter och utmaningar för det demokratiska deltagandet:

Positiva effekter

• Förbättrad tillgång till samhällsinformation: AI-verktyg kan förenkla komplex myndighetsinformation IeeeBrookings
• Bättre tillhandahållande av offentliga tjänster: AI-baserade system kan analysera samhällsdata för att hjälpa myndigheter att svara mer effektivt på medborgarnas behov Nextcity + 2
• Utökade verktyg för deltagande: plattformar som Pol.is använder AI för att analysera allmänhetens synpunkter i stor skala ECNLBrookings
• Minska hindren för deltagande: AI-översättningstjänster kan möjliggöra flerspråkigt medborgardeltagande ECNLBrookings

Negativa effekter

• Informationsmanipulation: AI-genererat innehåll kan användas för att sprida desinformation BrennancenterBrookings
• Förstärkning av befintliga fördomar: AI-system som tränas på partiska data kan vidmakthålla och förstärka ojämlikheter i medborgardeltagande BrennancenterBrookings
• Minskat mänskligt handlingsutrymme: en alltför stor tilltro till algoritmiskt beslutsfattande i styrningen kan minska det mänskliga omdömet och ansvarstagandet
• Den digitala klyftan förvärras: ojämlik tillgång till AI-förbättrad samhällsteknik kan fördjupa befintliga deltagarklyftor Aiworldtoday + 2

‍

Omstrukturering av maktrelationer

AI förändrar inte bara formerna för den demokratiska debatten, utan omstrukturerar på djupet maktförhållandena i samhället. Kontrollen av AI-infrastrukturer utgör nu en form av makt som är jämförbar med, om inte överlägsen, den som traditionellt utövas av demokratiska institutioner som parlament.

‍

Vi bevittnar en förskjutning av beslutsmakten från offentliga institutioner som står under demokratisk kontroll till privata enheter som verkar enligt andra logiker. Denna förflyttning av makt sker ofta osynligt, genom att beslut successivt delegeras till automatiserade system som arbetar enligt parametrar som inte alltid är transparenta eller demokratiskt fastställda.

‍

Omdefiniering av demokratiskt deltagande

AI håller på att förändra själva konceptet med demokratiskt deltagande. Å ena sidan erbjuder den verktyg för mer direkta och deltagande former av demokrati, å andra sidan introducerar den nya kognitiva och tekniska hinder för tillgång. I denna process omdefinieras också värdet av individuella åsikter: hur kan man, i ett sammanhang med ökande algoritmisk personalisering, skilja mellan autentiskt personliga preferenser och sådana som induceras av rekommendationssystem?

‍

Denna ambivalens visar sig också i AI-assisterade deliberationssystem: de kan göra komplexa beslutsprocesser mer tillgängliga, men de riskerar också att förenkla frågor som skulle kräva mer djupgående offentlig reflektion.

‍

De demokratiska institutionernas metamorfos

Traditionella demokratiska institutioner, som skapades i en fördigital tidsålder, har svårt att anpassa sig till den hastighet som den tekniska innovationen medför. Denna tidsmässiga asynkronitet mellan den snabba utvecklingen av AI och den långsammare takten i de demokratiska processerna skapar ett styrningsvakuum som riskerar att fyllas av icke-demokratiska beslutsmekanismer.

‍

Utmaningen är inte bara att reglera AI genom befintliga institutioner, utan att ompröva dessa institutioner så att de passar in i en tid då artificiell intelligens blir alltmer central i sociala, ekonomiska och politiska processer.

‍

Ett nytt medborgarskapsbegrepp i AI:s tidevarv

För att hantera dessa utmaningar måste en ny syn på demokratiskt medborgarskap utvecklas som inbegriper en medvetenhet om AI:s roll. Detta innebär att man måste övervinna både den naiva teknikoptimism som ser AI enbart som en möjlighet till demokratisk förbättring och den pessimism som ser AI enbart som ett hot.

‍

Istället krävs det att man utvecklar en medborgerlig läskunnighet som innefattar förmågan att kritiskt utvärdera algoritmernas inflytande, att medvetet delta i debatter om komplexa tekniska frågor och att kräva transparens och ansvarsskyldighet från dem som utvecklar och implementerar AI-system med betydande sociala konsekvenser.

‍

I slutändan är förhållandet mellan AI och demokrati inte förutbestämt av tekniken i sig, utan kommer att bero på vår kollektiva förmåga att föreställa oss och konstruera institutioner, normer och praxis som gör det möjligt att rikta den tekniska utvecklingen mot att stärka snarare än att urholka grundläggande demokratiska värden.

‍

Frågor och svar om artificiell intelligens och demokrati

‍

Hur kan AI stärka det demokratiska deltagandet?

AI kan öka det demokratiska deltagandet genom att göra myndighetsinformation mer tillgänglig, möjliggöra flerspråkigt deltagande, analysera allmänhetens synpunkter i stor skala och personanpassa upplevelser av medborgarengagemang.IeeeOECD-evenemang Till exempel kan AI-förbättrade översättningstjänster göra det möjligt för språkliga minoriteter att delta mer fullständigt i demokratiska processer, ECNL, medan dataanalysverktyg kan hjälpa regeringar att identifiera och ta itu med ojämlikheter i tillhandahållandet av offentliga tjänster. Nextcity + 2

‍

Vilka är de mest oroande riskerna med AI för demokratiska system?

De mest betydande riskerna inkluderar: spridning av övertygande felaktig information och deepfakes som undergräver delade fakta; manipulation genom mikromålriktat politiskt innehåll; OUPAcademicMediaengagement algoritmiska fördomar som utesluter vissa grupper från demokratiska processer; och säkerhetssårbarheter i valinfrastruktur. Sage Journals + 5 Forskning visar att dessa risker inte bara är teoretiska - studier dokumenterar den övertygande kraften hos AI-genererat politiskt innehåll som är anpassat till individuella psykologiska profiler. PubMed + 2

‍

Hur kan myndigheter reglera AI i politiska kampanjer?

Effektiva regleringsmetoder omfattar: obligatoriska informationskrav för AI-genererat politiskt innehåll, begränsningar av vilka typer av personuppgifter som kan användas för politisk mikromålgruppering, oberoende tillsynsmekanismer för att övervaka kampanj-AI-system och offentliga utbildningsinitiativ för att öka väljarnas medvetenhet om AI-förstärkta övertalningstekniker. PBS + 4 EU:s AI-lag är ett exempel på ett riskbaserat regelverk som specifikt behandlar användningen av AI i demokratiska processer. Europa + 2

‍

Vilken roll bör medborgarna spela i styrningen av AI?

Medborgarna bör ha stora möjligheter att forma styrningen av AI genom deltagandemekanismer som medborgarförsamlingar, offentliga samråd och kontinuerliga processer för att engagera intressenter. Brookings Research visar att engagemang av olika intressenter under hela AI-livscykeln leder till mer tillförlitliga system som bättre återspeglar samhällets värderingar. Adalovelaceinstitute + 13 Framgångsrika modeller som Camden Data Charter visar hur medborgarnas deltagande kan skapa etiska ramar för användningen av AI i offentliga tjänster. Oecd

‍

Hur kan vi skydda valinfrastrukturen från hot som bygger på AI?

Skyddsstrategier inkluderar: implementering av robusta cybersäkerhetsåtgärder som multifaktorautentisering; utbildning av valförrättare för att känna igen AI-förstärkta nätfiskeförsök; utveckling av system för att identifiera och motverka AI-genererad felaktig information om röstning; Sophos News upprättande av verifieringsprocesser för officiell valkommunikation; och skapande av redundanta system för kritisk valinfrastruktur. ABC News + 2 Cybersecurity and Infrastructure Security Agency (CISA) tillhandahåller specifika riktlinjer för valförrättare för att minska riskerna med AI. CisaCisa

‍

Hur kan AI förändra förhållandet mellan medborgare och myndigheter?

AI kan förändra relationerna mellan medborgare och myndigheter genom att möjliggöra mer individanpassade offentliga tjänster, skapa nya kanaler för medborgardeltagande, automatisera vissa myndighetsfunktioner och potentiellt förändra maktdynamiken i demokratiska system. EffOECD Riktningen för denna omvandling beror till stor del på styrningsval, om AI implementeras på sätt som ökar det demokratiska ansvarsutkrävandet eller koncentrerar makten till tekniska system med begränsad tillsyn. ScienceDirect + 2

Vilket internationellt samarbete behövs för IA-styrning i demokratiska sammanhang?

Internationellt samarbete är avgörande för att fastställa gemensamma standarder, förhindra fragmentering av lagstiftningen, hantera gränsöverskridande effekter av AI och främja anpassning till demokratiska värden i utvecklingen av AI. Oecd + 2 OECD:s AI-principer utgör en modell för internationell samordning och tillhandahåller ett gemensamt ramverk som antagits av 47 jurisdiktioner globalt, samtidigt som det ger utrymme för flexibilitet för nationell implementering. OecdBrookings

‍

Hur kan vi se till att AI gynnar demokratin snarare än undergräver den?

För att säkerställa att AI gynnar demokratin krävs: proaktiva värdebaserade styrningsramar, meningsfulla krav på transparens och ansvarsskyldighet, deltagande metoder för AI-utveckling och reglering, investeringar i digital kompetens, skydd av grundläggande rättigheter i AI-applikationer och mekanismer för att hålla AI-system och deras utvecklare ansvariga. Eff + 4

Det finns belägg för att föregripande styrning är mer effektiv än reaktiv reglering. OecdBrookings

‍

Slutsats

AI innebär både betydande möjligheter och utmaningar för globala demokratiska system. Vår omfattande granskning visar på flera viktiga slutsatser:

1. Den tekniska utvecklingen fortsätter: AI-verktyg för att skapa och sprida desinformation blir allt mer sofistikerade och tillgängliga, vilket kräver kontinuerlig vaksamhet och anpassningsbara åtgärder. Dialogopolitisk
2. Effekterna är kontextuella: effekterna av AI-förstärkt desinformation varierar avsevärt mellan olika sociala, politiska och mediala sammanhang, och vissa samhällen visar sig vara mer motståndskraftiga än andra. Washington Post + 2
3. Lösningar kräver samarbete: Effektiva åtgärder mot AI-felinformation kräver samarbete mellan flera intressenter - teknikföretag, regeringar, civilsamhället och medborgarna. Acigjournal + 4
4. Mänskligt omdöme är fortfarande avgörande: trots framstegen inom AI-detekteringssystem är mänskligt kritiskt tänkande och mediekunskap fortfarande det ultimata försvaret mot sofistikerad desinformation. VtAARP
5. Det krävs en nyanserad förståelse: utöver tekniska lösningar måste man för att komma till rätta med AI-förstärkt desinformation ta itu med den underliggande sociala polariseringen, utmaningarna i medieekosystemet och bristerna i medborgarutbildningen. Taylor &FrancisNatur