AI kan føre til massespionage

10 Sep 2024

I December 2023 skrev sikkerhedsanalytiker Bruce Schneier om hans bekymring for brugen af AI til massespionage. Overvågning plejede at være dyr og tidskrævende, men med digitalisering og automatiseret analyse af vores adfærd blev det normen i overvågningskapitalismen:

Computere indsamler data om hvad vi laver på dem […] og det bliver i stigende grad gemt og brugt […] Overvågning er blevet internettets forretningsmodel og der er ikke nogen rimelig måde at fravælge den. [min oversættelse]

Ligesom overvågning har spionage været begrænset af arbejdskraft—nogen skal jo spionere, aflytte. Med AI bliver analyser og opsummeringer i stor skala mulige. Konsekvenserne er mildest talt bekymrende.

Masseovervågning ændrede overvågning fundamentalt. Fordi al data er gemt er det med masseovervågning muligt at overvåge tilbage i tid og endda uden på forhånd at vide, hvem man søger. […] Find alle sæt af telefoner, der bevægede sig mod hinanden, blev slukket og derefter tændt igen en time senere mens de bevægede sig væk fra hinanden (et tegn på et hemmeligt møde).

Tilsvarende vil massespionage forandre spionage. Al data vil blive gemt. Det vil være søgbart, og forståeligt. Fortæl mig, hvem der har talt om et givent emne den sidste måned og hvordan samtaler om det emne har udviklet sig. […] Kort sagt, det bliver muligt at vide alt om hvad alle taler om [min oversættelse]

Så meget sker allerede usynligt, uden vores viden (eller accept).

[…] Stater over hele verden bruger allerede masseovervågning; de vil også udnytte massespionage. […] Teknologimonopolerne der nu har os alle under konstant overvågning vil ikke kun modstå indsamling og brugen af al den data.

Vi har virkelig brug for begrænsninger af teknologiens muligheder, brug for forbud, databeskyttelse.