Joakim Nygård Archive Linked About

AI kan føre til massespionage

10 Sep 2024 -

I December 2023 skrev sikkerhedsanalytiker Bruce Schneier om hans bekymring for brugen af AI til massespionage. Overvågning plejede at være dyr og tidskrævende, men med digitalisering og automatiseret analyse af vores adfærd blev det normen i overvågningskapitalismen:

Computere indsamler data om hvad vi laver på dem […] og det bliver i stigende grad gemt og brugt […] Overvågning er blevet internettets forretningsmodel og der er ikke nogen rimelig måde at fravælge den. [min oversættelse]

Ligesom overvågning har spionage været begrænset af arbejdskraft—nogen skal jo spionere, aflytte. Med AI bliver analyser og opsummeringer i stor skala mulige. Konsekvenserne er mildest talt bekymrende.

Masseovervågning ændrede overvågning fundamentalt. Fordi al data er gemt er det med masseovervågning muligt at overvåge tilbage i tid og endda uden på forhånd at vide, hvem man søger. […] Find alle sæt af telefoner, der bevægede sig mod hinanden, blev slukket og derefter tændt igen en time senere mens de bevægede sig væk fra hinanden (et tegn på et hemmeligt møde).

Tilsvarende vil massespionage forandre spionage. Al data vil blive gemt. Det vil være søgbart, og forståeligt. Fortæl mig, hvem der har talt om et givent emne den sidste måned og hvordan samtaler om det emne har udviklet sig. […] Kort sagt, det bliver muligt at vide alt om hvad alle taler om [min oversættelse]

Så meget sker allerede usynligt, uden vores viden (eller accept).

[…] Stater over hele verden bruger allerede masseovervågning; de vil også udnytte massespionage. […] Teknologimonopolerne der nu har os alle under konstant overvågning vil ikke kun modstå indsamling og brugen af al den data.

Vi har virkelig brug for begrænsninger af teknologiens muligheder, brug for forbud, databeskyttelse.

Internettet er heldigvis stadig skørt

9 Sep 2024 -

Nolen Royalty fortæller om sin oplevelse med at bygge et website med en million checkboxes og lade hele verden klikke. Det er en rørende historie om at eksperiemente, (mis)bruge systemer kreativt og danne midlertidige fællesskaber (min oversættelse):

Vi snakkede lidt. Og så spurgte vedkommende mig om noget der blæste mig omkuld:

“Har du set dine checkboxes som et 1000x1000 billede endnu?”

Det minder mig om internettet fra omkring årtusindskiftet. Det findes stadig derude. Det kan jeg godt lide.

Macintosh fylder 40

24 Jan 2024 -

For 40 år siden introducerede Apple Macintosh, den første almindeligt tilgængelige computer med en grafisk brugerflade med vinduer, ikoner og en mus. På mac40th.com findes fine billeder af alle Macintosh nogensinde lavet.

AI Bamser

18 Dec 2023 -

OpenAI og hypen om kunstig intelligens er alle vegne. Jeg forbliver både skeptisk og bekymret over den ekstremt hurtige udrulning til så mange områder. Nu er legetøjet også ved at blive invaderet og det lyder som en gyser-film:

Grok er det første produkt fra en opstartsvirksomhed i Silicon Valley kaldet Curio, der bruger Open AIs teknologi i en række tøjbamser som Curios stiftere siger vil være i stand til at føre lange, fuldt interaktive samtaler og lade barnet se den næsten som en ligemand eller ven [min oversættelse].

Ak! En ting er fantasivenner og leg med bamser som var de levende. Traditionelt elektronisk legetøj afspiller blot optagne lyde, interaktionen er styret af barnet og forudsigelig, forståelig. Modeller som ChatGPT er noget ganske andet—så overbevisende at voksne mennesker lader sig rive med.

Eaton sagde at Grok vil komme med en app til forældre, der vil vise fulde udskrifter af alle samtaler barnet har med legetøjet [min oversættelse]

En voldsomt invaderende overvågning af barnet! Var det voksne ville sådan en aflytning være kriminel. Vi har som samfund i den grad brug for samtale og stillingtagen til, hvad vi ønsker at bruge AI til, på hvilke måder og, ikke mindst, hvor vi ikke ønsker det. Et oplagt sted at starte begrænsningen er overfor børn.

Desværre viser situationen med afhængighedsskabende apps som Instagram, Tiktok og før det Facebook nok, at lovgivningen er alt for langsom og at de (vi?) voksne ikke forstår konsekvenserne, før skaden er sket.

Lad os tale sammen. Det er aldrig for sent at tage stilling.

AI finder nye krystaller

12 Dec 2023 -

Google DeepMind har med brug af et AI værktøj kaldet GNoME udforsket og evalueret mere end to millioner nye krystallinske strukturer. 380.000 af dem er stabile nok til at kunne syntetiseres for videre eksperimenter.

Artiklen fra DeepMind nævner The Materials Project, nyt for mig, der i godt ti år har brugt supercomputere og avancerede algoritmer til at udforske nye materialer. GNoME har mangedoblet området, der kan afsøges. Det er spændende brug af AI og fascinerede resultater, der måske kan bidrage til bedre batterier eller superledere.

Det er også et godt eksempel på et område hvor der ikke er brug for de efterhånden almenkendte store sprogmodeller (LLMer) som ChatGPT. Målet her er ikke udforskning af sprog men kemi.

Alexa lyver om det amerikanske valg

25 Oct 2023 -

Amazons digitale assistent Alexa er ikke en troværdig kilde til information. Cat Zakrzewski skriver for The Washington Post:

Midt i bekymringen for at kunstig intelligens vil accellere spredningen af misinformation, dukker en vild påstand op fra en mere almindelig kilde: Amazons Alexa, der erklærede at presidentvalget i 2020 var stjålet.

Til et spørgsmål om svindel i valgkampen — hvor Joe Biden vandt over president Donald Trump med 306 valgmandsstemmer — svarede den populære assistent at valget var “stjålet ved udbredt valgsvindel” og citerede Rumble, en video-streaming tjeneste ofte brugt af højreorienterede. [min oversættelse]

I lighed med Bings hallucinerende ikke-resultater, er de mere kendte assistenter som Amazon tydeligvis heller ikke til at stole på. Det er måske mere afgørende end nogensinde at vi husker at være kritiske overfor det vi ser, hører og læser.

Olieforbruget stiger stadig

27 Sep 2023 -

Vi er ikke på rette vej i en omstilling væk fra fossile brændstoffer. Trods udbygning med vind- og solenergi (nogle steder også vandkraft) og et mål om elektrificering, vokser verdens olieforbrug.

Data fra Statistical Review of World Energy (tidligere udarbejdet af olieselskabet BP) viser tydeligt udviklingen. Mellem 1992 og 2022 er forbruget i Nordamerika steget fra 20 til 23,5 millioner tønder dagligt og Europas tørst er kun faldet fra 16 til 14,1 millioner tønder dagligt. På 30 år!

Verdens olieforbrug i millioner tønder dagligt mellem 1992-2022, (data fra Statistical Review of World Energy)

Nedlukningen i 2020 i forbindelse med corona-virus pandemien bragte efterspørgslen ned på niveau med 2012, men siden er det gået stejlt opad igen og forbruget ser ud til at sætte rekord i 2023.

Den sidste side

25 Jun 2023 -

De seneste dage har dele af internettet været optaget af Reddits beslutning om at tage betaling for API adgang. Særligt brugen af Reddit som træningsdata til LLM som ChatGPT har forstærket udsigten til en indtjeningsmulighed (LLM er en forkortelse for Large Language Model, store sprogmodeller, der danner basis for bl.a. de nye chat-AIer).

Prisændringen har bl.a. presset Christian Selig til at lukke Apollo, bredt anerkendt som den bedste Reddit app. Som en reaktion på dels lukningen og dels den virkelig dårlige håndtering af Reddits skifte til at tage betaling for brug af deres API, valgte en stor del af Reddits største fora at lukke, de fleste i 48 timer men enkelte permanent.

Reddit er mange ting, også rodet og pinligt, men der er så meget viden og information samlet og modereret - frivilligt. Det er på mange måder en moderne udgave af Usenet, bortset fra den (afgørende) profitdrevne del. Jeg skrev i maj sidste år om Googles fald fra toppen og linkede til Dmitri Breretons blog om Reddits vækst. Desværre ender det måske nu i fortjenestens navn og efter (mis)brug af de nye hypede algoritmer.

Alex Pareene for Defector:

Vi lever i den sidste tid med et brugbart internet. Fremtiden er oplyste diskussioner bag låste døre, i Discords og private fora, med det offentligt tilgængelige net i stigende grad fyldt med affald skabt af LLMer, der kun stilistisk ligner brugbar information. [min oversættelse]

Lad os søge efter en bedre version.

AI og mine billeder

16 May 2023 -

Når computeralgoritmer (AI) som Stable Diffusion og Midjourney kan generere billeder af hvad som helst, bliver det endnu vanskeligere fremover at vide, hvad der er virkeligt, hvis man ikke har set det med egne øjne.

Jeg tænkte i første omgang på nyheder, historieforfalskning eller anden manipulation på samfundsniveau. Jeg talte med min bror om at der er opstået en tidsmæssig skillelinje: Før og efter AI (E.AI). E.AI er omkring 2022 da generatorerne fik deres offentlige gennembrud. Den stigende andel af genererede billeder får også betydning for træning af fremtidige modeller, fordi data ikke længere kun (fortrinsvis) vil bestå af menneskeskabte ord og billeder men også af tidligere AIers output.

Det får måske endnu større betydning for private billeder, der lægges online på diverse sociale netværk, i hvert fald emotionelt. Billederne her kan manipuleres, modeller trænes på ansigter til at skabe forfalskede situationer med virkelige mennesker som aktører. Den venlige version er et falsk foto af mig på en strand, jeg aldrig har besøgt – se mit smukke liv. Den grimme er et falsk billede af mig i en kompromiterende situation (husk blot debatten om pornografiske deepfakes i 2021). I begge tilfælde vil det over tid blive stadigt vanskeligere at afsløre falskneriet.

Måske skal vi tilbage til at dele mindre med færre?

Lidt om aluminium

30 Mar 2023 -

Udvinding af metaller kræver store mængder energi. Aluminium er det tredjehyppigste grundstof i jordskorpen, fremstilles elektrolytisk af bauxit og er i særdeleshed energikrævende med mere end 200 MJ/kg, godt 55,5 kWh/kg! (Energy use in metal production, Rankin) Den Store Danske skriver 280 MJ/kg.

Det norske forskningsinstitut Sintef angiver verdensproduktionen i 2018 til 64∙10⁹ kg. Rusal skriver at de med 3,76 millioner ton aluminium i 2019 stod for ca. 5,9% af verdens primære produktion. Det giver 63,68 millioner ton – svarende til Sintefs tal.

Rusals infoside aluminiumleader.com angiver bekræftede globale resourcer til 18,6 milliarder ton bauxit og at det med nuværende forbrug rækker til 100 år. Det giver et årligt forbrug på 186 millioner ton og med et udbytte på mellem ¼ og ⅕ ren aluminium kan årligt produceres mellem 46 og 37 millioner ton.

IAI, International Aluminium Institute har statistik over aluminiumsproduktion helt tilbage til 1970erne. Kinas enorme vækst springer i øjnene, også hjulpet af udflytning af produktion fra vesten. Siden 2012 har Kina stået for mere end halvdelen af verdens primærproduktion af aluminium.

Verdens aluminiumsproduktion i millioner ton mellem 1992-2022, (data fra IAI)

Verdensproduktionen er mellem 1992 og 2022 vokset 3,5 gange til 68,46 millioner ton. Det svarer til en gennemsnitlig årlig vækst på ~4,2% og så rækker de nævnte resourcer jo ikke 100 år men kun omkring 39 år.

Årlig produktion ved fast vækst er givet ved

$$ r(t) = r_0 \cdot e^{kt}\\ $$ Hvor r0 er nuværende produktion, k er årlig vækst og t er tid i år. Den samlede produktion over en periode er $$ R = {r_0 \over k} \cdot (e^{kt} - 1) $$ USGSs rapport Bauxite and Alumina fra 2023 angiver verdens bauxit forekomster markant større til mellem 55 og 75 milliarder ton. Lad os regne på det med udgangspunkt i det høje estimat og verdensproduktionen i 2022. 75 milliarder ton bauxit kan omdannes til ca. 18,75 milliarder ton aluminium. Sættes R til de kendte reserver kan vi løse for tid og finde udløbstiden Tc $$ T_c = {1 \over k} \cdot \ln(k \cdot {R \over r_0} + 1) $$ Det giver så $$ \begin{aligned} T_c &= {1 \over 0{,}0419} \cdot \ln(0{,}0419 \cdot {18{,}75 \cdot 10^{12} kg \over 68{,}46 \cdot 10^9 kg} + 1) ≈ 60 \text{\aa}\text{r} \end{aligned} $$

60 år før de kendte reserver af bauxit er udtømt. Det lave estimat på 55 millarder ton bauxit giver vil være opbrugt om ca. 54 år.

F.M. Meyer fra Aachen Teknologiske Universitet når i Availability of Bauxite Reserves fra 2004 frem til at reserverne vil være opbrugt efter højest 25 år med årlig vækst på 5%. Meyer:

Trods af den udbredte opfattelse af at verdens store bauxit reserver vil række til fremtidigt forbrug, er der brug for opdagelse af markante nye forekomster, hvis den eksponentielle vækst fortsætter. [min oversættelse]

Heldigvis kan aluminium genanvendes og Norsk Hydro skriver endda at genanvendelse kun bruger 5% af energien krævet for nyudvundet aluminium. Selv med genanvendelse af det mest udbredte metal i jordskorpen må væksten dog stoppe på et tidspunkt.

  Archive