Orosmolnen hopar sig

Aviv Ovadya ringde i varningsklockorna sommaren 2016 om problemet med ”fake news”, polariserande mekanismer inom plattformarna, och ”dark ads” som skulle kunna utnyttjas av politiska krafter (han fick väldigt rätt efter bara några månader). Han kommer nu tillsammans med ett nätverk av researchers med en ännu skarpare varning om vart tekniken är på väg. Framöver får vi räkna med fejkfilmer i politiken (jfr Deepfakes), fejkade gräsrotsrörelser (uppbyggda av AI-botar), laser phishing (AI som ”lär känna oss” via våra digitala spår och nätverk) – vi kommer att få mejl från vänner, med deras röst och bild, fast allt är digitalt uppbyggt i syftet att manipulera oss. Redan finns AI som bygger övertygande ansiktsbilder, imiterar röster och kan dränka kommentarsfält med övertygande inlägg. Sammantaget har vi att vänta oss en flodvåg av manipulerat och manipulativt material, och närmar oss en tid då ”anyone could make it appear as if anything has happened, regardless of whether or not it did.” Framför oss kan ligga en ”infocalypse”, som medför att människor ger upp att försöka reda ut vad som går att lita på eller ej, en ”reality apathy”.

Ovadya är inte ensam. Liknande varningar har börjat komma i en strid ström. Konsultbolaget Gartner spådde nyligen att flertalet människor i världen om bara några år kommer att konsumera mer falsk än sann information. De tekniska möjligheterna till manipulation förstärks av vår egen tendens till bekräftelsebias, och att söka upp ekokammare som passar oss. Fundamentalt är att det alltid kommer att vara enklare och billigare att skapa falsk information än att detektera den. När den tekniska utvecklingen går så snabbt som nu, och antagligen framöver, blir detta problem desto tydligare.

PEW frågade nyligen 1116 experter och annat branschfolk inom IT-världen om framtiden och ”fake news”, och det visade sig råda ganska olika bedömningar om problemen. Gruppen delade sig ganska exakt i två hälfter, där ena sidan var orolig och menade att problemen skulle bestå eller förvärras, medan de andra trodde att lösningar kommer att utvecklas som kommer att minska problemen. Studien är läsvärd, med fördjupande intervjuer med många av respondenterna.

Så, vi får helt enkelt se. Avgörande är i alla fall att kunskapen om problemen stärks och sprids. Det var faktiskt ett optimistiskt inslag i intervjun med Ovadya, han tycker sig se att medvetandet om riskerna är betydligt bättre nu än för bara ett par år sedan.

Mathias Cederholm