När AI-genererade ansikten blev mer utbredda och tillgängliga var vissa människor rädda för att dessa falska porträtt kunde missbrukas. Nåväl, deras farhågor besannades. På fredagen tog Facebook bort nästan tusen falska profiler, sidor och grupper som använde foton genererade av artificiell intelligens. Och enligt källorna användes alla för att driva politiska, främst högerkampanjer.
Alla vilseledande profiler, sidor och grupper är en del av ett “globalt nätverk” som påstås ha använts för att sprida pro-Trump-berättelser till miljontals användare på Facebook och Instagram. Enligt Facebook tog de bort 39 Facebook-konton, 344 sidor, 13 grupper och 22 Instagram-konton som en del av ett inrikesfokuserat nätverk med ursprung i Georgien. Den större gruppen innehöll 610 konton, 89 Facebook-sidor, 156 grupper och 72 Instagram-konton som har sitt ursprung i Vietnam och USA. Den andra gruppen och fokuserade “främst på USA och en del på Vietnam, spansktalande och kinesisktalande publik globalt”, skriver Facebook i sin rapport.
Enligt uppgift användes dessa falska konton för att hantera sidor och grupper och för att dirigera trafik till webbplatser från Facebook. Enligt rapporten var verksamheten främst kopplad till det USA-baserade medieföretaget The BL, som drivs av individer i USA och Vietnam. Dessa individer skapade falska konton med AI-genererade profilfoton för att få deras profiler att verka mer autentiska. Facebook förklarar att de huvudsakligen postade “memes och annat innehåll om amerikanska politiska nyheter och frågor inklusive riksrätt, konservativ ideologi, politiska kandidater, val, handel, familjevärderingar och religionsfrihet.” I en rapport från desinformationsgrupperna Graphika och DFRLab drev detta innehåll mestadels fram en pro-Trump-narrativ.
Rapporten läser att detta “globala nätverk” nådde cirka 55 miljoner människor genom sidorna det skapade. Cirka 381 500 personer gick med i minst en av dess grupper och runt 92 000 personer följde minst ett av dessa Instagram-konton.
Graphika och DFRLab noterar att detta var första gången de har sett AI-genererade foton som används i en social mediakampanj. Och även om de AI-genererade porträtten ibland kan vara svåra att skilja från riktiga, finns det fortfarande saker som ger bort dem. “Bilder som genereras av GANs nuvarande tillstånd är ökända för att kämpa med funktioner som borde vara symmetriska i det mänskliga ansiktet, såsom glasögon eller örhängen”, skriver Graphika och DFRLab i sin rapport. De tillägger att AI-genererade bilder vanligtvis kan berättas från dåliga bakgrundsdetaljer, och profilbilder från det globala nätverket “visade tecken på alla tre.”
Kanske är det silver som är att AI-genererade foton fortfarande är relativt lätta att upptäcka, så kampanjer som denna kan framgångsrikt avbrytas. Men när (och om) falska porträtt blev mer realistiska… Jag är rädd att vi kommer att få se många fler missbruk som denna. Och det låter inte alls uppmuntrande.
[via Wired]
