Apples medgrundare Steve Wozniak har gått runt i media för att diskutera farorna med generativ artificiell intelligens (AI), och varnat folk att vara försiktiga med dess negativa effekter. Pratar med båda BBC och Fox newsbetonade att AI kan missbruka personuppgifter och uttryckte oro för att det skulle kunna hjälpa bedragare att skapa ännu mer effektiva bedrägerier, från identitetsbedrägeri till nätfiske, lösenordsknäckning och mer.
AI sätter igång en spammare
“Vi får mycket skräppost, saker som försöker ta över våra konton och våra lösenord, försöker lura oss att få dem”, sa han.
(Detta är en oro som också väckts av Ordförande för Federal Trade Commission (FTC) Kina Khan.)
Wozniak uttryckte oro över att tekniker som ChatGPT skulle kunna användas för att skapa riktigt övertygande bluffmejl, till exempel. Samtidigt som han är ambivalent i den meningen att han kan se fördelarna som tekniken kan ge, fruktar han också att missbruk av dessa kraftfulla verktyg kan bli ett verkligt hot i händerna på dåliga människor.
“AI är så smart att det är öppet för dåliga spelare, de som vill lura dig om vem de är,” varnade han.
En fara för näringslivet
Säkerhetsforskare är lika bekymrade. I näringslivet tror 53 % av beslutsfattarna att AI kommer att hjälpa angripare att skapa mer övertygande e-postbedrägerier. Senare, BlackBerry varnade att en framgångsrik attack krediterad ChatGPT kommer att dyka upp inom de närmaste 12 månaderna.
Wozniak var undertecknare av en öppet brev undertecknat av mer än 1000 tekniska armaturer varning för behovet av att gå långsamt i utvecklingen av AI. Det brevet bad AI-laboratorier att sluta träna på system som är kraftfullare än GPT-4 i minst 6 månader.
Ändå varnade Wozniak också för att göra en rejäl reaktion på implicit rädsla: “Vi borde verkligen vara objektiva”, sa han på Fox News show, . “Var finns riskerna?”
Framställningen varnade för några av dessa punkter, inklusive att “moderna AI-system blir nu konkurrenskraftiga med människor i allmänna uppgifter, och vi måste fråga oss själva: ‘Ska vi låta maskiner översvämma våra informationskanaler med propaganda och falskhet?”.
Vi har också sett fall där användningen av generativa AI-modeller har lett till avslöjande av affärshemligheter, vilket utlöst säkerhetsvarningar från underrättelsetjänster.
Ett existentiellt hot?
Woz åsikt är inte en ensam varning. Geoffrey Hinton, den så kallade gudfadern till AI, har en liknande åsikt och slutade nyligen att arbeta på Google så att han kunde varna för farorna med AI. Hinton ser att AI ersätter mänskliga arbetare i stor skala och varnar för att effekten av detta kan hota stabiliteten och potentiellt leda till utrotning.
Liksom andra inom tekniken hävdar Wozniak att industrin och regeringen bör identifiera hot spots och agera nu för att minimera riskerna.
Han pekade på vad vi nu vet om riskerna med sociala medier och sa: “Tänk om vi hade satt oss ner och tänkt på det innan den sociala webben kom” och skapat ramar för att hjälpa till att hantera och minimera dessa risker?
Regeringar rör sig långsamt
Många regeringar flyttar för att avgöra om och hur AI-verktyg behöver regleras, men den processen kommer sannolikt inte att hålla jämna steg med utvecklingen av AI. Biden-administrationen tillkännagav nyligen en frivillig uppsättning AI-regler som syftar till att ta itu med säkerhet och integritet och starta en konversation om det verkliga och existentiella hotet från AI-teknik, inklusive ChatGPT.
“AI är en av vår tids mest kraftfulla teknologier, men för att dra nytta av de möjligheter den ger måste vi först minska dess risker,” sa Det säger Vita huset i ett uttalande. “President Biden har klargjort att när det kommer till AI måste vi sätta människor och samhällen i centrum genom att stödja ansvarsfull innovation som tjänar allmänhetens bästa, samtidigt som vi skyddar vårt samhälle, säkerhet och ekonomi.”
I Storbritannien granskar Competition and Markets Authority (CMA) AI-marknaden. “Vårt mål är att hjälpa denna snabbt växande nya teknik att utvecklas på ett sätt som säkerställer öppna, konkurrensutsatta marknader och effektivt konsumentskydd”, säger Sarah Cardell, CMA CEO.
Den brittiska regeringen verkar dock intresserad av en hands-off strategi för användningen av denna teknik.
En reaktion på handling.
Dessa ansträngningar möter motreaktioner bland vissa inom tekniken, som hävdar att en bromsning av utvecklingen av AI i vissa länder kan ge andra möjligheten att främja tillämpningen av tekniken. Microsofts grundare Bill Gates är en av dem som framför detta argument.
Hinton sa nyligen sitt “enda hopp” angående AI: att konkurrerande regeringar kan komma överens om att regera i dess användning med tanke på att alla sidor står inför ett existentiellt hot. “Vi är alla i samma båt när det gäller det existentiella hotet, så vi borde alla kunna samarbeta för att försöka stoppa det,” sa han.
Vi blev varnade
Tragedin är förstås att de existentiella riskerna med AI har påpekats i flera år. Tillbaka 1863, romanförfattaren Samuel Butler varnade: “Utfallet är helt enkelt en fråga om tid, men att tiden kommer när maskiner kommer att ha verklig överhöghet över världen och dess invånare är vad ingen person med ett verkligt filosofiskt sinne kan ifrågasätta för ett ögonblick.”
Apples medgrundare verkar inte särskilt optimistisk att effektiva restriktioner kommer att införas kring sådan användning. “De krafter som driver efter pengar jämfört med de krafter som driver för att bry sig om oss, för kärlek, de krafter som driver för pengar brukar vinna. “Det är en sorglig sak”, sa han till BBC.
