OpenAI skickade sin ChatGPT-app för iPad och iPhone för bara en vecka sedan, men den har redan blivit en av de mest populära apparna de senaste två åren, med mer än En halv miljon nedladdningar under de första sex dagarna. Det är en verklig prestation, men också en utmaning: det är en halv miljon potentiella datasårbarheter.
För att inte vila på lagrarna är årets (hittills) favoritsmarta assistent nu även tillgänglig i ytterligare 41 länder. Det råder ingen tvekan om att detta har varit en av de mest framgångsrika mjukvaru-/tjänstintroduktionerna genom tiderna, men det förändrar inte den inneboende risken med dessa teknologier.
Håll den röda flaggan vajand
Appens popularitet bör vara en röd flagga för IT-ledare, som bör fördubbla ansträngningarna för att varna personalen att inte lägga in värdefull personlig eller företagsinformation i tjänsten. Faran med att göra det är att data som samlats in av OpenAI redan har hackats en gång, och det är bara en tidsfråga tills någon får den informationen.
När allt kommer omkring handlar digital säkerhet idag inte om om en incident inträffar, utan när.
För att mynta en fras från Apples handbok, det bästa sättet att skydda data online är att inte lägga informationen där i första hand. Det är därför iPhones och andra Cupertino-produkter (över hela Kina, Indien och Vietnam) fungerar enligt principen om dataminimeringminska mängden information som samlas in och sträva efter att minska behovet av att skicka den till servrar för bearbetning.
Det är ett bra tillvägagångssätt, inte bara för att det minskar mängden information som kan fly, utan för att det också minskar möjligheten för människor att göra misstag i första hand.
Människorna kommer
Vi har inte det skyddet med ChatGPT-applikationer. Utöver ett direkt förbud mot att använda tjänsten och appen på hanterade enheter, litar IT-administratörer nästan helt på förtroende när det gäller att säkerställa att deras personal inte delar känslig data med boten.
Ändå är människor människor, så det är oundvikligt att, oavsett hur hårda uppmaningarna mot sådan användning, vi kan vara säkra på att vissa människor av misstag kommer att dela känslig data via appen. De kanske inte ens inser att de gör det, bara ser det som motsvarigheten till att söka på webben.
Det är ett hot som liknar shadow IT, där människor av misstag delar känslig information i utbyte mot vad som verkar vara bekvämlighet.
Privat dansare
IT bör vara medveten om appens sekretessetikett som OpenAI fäste på sin produkt i appbutiken. Den etiketten gör det tydligt att när du använder applikationen är följande data kopplade till användaren:
- Kontaktuppgifter: e-post, namn, telefonnummer.
- Användarinnehåll — “annat” användarinnehåll.
- Identifierare: Användar-ID.
- Användningsdata — Produktinteraktion.
- Diagnostik: krasch, prestanda, andra diagnostiska data.
Tillgänglig online, OpenAIs egen Integritetspolicy bör också utforskas, även om företaget inte har avslöjat träningsdata som det använder för sina senaste bots.
Utmaningen här är att IT måste beakta begränsningarna hos det senare tillsammans med den mänskliga naturens oundviklighet. Tillsynsmyndigheter är redan oroade över konsekvenserna av integritetsskyddet. I Kanada är integritetstillsynsmyndigheter undersöka företagets sekretesspraxis, med liknande verksamhet i Europa. (OpenAI verkar ganska oroad över dessa undersökningar och har varnat för att de kan eller inte kan stänga butiken i Europa om lagen är för strikt.)
Purple Haze
Syndfloden av aktivitet runt omkring Generativ AI i allmänhet, och ChatGPT i synnerhet, bör inte maskera de radikala återverkningarna av dessa teknologier, som erbjuder stora produktivitetsfördelar, men hotar anställningstryggheten i stor skala.
Åtminstone på kort sikt måste IT-administratörer göra allt de kan för att säkerställa att dessa enkla konsumentprodukter inte hotar känslig affärsdata. Och för att det ska hända måste användarna varnas för att inte dela data med dessa tjänster förrän det är ratificerat enligt företagets säkerhets- och integritetspolicy.
