Facebook träffar mea culpa för “oförlåtlig blunder” av algoritmer – Aroged – Aroged
Facebook är generad efter att dess algoritmer placerat en olycklig etikett på en video.
Videon i fråga går tillbaka till juni 2020, men användarna introducerades först nyligen för etiketten. Videon visar en konfrontation mellan en vit och två svarta män. De som klickade på videon får ett algoritmgenererat förslag om de ville se fler primatvideor. Normalt tjänar det förslaget till att visa dig mer relevant videoinnehåll så att du stannar på Facebook lite längre, men i det här fallet gjorde algoritmerna inte rätt val. Det var en tidigare Facebook-anställd som slog larm.
Um. Denna “fortsätt se”-uppmaning är oacceptabel, @Facebook. Och trots att videon är mer än ett år gammal fick en vän den här uppmaningen igår. Vänner på FB, snälla eskalera. Det här är grymt. pic.twitter.com/vEHdnvF8ui
— Darci Groves (@tweetsbydarci) 2 september 2021
Ett svar från Facebook lät inte vänta på sig. I ett uttalande till New York Times ber tidningen företaget om ursäkt för vad de kallar en “oförlåtlig blunder.” Facebook inser också att de inte kan lägga allt i sina algoritmers skor. De stängde bara av förslagen på förebyggande videor för att ta reda på varför deras algoritmer stämplade männen som primater.
Rasistiska algoritmer
Facebook är långt ifrån det första teknikföretaget som ber om ursäkt för pinsamma misstag i sina algoritmer. Rasistisk partiskhet visar sig vara ett märkligt problem som dyker upp flera gånger. En av de första anmärkningsvärda incidenterna hände med Google 2015 när deras algoritmer taggade ansikten på svarta män med ordet “gorilla”.
Det finns en förklaring till det. För att träna algoritmer i ansiktsigenkänning förlitar sig utvecklarna av systemen på bildbanker som de kör genom sina maskiner. Eftersom dessa databaser ofta innehåller fler bilder av vita människor är algoritmer bättre tränade i att känna igen vita ansikten. Det kan leda till bristande noggrannhet när de behöver upptäcka svarta ansikten, vilket i sin tur kan resultera i smärtsamma misstag. Beslut som tas av AI-system bör därför alltid ses med ett kritiskt öga.
Inget resultat
Visa alla resultat
© Aroged 2021. Med ensamrätt.
Denna webbplats använder cookies. Genom att fortsätta använda denna webbplats ger du ditt samtycke till att cookies används. Besök vår sekretess- och cookiepolicy. Jag håller med
nnnt
Facebook är generad efter att dess algoritmer placerat en olycklig etikett på en video.n n
Videon i fråga går tillbaka till juni 2020, men användarna introducerades först nyligen för etiketten. Videon visar en konfrontation mellan en vit och två svarta män. De som klickade på videon får ett algoritmgenererat förslag om de ville se fler primatvideor. Normalt tjänar det förslaget till att visa dig mer relevant videoinnehåll så att du stannar på Facebook lite längre, men i det här fallet gjorde algoritmerna inte rätt val. Det var en tidigare Facebook-anställd som slog larm.nnnn
Um. Den här uppmaningen är oacceptabel, @Facebook. Och trots att videon är mer än ett år gammal fick en vän den här uppmaningen igår. Vänner på FB, snälla eskalera. Det här är grymt. pic.twitter.com/vEHdnvF8uiu2014 Darci Groves (@tweetsbydarci) 2 september 2021nnnnn
Ett svar från Facebook lät inte vänta på sig. I ett uttalande till New York Times ber tidningen företaget om ursäkt för vad de kallar en “oförlåtlig blunder.” Facebook inser också att de inte kan lägga allt i sina algoritmers skor. De stängde precis av förslagen på förebyggande videor för att ta reda på varför deras algoritmer stämplade männen som primater.nnnn
Rasistiska algoritmernnnn
Facebook är långt ifrån det första teknikföretaget som ber om ursäkt för pinsamma misstag i sina algoritmer. Rasistisk partiskhet visar sig vara ett märkligt problem som dyker upp flera gånger. En av de första anmärkningsvärda incidenterna hände med Google 2015 när deras algoritmer taggade ansikten på svarta män med ordet “gorilla”.nnnnnnnn
Det finns en förklaring till det. För att träna algoritmer i ansiktsigenkänning förlitar sig utvecklarna av systemen på bildbanker som de kör genom sina maskiner. Eftersom dessa databaser ofta innehåller fler bilder av vita människor, är algoritmer bättre tränade i att känna igen vita ansikten. Det kan leda till bristande noggrannhet när de behöver upptäcka svarta ansikten, vilket i sin tur kan resultera i smärtsamma misstag. Beslut som tas av AI-system bör därför alltid ses med ett kritiskt öga.nnnnn “,”författare”:{“@type”:”Person”,”name”:”Aroged”,” url”:”https://www.aroged.com/author/admin/”,”sameAs”:[“https://www.aroged.com”]},”articleSection”:[“Technology”]”image”:{“@type”:”ImageObject”,”url”:”https://www.aroged.com/wp-content/uploads/2021/09/Facebook-hits -mea-culpa-for-unforgivable-blunder-of-algorithms.jpg”,”width”:696,”height”:463},”publisher”:{“@type”:”Organisation”,”name”:” “,”url”:”https://www.aroged.com”,”logo”:{“@type”:”ImageObject”,”url”:””},”sameAs”:[“https://www.facebook.com/Arogeed”,”https://twitter.com/Thearoged”,”https://t.me/Aroged”,”https://www.linkedin.com/company/aroged/”,”https://www.youtube.com/channel/UCiVipsa5WnWr7FLzgVf6cZw”]}}
