Vad är maskininlärningsalgoritmer? Så här fungerar de
Annons
Konstgjord intelligens och maskininlärning ger många av de framsteg vi ser inom teknikindustrin idag. Men hur får maskiner förmågan att lära sig? Hur resulterar dessutom hur vi gör detta i oavsiktliga konsekvenser?
Här är vår snabba förklarare om hur maskininlärningsalgoritmer fungerar, tillsammans med några exempel på maskininlärning som har gått fel.
Vad är maskininlärningsalgoritmer?
Maskininlärning är en gren av datavetenskap som fokuserar på att ge AI förmågan att lära sig uppgifter 5 Bästa Google AI-experiment för att utforska artificiell intelligens 5 Bästa Google AI-experiment för att utforska artificiell intelligens Google har flera AI-experiment som du kan gå och spela med, rätt nu. Tack vare maskininlärning kan de förändra morgondagens värld med din hjälp. Läs mer . Detta inkluderar att utveckla förmågor utan att programmerare uttryckligen kodar AI för att göra dessa saker. Istället kan AI använda data för att lära sig själv.
Programmerare uppnår detta genom maskininlärningsalgoritmer. Dessa algoritmer är de modeller som ett AI-lärandebeteende bygger på. Algoritmer, tillsammans med träningsdatasätt, gör det möjligt för AI att lära sig.
En algoritm tillhandahåller vanligtvis en modell som en AI kan använda för att lösa ett problem. Till exempel att lära sig att identifiera bilder av katter kontra hundar. AI tillämpar modellen som anges av algoritmen på ett datasätt som innehåller bilder av katter och hundar. Med tiden kommer AI att lära sig att identifiera katter från hundar mer exakt och enkelt, utan mänskliga insatser.
Maskininlärning förbättrar teknik som sökmotorer, smarta hem enheter, onlinetjänster och autonoma maskiner. Det är så Netflix vet vilka filmer du är mer benägna att njuta av och hur musikströmningstjänster kan rekommendera spellistor.
Men medan maskininlärning kan göra våra liv mycket enklare kan det också få några oväntade konsekvenser.
7 gånger när maskinlärandet gick fel
1. Googles resultatresultat i Google Image Search
Google Search har gjort det enklare att navigera på webben. Motorns algoritm tar hänsyn till en mängd olika saker när man tar bort resultat, till exempel nyckelord och avvisningsfrekvens. Men algoritmen lär sig också av användartrafik, vilket kan orsaka problem för sökresultatens kvalitet.
Ingenstans är detta tydligare än i bildresultat. Eftersom sidor som får hög trafik är mer benägna att ha bilderna visas, berättelser som lockar till sig ett stort antal användare, inklusive clickbait, ofta prioriteras.
Till exempel orsakade bildsökningsresultaten för ”squatters camps in South Africa” kontrovers när det upptäcktes att det främst innehöll vita sydafrikaner. Detta trots statistik som visar att den överväldigande majoriteten av de som bor i informella bostäder, till exempel hytter, är svarta sydafrikaner.
De faktorer som används i Googles algoritm innebär också att internetanvändare kan manipulera resultat. Till exempel påverkade en kampanj av användare Google Image Search-resultat i den utsträckning att sökandet efter termen "idiot" visar bilder av USA: s president Donald Trump.
2. Microsoft Bot förvandlades till en nazist
Lita på Twitter för att skada en välmenande, maskinlärande chatbot. Det här är vad som hände inom en dag efter lanseringen av Microsofts nu ökända chatbot Tay.
Tay efterliknade språkmönstren för en tonårsflicka och lärde sig genom sina interaktioner från andra Twitter-användare. Men hon blev ett av de mest ökända AI-misstagen när hon började dela nazistiska uttalanden och rasstörningar. Det visar sig att troll hade använt AI: s maskin att lära sig mot den och översvämmade den med interaktioner laddade med bigotry.
Inte länge efter tog Microsoft Tay offline för gott.
3. Problem med ansiktsigenkänning
Ansiktsigenkänning AI gör ofta rubriker av alla fel skäl, som berättelser om ansiktsigenkänning och integritetsproblem. Men denna AI orsakade också stora farhågor när man försökte känna igen färger.
2015 upptäckte användare att Google Foton kategoriserade vissa svarta människor som gorillor. Under 2018, ACLU: s forskning som visade att Amazons Rekognition ansiktsidentifieringsprogramvara identifierade 28 medlemmar av den amerikanska kongressen som polismistående, med falska positiva oproportionerligt påverkande människor av färg.
En annan incident involverade Apples Face ID-programvara Köper du en iPhone X? Face ID Kanske gör att du överväger att köpa en iPhone X? Face ID kan göra dig ompröva iPhone X: s mest anmärkningsvärda funktion är Face ID-enhetens upplåsningssystem. Men hur säkert är det? Kommer Apple att få tillgång till en enorm databas över allas ansikten? Läs mer felaktigt identifiera två olika kinesiska kvinnor som samma person. Som ett resultat kunde iPhone X-ägarens kollega låsa upp telefonen.
Samtidigt påminner MIT-forskaren Joy Buolamwini ofta om att behöva bära en vit mask medan han arbetar med ansiktsigenkänningsteknik för att få programvaran att känna igen henne. För att lösa problem som detta väcker Buolamwini och andra IT-proffs uppmärksamhet på frågan och behovet av mer inkluderande datasätt för AI-utbildning.
4. Deepfakes som används för hoaxes
Medan människor länge har använt Photoshop för att skapa hoaxbilder tar maskininlärning detta till en ny nivå. Programvara som FaceApp gör att du kan byta motiv från en video till en annan.
Men många utnyttjar programvaran för en mängd skadliga användningsområden, inklusive överlagring av kändis ansikten i vuxna videor eller generera hoax videor. Samtidigt har internetanvändare bidragit till att förbättra tekniken för att göra det allt svårare att skilja äkta videor från falska. Som ett resultat gör detta denna typ av AI mycket kraftfull när det gäller att sprida falska nyheter och hoaxar Facebook erbjuder tips för att hjälpa dig hitta falska nyheter Facebook erbjuder tips för att hjälpa dig hitta falska nyheter. Medan Facebook inte producerar falska nyheter är det åtminstone delvis ansvarig för spridningen. Det är därför det nu erbjuder tips som hjälper dig hitta falska nyheter innan de sprider sig. Läs mer .
För att visa upp kraften i tekniken skapade direktören Jordan Peele och BuzzFeed VD Jonah Peretti en deepfake-video som visar vad som förefaller vara före detta USA: s president Barack Obama som levererade en PSA om djupfopparnas kraft.
5. Uppkomsten av Twitterbots
Twitterbots skapades ursprungligen för att automatisera saker som svar på kundservice för varumärken. Men tekniken är nu en viktig orsak till oro. I själva verket har forskning uppskattat att upp till 48 miljoner användare på Twitter faktiskt är AI-bots.
Istället för att helt enkelt använda algoritmer för att följa vissa hashtags eller svara på kundfrågor försöker många botkonton att imitera riktiga människor. Dessa "människor" främjar sedan hoax och hjälper till att få falska nyheter att bli virala.
En våg av Twitterbots påverkade till och med allmänheten i en viss grad på Brexit och USA: s presidentval 2016. Twitter medgav själv att det avslöjade cirka 50 000 ryska-tillverkade bots som publicerade om valen.
Bots fortsätter att plåga tjänsten och sprider desinformation. Problemet är så vanligt att det till och med påverkar företagets värdering.
6. Anställda säger Amazon AI beslutade att anställa män är bättre
I oktober 2018 rapporterade Reuters att Amazon var tvungen att skrapa ett jobbrekryteringsverktyg efter att programvarans AI beslutade att manliga kandidater var föredragna.
Anställda som ville förbli anonyma kom fram för att berätta för Reuters om deras arbete med projektet. Utvecklare ville att AI skulle identifiera de bästa kandidaterna för ett jobb baserat på deras CV. Men personer som deltog i projektet märkte snart att AI straffade kvinnliga kandidater. De förklarade att AI använde CV från det senaste decenniet, varav de flesta var från män, som dess utbildningsdatasats.
Som ett resultat började AI filtrera bort CV: er baserade på nyckelordet "kvinnor". De nyckelordet visades i CV under aktiviteter som ”kvinnans schackklubbkapten”. Medan utvecklare ändrade AI för att förhindra denna straff av kvinnors CV, skrotade Amazon slutligen projektet.
7. Olämpligt innehåll på YouTube Kids
YouTube Kids har många dumma, nyckfulla videor som är avsedda att underhålla barn. Men det har också ett problem med skräppostfilmer som manipulerar plattformens algoritm.
Dessa videor är baserade på populära taggar. Eftersom små barn inte är mycket kräsna tittare, lockar skräpfilmer med dessa nyckelord miljoner visningar. AI genererar automatiskt några av dessa videor med lageranimationselement, baserat på trendiga taggar. Även när filmerna är gjorda av animatörer, genereras deras titlar specifikt för sökordstoppning.
Dessa sökord hjälper till att manipulera YouTubes algoritm så att de hamnar i rekommendationer. En betydande mängd olämpligt innehåll dök upp i flödena för barn med appen YouTube Kids. Detta inkluderade innehåll som visar våld, jumpscares och sexuellt innehåll.
Varför maskininlärning går fel
Det finns två huvudsakliga orsaker till att maskininlärning leder till oavsiktliga konsekvenser: data och människor. När det gäller data gäller mantraet om “skräp in, skräp”. Om informationen som matas till en AI är begränsad, partisk eller låg kvalitet; resultatet är en AI med begränsad omfattning eller förspänning.
Men även om programmerare får uppgifterna rätt kan människor kasta en skiftnyckel i verken. Skapare av programvara inser ofta inte hur människor kan använda tekniken skadligt eller för själviska ändamål. Deepfakes kom från tekniken som används för att förbättra specialeffekter på bio.
Det som syftar till att ge mer uppslukande underhållning slutar också med att förstöra människors liv när de utnyttjas.
Det finns människor som arbetar för att förbättra skyddsåtgärderna kring maskininlärningsteknik för att förhindra skadlig användning. Men tekniken är redan här. Samtidigt visar många företag inte den nödvändiga viljestyrken för att förhindra missbruk av denna utveckling.
Maskininlärningsalgoritmer kan hjälpa oss
Det kan verka lite undertryck när du inser hur mycket maskininlärning och konstgjord intelligens som inte förväntas. Men det hjälper oss också på många sätt - inte bara när det gäller bekvämlighet, utan att förbättra våra liv i allmänhet.
Om du känner dig lite tveksam till de positiva effekterna av AI och maskininlärning, ta reda på hur artificiell intelligens bekämpar cyberkriminalitet Hur artificiell intelligens kommer att bekämpa moderna hackare och cybercrime Hur artificiell intelligens kommer att bekämpa moderna hackare och cyberkriminalitet med en cybersecurity talang brist och cyberbrottsepidemi, hur kan företag bekämpa hackare? Med konstgjord intelligens! Läs mer och hackare för att återställa lite hopp.
