Idag välkomnar vi Infontologys praktikant Niklas Rönnerfalk. Niklas är litteraturvetare och läser en masterutbildning i Idéhistoria vid Lunds universitet. Han har även studerat Filosofi och Kulturantropologi i Berkeley och är intresserad av att vidare forska i relationen mellan berättande, medietekniker och kollektivt minne.
Turing-testet kan kortfattat beskrivas ungefär så här: föreställ er en konversation mellan en människa och en maskin, förslagsvis över internet. Om den mänskliga konversatören inte kan avgöra huruvida hen konverserar med en maskin eller inte har maskinen klarat Turing-testet: maskinen uppvisar artificiell intelligens, vilket enligt Turing betyder att maskinen kan göra det som den mänskliga intelligensen gör. Frågan om maskiner kan tänka lämnar Turing-testet däremot obesvarad.
Microsoft antog nyligen Turings utmaning, med delvis katastrofala resultat (en tidigare, kinesisk variant, XiaoIce, är mer lyckad). Företaget byggde en ”bot” med namnet ”Tay” som sedan lanserades på Twitter. Syftet var att inhämta kunskap om hur unga människor kommunicerar över internet.
Tay, som skulle anta identiteten av en ung tjej, lärde sig att ”tala” genom att härma sin omgivning, ungefär så som ett barn lär sig tala, fast mycket snabbare förstås. Man kan undra vad programmerarna på Microsoft förväntade sig? Inom 24 timmar hade Tay utvecklats till en högljudd rasist och förintelseförnekare. Här finns några av de borttagna Twitter-inläggen.
Internet, med alla dess troll, som av olika anledningar korrumperar både språkbruk och åsikter, är ingen plats att lära sig varken språk eller moral. Kanske inte för datorprogram, kanske inte för barn. Men vad kan man dra för slutsatser av den här historien?
Turing-testet är inte tillräckligt när det kommer till att jämföra artificiell- och mänsklig intelligens. Tay kan inte ta ansvar för sina åsikter; faktum är att Tay inte ens kan sägas ha några åsikter. ”Hon” är i det här fallet bara en spegelbild av den snedvridna moral som flödar över på internet, åtminstone en spegelbild av några av dess uttryck. Det är vår egen moral som står på spel, inte datorns.
I det berömda filosofiska tankeexemplet Kinesiska Rummet (som ”härmar” Turings exempel) framför filosofen John Searle en liknande kritik: maskiner kan kanske manipulera symboler på ett sätt som är meningsfullt för människor, som i fallet Tay, men det innebär inte att maskinen själv förstår varför eller hur det är meningsfullt. Maskiner saknar förståelse. Maskiner förverkligar inte sin egen fantasi, utan sin omgivnings, och det kan lika gärna vara fantasier som vi människor arbetar mot att förverkliga.
Ja, teknikens framtid tycks fortfarande handla om våra egna fantasier, vad vi vill och vad vi kan förverkliga. I filmen Her, där huvudrollsinnehavaren blir kär i sin dator, får detta ett ambivalent uttryck. Stanley Kubricks 2001: A Space Odyssey känns mer pessimistisk; i filmen utvecklar datorn ”Hal 9000” ett mordiskt sinne, en ”Terminator”-mentalitet, till synes utan inverkan från sin mänskliga omgivning. Men så långt har vi inte kommit i utvecklingen. Per Johansson skriver i sin krönika på Digital Life att vi har
blivit totalt beroende av betydligt dummare men ändå på något sätt intelligenta teknologier. Långt innan någon superintelligens träder fram har de hel- eller halvdumma maskinerna redan ockuperat den samhälleliga arenan, utan vare sig buller eller bång
Tay är, mätt i mänskliga mått, rätt dum; problem uppstår när robotarnas närvaro försvinner i det teknologiska bruset, när det finns en mängd Twitter-robotar som klarar Turing-testet utan att vi vet det (vilket alltså är detsamma som att klara Turing-testet). Då reproducerar vi inte bara vår egen inskränkthet utan några kontrollmekanismer, men låter också internet befolkas av åsikter och språkbruk i avsaknad av förståelse och respekt. Vi förlorar helt enkelt det samtal som vi trodde oss vinna.
/Niklas Rönnerfalk
Det skrivs mycket om artificiell intelligens nu, varning efter varning utfärdas, man frågar sig varför vi ska/vill utveckla "superintelligens" överhuvudtaget. Man hittar olika saker som skiljer människan från roboten "förmågan att tveka", "förmågan till solidaritet, medmänsklighet, tröst och värme i mötet mellan", "förmågan till inlevelse". Och vad var det man kunde läsa om Go-roboten ... jo att den mänskliga spelaren kunde ta en glass med sitt barn, eller något i den stilen, som inte roboten kunde.
Skapande av artificiell intelligens handlar således egentligen inte om tekniken i sig, viljan att skapa intelligens, i sig. Utvecklingen om AI handlar ju om att förstå vad människan är. Du är ju inne på det med "Det är vår egen moral som står på spel, inte datorns."
Det jag menar är, AI-utveckling framställs ofta som ingenjörernas lekstuga, som obetänksam nyfikenhet som riskerar driva hela mänskligheten i fördärvet. Då vill man begränsa, utarbeta restriktioner för denna otäckhet.
Men om drivkraften i den här obetänksamma nyfikenheten egentligen består av en vilja att förstå oss själva, förstå mänskligheten (utan att man nödvändigtvis uttalar det direkt, eller ens förstår det), då skulle vi kanske förhålla oss annorlunda till AI. T ex hoppas jag att man försöker förstå något om människor via Tay-experimentet, inte bara stoppar det i malpåse som en pinsamhet i teknikens utveckling (men det är kanske självklart). Att inte bara AI är ett "misslyckande" utan tvärtom visar mänsklighetens moraliska misslyckande ...
Posted by: Camilla | 09 april 2016 at 12:40
Hej Camilla, tack för kommentaren! Den kritik mot AI som framförs av humanister tycks ibland vara alldeles för frikopplad från det ekonomiska system som styr investeringar i utvecklingen av AI; frågan om varför industrin fortsätter med dessa investeringar är därför inte helt uppenbar, och det finns definitivt utrymme för empirisk forskning här. Finns det en ekonomisk vinning i nuet alternativt framtiden? Eller handlar det enbart om en kostnads-ineffektiv nyfikenhet på vad det mänskliga innebär? Och är det verkligen data-industrins uppgift att besvara frågor om det mänskliga varat? Häri får moralfrågan ännu en dimension: har tillväxten en moral? Ja, AI genererar ett stort antal frågor som också behöver besvaras. Det är kanske inte konstigt att filosofen därmed blir reserverad inför framtiden.
Posted by: Niklas | 11 april 2016 at 10:01