Infontology

Internet-kbt, vem tjänar på de'?

Intressant passage ur TT-artikel härom dagen, bland annat här. Det är bra att se till så stort perspektiv som möjligt när man beräknar kostnader och vinster.

Det skifte i arbetslivet som redovisas här är typiskt för samhällets digitalisering: en yrkeskategoris arbete ersätts av kostnader för teknik. Jämför med bankkassörskor som ersattes med bankomater. 

Bortom identitetspolitik, fördomar och politisk korrekthet

Jag återpublicerar den här essän från Mooria april 2018, för det är en text jag kommer tillbaka till ofta. 

/Simon

I dagens Sverige finns det många människor som inte ens kan börja formulera vad de känner har gått snett i samhället. Det talas om åsiktskorridorer, identitetspolitik och politisk korrekthet. Bakom detta finns idéströmningar som postmodernism som är svårgripbara även för specialister. För många grupper har dock den här uppluckringen av modernismens enkelriktade kunskapssyn visat vägen ut ur århundraden av marginalisering och diskriminering. I den här artikeln sätter Simon Winter fingret på ett par grundbegrepp som hjälper oss att förstå vad det är som händer. Det handlar om hur vi hela tiden kontinuerligt värderar vår omvärld, ofta utan att vara öppna med värderingen, eller ens medvetna om den.

Introduktion

Hur kan man egentligen beskriva relationen mellan kunskapenoch värderingen av kunskapsobjektet? Lite förenklat finns det två huvudståndpunkter. Den ena säger att kunskap och framtagande av kunskap är oberoende av värderingen. Den andra låter värderingen styra vad vi alls ska försöka få kunskap om.

Låt oss föregripa resonemangen en smula och kalla anhängarna av den första ståndpunkten för konservativa, och de andra för radikala. Det konservativa lägret anser att kunskapen kan och bör stå fri från värden och värderingar. Det radikala lägret skulle kunna associeras med postmodernism och lite grovt med vänster, marxism och politisk korrekthet.

Striden mellan de två lägren har varit mer eller mindre aktiv sen 1960-talet, och inom olika områden har de två grupperna kunnat samexistera, men nu har striden blossat upp igen, bland annat runt en kanadensisk psykologiprofessor vid namn Jordan Peterson.

Peterson är en tacksam katalysator i debatten, för han kan hjälpa en att få syn på en massa saker runt vad striden gäller. Peterson tar en konservativ position, och det kan jag nog säga att jag också gör, även om jag ser fler problem med den positionen än vad Peterson verkar göra.

Peterson har tagit striden om sådant som politisk korrekthet och genusdebatt, och det är intressant hur mycket känslor han har rört upp. Mer om honom senare.

Värderingar

Låt mig ta ett exempel. Det behöver vara något där de olika lägren inte är överens, så jag hugger ett exempel i högen och diskuterar fördomar om tiggare.

De tiggare från främst Rumänien som kommit till Sverige i stora antal under det senaste decenniet nedvärderas av olika skäl. Man säger att de tar resurser från svenskar och förfular samhället med tiggeri som många hoppades var ett fenomen som tillhörde historien. Det talas om bedrägeri med de handikapp som tiggarna visar upp, och om människohandel och prostitution.

Samtidigt är det många i Sverige som engagerat sig och fått upp ögonen för de problem som finns även inom EU. De ser det som viktigt att kunna hjälpa rätt grupper på rätt sätt.

Den konservativa sidan har inga problem med att diskutera tiggare, men den radikala sidan delar alltså upp ståndpunkterna beroende på om det är något positivt eller något negativt som ska diskuteras.

Den radikala sidan kan lyfta fram gruppen “tiggare” ur gruppen av “människor” när det kan finnas positivaskäl att göra det. Till exempel för att diskutera stödinsatser eller speciella vårdbehov för utsatta grupper. Då behöver man veta kännetecken för de utsatta grupperna, annars kan man inte hjälpa dem.

Om det i stället gäller något negativt, som att någon är misstänkt för ett brott, säg som ficktjuv, blir situationen annorlunda. Då bör man, enligt de radikala, inte sortera människor så här, för det spär på fördomarna mot redan marginaliserade grupper.

För att komma till min poäng så fort som möjligt: med det här sättet att resonera låter de radikala värderingengå före kunskapsprocessen. Det tror jag är en av de saker som upprör många. Dels blir kunskapen ofri, och dels förutsätter det att värderingsprocessen är oproblematisk, vilket jag inte tror att den så ofta är.

I vårt exempel letar vi efter en ficktjuv. När vi söker efter kännetecken på tjuven behöver vi kännetecken som gör att vi kan sortera bort så många människor som möjligt. Det betyder att kännetecken från de grupper som är majoriteti samhället är mindre värdaän kännetecken från minoritetsgrupper.

Här kan förstås beteckningen minoritetsgrupper betyda minoritet i vilken “dimension” som helst, från jackfärg och nationalitet till ögonfärg, kroppslängd, dialekt eller guldtänder i underkäken. Någon som har grön jacka tillhör en minoritetsgrupp lika mycket som någon som är från Bulgarien, men jackans färg kännetecknar en minoritetsgrupp som inte är kopplad till en maktstruktur på samma sätt som ursprungsland är.

För kunskapenom en misstänkt förövare är alla kännetecken viktiga, och som sagt ju ovanligare de är desto mer signifikanta är de. Men för att inte ytterligare förstärka samhällets maktstrukturer väljer de radikala att inte använda eller ta fram kunskap som riskerar att misstänkliggöra redan utsatta grupper.

Jämlikhetsdata

Ett exempel på hur den radikala sidan driver på kunskap om positivt värderade aspekter av kategorier som annars anses tabu att registrera är det som ibland kallas “jämlikhetsdata”.

Syftet med jämlikhetsdata är att ta fram data om exempelvis rastillhörighet anonymt, så att man kan visa på konkreta fall av diskriminering.

Metoden har tagits fram av forskaren och aktivisten Tobias Hübinette, och vad jag förstår har den genomförts i Botkyrka kommun.

Hübinette skriver så här i sin rapport Vad är jämlikhetsdata?:

Ett område där jämlikhetsdata med fördel kan användas är de återkommande kartläggningar av en viss arbetsplats, bransch eller organisation som brukar genomföras utifrån kön och ofta också ålder, och som mäter representation i stort liksom lönenivåer, arbetsförhållanden, arbetsmiljöfrågor och hierarkier av olika slag.

Det kan handla om att undersöka invånares, medarbetares eller medlemmars sammansättning i relation till hur det omgivande samhället ser ut, utifrån kategorier som inte går att få fram genom befolkningsregistret och folkbokföringen, såsom raslig, etnisk-kulturell och religiös tillhörighet, språk samt funktionsnedsättning och sexuell läggning.

I likhet med könsuppdelad statistik och jämställdhetsplaner är det önskvärt att även dessa kartläggningar följs upp och kopplas till tydliga mål i mångfalds- och åtgärdsplaner som inbegriper konkret och kvantifierad förändring. Det räcker alltså inte att bara konstatera att vissa grupper är underrepresenterade på en viss plats eller inom ett visst område.

Andra användningsområden för jämlikhetsdata rör större folkräkningsliknande studier i form av medborgar-, brukar-, medarbetar- och medlemsenkäter samt attityd- och diskrimineringsundersökningar som löpande genomförs i kommuner och landsting, för att exempelvis undersöka invånarnas och brukarnas relation till olika offentliga service- och välfärdstjänster kopplade till exempelvis skola, vård, omsorg, arbetslivs- och boendefrågor och socialtjänsten. Det kan handla om utfallsstudier och uppföljningar av den löpande verksamheten för att undersöka vilka brukare eller kunder som nås i större eller mindre grad och hur dessa uppfattar kontakten i relation till frågor om räckvidd och bemötande. Metoden har kritiserats för att man misstänker att den kommer att leda till krav på kvotering. Jag vill här försöka fokusera på vilken kunskap man ska skaffa sig och varför, och tar exemplet för att visa hur den radikala sidan tar fram kunskap utifrån om den kan associeras med positiva egenskaper.

Våldtäktsmän utan signalement

Som kontrast vill jag ta ett exempel som tyvärr inte är helt entydigt, men där jag vill åt den här smygande känslan av att information hålls undan medvetet.

Det handlar om ett antal våldtäkter som skett i Malmö, och där Polisen inte gått ut med signalement. I en artikel i Sydsvenskan som handlar om ett annat fall där man nu fått tag på misstänkta gärningsmän diskuteras oviljan från Polisens sida att lämna ut signalement.

Så här står det i artikeln Fyra pojkar anhållna — misstänks för grov våldtäkt i Sydsvenskan 7 mars 2018.

Polisen har fått kritik från olika håll för att man inte gått ut med signalement på de misstänkta gärningsmännen och andra detaljer om utredningarna vid de anmälda våldtäkterna.

– I det här fallet har vi arbetat oss fram till fyra frihetsberövanden utan att behöva lämna ut precisa uppgifter, säger Nils Norling.

Nils Norling vill bara uttala sig på ett generellt plan i frågan, men menar att polisen alltid gör noga överväganden i de specifika fallen innan man tar beslut om att gå ut med signalement på personer misstänkta för brott.

Utredningar riskerar nämligen att förstöras och vittnesmål bli värdelösa om för mycket information är känd för allmänheten. Nils Norling tar upp ett fiktivt exempel.

– Om två misstänkta gärningsman har röda mössor och gula skor och informationen om detta går ut i media i ett tidigt skede så kan en skicklig försvarsadvokat använde detta mot oss i en senare rättegång.

– Advokaten kan hävda att vittnen som sett gärningsmännens skor och mössor påverkats av att de fått informationen i media, att den varit allmänt känd.

– Vi vill därför alltid ha vittnesuppgifter som är så ofärgade som möjligt.

Så som jag tolkar den här situationen samspelar två principer. Det är inte önskvärt att lämna ut signalement på våldtäktsmännen eftersom man kan misstänka att de tillhör marginaliserade grupper, men det är inget som man säger öppet. I stället motiverar man sitt ställningstagande med att vittnesuppgifter kan påverkas.

Det här är förstås min tolkning, men jag tror att det är viktigt att börja göra tolkningar om vad som sägs och inte sägs. Det finns mycket som är svårt att tala om i dagens diskussionsklimat, och det är dags att göra något åt det.

Jordan Peterson

Jordan Peterson passar väldigt bra in i det här sammanhanget, eftersom han just inte är rädd att föra fram sina ståndpunkter. Han har blivit känd via Youtube-filmer och -föreläsningar. Han bor i Kanada och är både klinisk psykolog och universitetslärare i psykologi.

Peterson pratar utifrån ett tydligt konservativt perspektiv, både uttryckligen i det att han hyllar traditionella värderingar, och i det att han motsätter sig det radikala sättet att skaffa kunskap.

Han har angripit den radikala falangen på en mängd områden. Ett av de första områdena som gjorde honom känd var att han protesterade öppet mot en lag som föreskrev att man skulle kalla transsexuella personer för det kön de föredrog att bli kallade.

Han är noga med att det är lagen han vänder sig emot, och inte vad han skulle kalla en viss person. Den här sortens principfasthet är ovanlig, och ger Peterson mycket av hans styrka. När han pratar har han ett ordflöde som i sig ökar hans trovärdighet. Det är som att han inte behöver tänka efter i sina formuleringar, för han har redan samlat så mycket sammanhängande kunskap.

Det jag här kallar den radikala ståndpunkten kallar Peterson för postmodernism, vänster och maoism. Postmodernismen framförs som dålig eftersom den kopplas ihop med maoism och kommunism som lett till miljontals människors död. I mitt tycke försvagas Petersons argument kraftigt av kopplingen till maoismen. Det är som att han måste slåss med näbbar och klor mot postmodernismen, i stället för att sänka den med en elegant stöt med värjan.

Den blinda fläcken

En blind fläck i många av de diskussioner som förs idag är skillnaden mellan positiva värderingar och negativa. När den radikala sidan behöver hjälpa en grupp, för att minska diskriminering och marginalisering, tar de fram gruppens särdrag. När en grupp tvärtom är hotad, genom att en negativ värdering kopplas till gruppen, då vill man inte att den kunskapen ska finnas.

Detta tror jag är en blind fläck i dagens diskussionsklimat. Det är själva kärnan i det är vilken roll värderandet har, och om det är tydligt kommunicerat eller underförstått.

Vissa sakförhållanden fungerar också som pivot-punkter, och framstår som positiva för en del grupper och negativa för andra. Låt oss säga att man skiljer ut ensamkommande flyktingbarn för att de har större behov av hjälp i skolan. Det som är positivt från hjälp-perspektivet blir negativt för de som ser på samma situation från resursbehov. Gruppen ensamkommande flyktingbarn blir för dem en orsak till skenande kostnader.

Om man gick igenom den politiska debatten på det här sättet och lyfte fram värderingarna skulle man kunna få syn på mycket av det som gör att den konservativa och den radikala sidan har svårt att prata med varandra idag.

I början skulle de två sidorna framstå som mer olika, men när man börjar dialogen gör den här metoden att man har möjlighet att hitta en samsyn som kan leda till att en del låsningar i samtalet löses upp.

Maktstruktur, värdestruktur och fördomar

Maktstrukturer hänger nära ihop med de värdestrukturer jag har skrivit om hittills. De två förtjänar en kort diskussion.

Maktstrukturer är så självklara för hur samhället fungerar att det nästan går att missa dem vid en samhällsanalys. Kanske är de för samhällsvetenskapen en del av den innersta nästan tautologiska kärna en teori måste ha, och som inte kan ifrågasättas.

Maktstrukturerna verkar i många dimensioner, vilket gör dem svåra att sortera entydigt. En person kan ha makt i form av sitt ämbete, sin lön, sitt kön, sin bostad, sin familj och många andra faktorer. Eventuellt är det tydligare att tala om det som “kapital” av olika slag, som Bourdieu gör. Socialt och kulturellt kapital, till exempel. Men de olika formerna av kapital är inte konvertibla på samma sätt som olika valutor är, så det blir ändå svårt att ordna.

Makt “smittar” i form av preferenser: om någon som har makt gillar en viss företeelse så ökar den företeelsen i värde. Säg att en uppburen fotbollsspelare säger att hon gillar Audi-bilar. Då associeras det mer “kapital” och “makt” med Audi-bilar, åtminstone för de som gillar fotbollsspelaren.

Det är den här väven av makt och kapital som är nästan osynlig för oss. Den är mestadels omedveten och styr våra val utan att vi reflekterar över var i maktstrukturen vi har hämtat inspirationen till det vi väljer. Det är den som ligger till grund för begreppet “värdering” i början av texten.

Maktstrukturer förändras över tiden, och genom att ifrågasätta dem (genom praktisk handling) ser man vilka som finns på riktigt och vilka som bara förblir stående så länge det inte blåser.

Jag tänker på sådana strukturer som adeln, kyrkan, skolan: tre klassiska maktstrukturer som inte alls har samma makt som för ens 20 år sedan. TV och YouTube är maktstrukturer som gått starkt framåt.

Etnisk tillhörighet kan ses som en maktstruktur som är sammanvägd av massor av faktorer. Man kan testa sin egen uppfattning av den maktstrukturen med enkla medel:

“– Nilssons fick hela sitt badrum förstört vid renoveringen, men det är ju inte så konstigt, för hantverkarna var ju från …”

Testa olika länder att fylla i i slutet av meningen: “Polen”, “Moldavien”, “USA”, “Nigeria”, “Indien”, “Norge”.

Det är de här outtalade värderingarna som ligger under det vi vanligen pratar om som fördomar.

Två perspektiv

Från det ovanstående vill jag sammanfatta och förtydliga de två perspektiven:

Det konservativa perspektivet:

• låter kunskap komma före värderingar
• vägrar ofta diskutera maktstrukturer
• kanske inte ens ser maktstrukturerna, eller ser dem åtminstone inte som relevanta
• företräds ofta av de som vill bevara traditionella värden som ofta ses som så traditionella att man inte ens behöver prata om dem

Det radikala perspektivet:

• låter värderingar komma först
• vill riva ner maktstrukturer och andra sociala konstruktioner
• företräds av en kunskapsrelativistisk vänster

Jag är av den uppfattningen att det finns problem med båda perspektiven, och det gör den strid som är under uppsegling ännu mer problematisk. Jag tror att den måste föras utifrån ett tredje, mer neutralt perspektiv som kan se både det konservativa perspektivet och det radikala perspektivet.

Vetenskapen och det konservativa perspektivet

Mycket av det konservativa perspektivet återfinns i modernismen, och mycket av det radikala i postmodernismen.

Postmodernismen föddes tillsammans med många andra företeelser i ett mycket speciellt samhällsklimat som rådde en tid efter andra världskrigets slut. Mycket av det som hände då känns nästan som ett samhälleligt självskadebeteende. “Var det så att vi dog?” “Nej, vi dog inte, då kan vi göra vad som helst.” “Vi vann kriget!” “Ja, men det känns inte så.”

Kanske kan man säga att det fanns en enorm spänning lagrad i modernismen, som en bomb som kunde brisera, men vid tiden när postmodernismen satte eld till luntan var det inte självklart att det skulle bli den som orsakade en explosion. Jag tror att det kunde gått på en massa andra sätt, men är verkligen inte någon expert på det.

Av de saker som orsakade spänningen under efterkrigsåren kanske kan nämnas att vetenskapen fungerat så extremt väl under kriget. I artikeln Saving science tas upp hur den tydliga målinriktningen från det militärindustriella komplexet gav (natur)vetenskapen en riktning som den sen dess tappat.

Det fanns en stor auktoritetsfixering i modernismens vetenskap, och den bidrog också till spänningen.

Jag har ingen möjlighet att ens kortfattat gå igenom postmodernismen, men kan räkna upp några grundtankar: demokratisering, extremt ifrågasättande av den vetenskapliga metoden och en upplösning av hela det vetenskapliga maskineriet.

Om vi förflyttar oss till nutiden så har postmodernismen skapat en annan spänning som jag tror (och hoppas) kommer att lösas ut ganska snart. Det konservativa perspektivet har hållit fast vid en del av de klassiska vetenskapliga idealen, och det radikala perspektivet har gått alldeles för långt i upplösningen av den vetenskapliga metoden.

För mig är vetenskapen en maskin, som för att fungera åtminstone tillfälligt måste utgå från stabila premisser. Postmodernismens ständiga ifrågasättande gör att vissa vetenskapsområden går i stå.

Men om postmodernismen har gått till överdrift inom vissa områden, så har den verkligen behövts inom andra. Två av dessa är konstruktivism och hypotesskapande.

(Social)konstruktivism är en form för kunskapsbildning som traditionellt förknippas med mycket av postmodernismens avarter, som tanken att biologiskt kön inte finns utan att kön bara är en social konstruktion.

Den sida av konstruktivismen som jag ser som en del av vägen framåt är en viktig del av hela verklighetsuppfattningen — möjligheten att på ett tydligt sätt skilja verkliga fenomen från hur dessa uppfattas av olika människor, utifrån deras respektive begreppsapparater. Den delen av kunskapsbildningen har inte modernismen kunnat hantera på ett vettigt sätt. Det har funnits tidiga forskare som von Uexküll, men de har inte fått genomslag förrän de senaste 20–30 åren.

Postmodernismens andra stora värdefulla bidrag är hur hypoteser och forskningsfrågor, materialet till den vetenskapliga maskinen, tas fram. Medan modernismen varit ganska stelbent i sin metoddiskussion har postmodernismen varit desto mer tillåtande. Som exempel kan nämnas filosofen Paul Feyerabend som fick stort genomslag med sin närmast anarkistiska syn på den vetenskapliga metoden. Hans inflytelserika bok Against methodkom 1975 och fortsatte den radikala vågen som svepte över världen på 1960-talet.

Här vill jag betona igen att min egen syn på den vetenskapliga metoden är att de logiska slutledningarna som bygger upp själva den vetenskapliga maskinen inte kan rubbas, men vad gäller metoder för att finna nya samband är jag öppen för i princip vad som helst.

Det finns också en annan aspekt på vetenskaplig metod som är lite mer komplex, och som rör området mellan den konservativa och den radikala ståndpunkten. Det gäller ännu en blind fläck, nämligen de värderingarsom ligger bakom vetenskapen. Jag har inte möjlighet att gå in på detaljer i den här formen, men behöver ändå nämna det. Grunden är att riktningenpå vetenskapen styrs av värderingar som sedan inte syns i själva vetenskapen. För att ta ett exempel: cancerforskning har fått så stort utrymme för att samhället värderarcancerforskningen högt. Alternativet till detta hade varit en mer kunskapsdriven process, där kunskapen i sighade varit ett mål. I en sådan process hade kanske också cancerforskning varit stort, men i så fall på grund av dess kunskapsmässiga egenskaper, såsom att det gått att skapa och granska många hypoteser inom området.

Här skulle jag säga att den radikala sidan erkänner de värderingar som styr vetenskapen. Den konservativa sidan låter också vetenskapen styras av värderingar, men de syns inte alls på samma sätt i själva vetenskapen.

Identitetspolitik

Det politiska spår som ligger närmast den här debatten, och som också är ett av de mest diskuterade under de senaste åren är identitetspolitik.

Jag har hittills förstått grunden i identitetspolitiken som en skapelse av den radikala rörelsen, där det just varit ett fokus på de positivaegenskaperna hos åsidosatta grupper — ett behov att lyfta fram gruppidentiteter för att kunna stärka dessa grupper.

Men när jag läser en intressant och aktuell artikel i Göteborgsposten av Kenan Malik förstår jag det som att identitetspolitiken i själva verket kommer från den reaktionära högern, och att detta att lyfta ut grupper, i termer av ras, religion, etc, är något som möjliggör fortsatt rasism.

Här ser man den dubbelhet som jag har pekat på tidigare — om man tar fram en grupp utifrån positiva värderingar finns det inget skydd mot att samma grupp lyfts fram med negativa förtecken.

Som en liten parentes finns det ett annat delvis relaterat uttryck, nämligen “politisk korrekthet”, som gjort en motsvarande vandring, fast åt andra hållet. Som framhålls i en Guardian-artikel från 2016 så började uttrycket politiskt korrekt användas av vänstern som en ironisk bild av den egna gruppen, för att avvärja dogmatism. Men efter 1990 togs uttrycket upp av högern som en anklagelse mot de vänsterradikala.

Sammanfattning

Området som jag har beskrivit i den här artikeln har något paradoxalt över sig. Men paradoxen är lite svår att sätta ord på.

Den grundar sig i att värden och värderingar styr så mycket av våra liv, men att vi är ganska dåliga på att erkänna och prata om dem. Ett av samhällets grundantaganden kanske är just detta — vi ska kunna samsas om samhällets resurser oavsett de värderingar som ligger bakom vårt handlande.

De två perspektiven konservativa och radikala är i många stycken lika, men leder ändå till skilda sätt att tala om samhället. Båda perspektiven har sina blinda fläckar. Skulle det med utgångspunkt från det här sättet att se hitta fram till ett nytt perspektiv som lättare kommer vidare, förbi lättkränkthet och politisk korrekthet, diskriminering och värdenihilism?

Bildkällor: 1, 2

Efter att ha skrivit texten fick jag tips om Jonathan Haidts distinktion mellan universitetens (kunskapssökandets) två olika möjliga "telos" (typ avsikter). Universiteten kan ha "sanningen" som ledstjärna, eller så kan de ha "social rättvisa", och Haidt menar att detta inte går att kombinera inom ett universitet, utan att de måste välja. Den distinktionen är väldigt relevant för min text. Haidt redovisar sitt resonemang exempelvis här.

Om musik och AI i dagens Sydsvenskan.

Jag brer ut mig på två uppslag i dagens Sydsvenskan (betalvägg) om musik och artificiell intelligens. Roligt att få skriva så långt. Temat var det glada (kommande) 20-talet, och jag är ju inte alltid så entusiastisk över den nya tekniken.

Vad gäller AI är jag rätt ambivalent. Det gäller att vara noggrann så att det är mänskliga känslor som på något sätt avspeglar sig i musiken, men om jag kan ta hjälp av AI (eller låt oss säga machine learning) för att skapa musiken som förmedlar känslorna så tycker jag det är en intressant möjlighet.

Artikeln börjar med att referera till Goodiepal, som var en av dem som först fick mig att förstå människans situation i förhållande till AI och musik. Det var på Reboot-konferensen för mer än tio år sen, och hans galna performance finns fortfarande tillgängligt (minus det inledande visslandet).

/Simon

artificiell intelligens, ersättning_av_människor, infontology, maskininlärning, meningsfullhet, musik

Epistemiskt intrång

Jag hamnade på en sida om medicinsk terminologi och hittade ett nytt intressant uttryck: "epistemic intrusion".

A further phenomenon which characterizes parts of SNOMED CT is the so-called epistemic intrusion.[21] In principle, the task of terminology (and even an ontology) should be limited to providing context-free term or class meanings. The contextualization of these representational units should be ideally the task of an information model.[22] Human language is misleading here, as we use syntactically similar expression to represent categorically distinct entities, e.g. Ectopic pregnancy vs. Suspected pregnancy. The first one refers to a real pregnancy, the second one to a piece of (uncertain) information.

I min avhandling finns en artikel om deontiska och epistemiska modala uttryck, och antagligen är det här ett exempel på ett liknande fenomen. Med modalverb är kontrasten till exempel: "Han måste vara hemma hela dagen, för hans pappa tvingar honom" som deontiskt uttryck, medan det epistemiska blir i stil med "Han måste vara hemma nu, för jag såg att det lyste i fönstret".

Det deontiska (deon = plikt) betecknar en "kraft" i den verkliga världen som gör att "han" är hemma. Det epistemiska (episteme ≈ kunskap) rör snarare vår kunskap om situationen. Att det lyser i fönstret får mig att dra slutsatsen att han är hemma.

I den medicinska terminologi-kontexten är det intressant att det epistemiska betraktas som ett intrång, men det stämmer iofs med min idé att det epistemiska är sekundärt.

Om jag skulle säga något om det utifrån inlägget nyligen om meningsbärande och symbolmanipulerande processer, så tillhör det epistemiska "intrånget" det som kom med symbolmanipulationen. Innan dess tror jag inte att man kunde använda orden på det sättet.

/Simon

infontology, språk

Hur får man veta att nätet funkar?

Jag tror att väldigt mycket av internettrafiken bara är till för att kontrollera att alla sidor, appar och tjänster funkar som de ska.

Nyligen satte jag upp en experimentell hemsida som bland annat anropade busstider på Trafiklabs server. Efter ganska kort tid slutade sidan att fungera. Orsaken var att Elastic beanstalk (!) som är serverinfrastrukturen jag använde till sidan skickar 8 förfrågningar i minuten till sidan för att se om den laddas korrekt. Så det tog inte lång tid förrän jag hade använt upp mina tilldelade anrop till busstidtabellerna, utan att ha besökt sidan mer än kanske tio gånger själv.

Jag trodde att jag laddade upp en sida som liksom bara skapades när någon besökare kom och faktiskt ville ha information, men de drygt 11 000 anropen per dygn som gjordes automatiskt svarade mot den trafik jag väntade mig under de närmaste femton åren...

Det skulle kunna finnas en massa sätt att testa att sidan fungerar, men det enklaste är det som användes här: ladda om sidan och se att det går bra. Ska man inte göra så måste man bygga någon sorts annan monitor-funktion, som kanske måste bli lika komplex som att ladda sidan...

Och sen är ju frågan hur ofta det ska göras. Jag tror kanske att tålamodet med tjänster som inte fungerar är ungefär så långt som i mitt exempelt: ett par sekunder efter att sidan har slutat fungera måste det gå ett larm, eller en automatisk procedur måste sättas igång för att den ska lagas.

För min sida blev det absurt, förstås, men det kan inte den elastiska bönstjälken känna till.

/Simon

digital infrastruktur, infontology

Utkast: meningsfulla och symboliska processer

Många känner att människan har kommit i kläm de senaste decennierna. Det hänger ihop med digitalisering och byråkratisering, med naturvetenskapens kalla framgångar och med en skenande kapitalism.

Det är svårt att hitta ursprunget till det här, men jag tror mig ha hittat åtminstone en grundorsak, en kulturkrock mellan två processer i samhället, som jag skulle vilja kalla "meningsskapande" respektive "symbolisk".

Språket är centralt för båda processerna, men båda går också långt utanför språket. Själva orden är det som binder ihop processerna, och gör att de kan fortgå och samexistera.

Den meningsskapande processen har funnits åtminstone så länge människan har haft ett språk, antagligen hundratusentals år. Den symboliska processen sträcker sig antagligen bortom uppfinnandet av skriftspråk, men i vilket fall som helst är skriftspråket en av de viktigaste faktorerna i den symboliska kulturen. Tidsmässigt hamnar vi antagligen inte längre än 10 000 år tillbaka i tiden.

Jag ser de två processerna som att de fortgår parallellt i samhället. Den meningsskapande processen är vår grundläggande navigation i världen. Den består av otroligt många små verktyg som har arbetats fram under lång tid, på ett evolutionärt och lite slumpmässigt sätt, snarare än systematiskt.

Jag kallar den meningsskapande processen för M och den symboliska för S.

M är en "grundad" process, och den grundas i våra känslor, värden och värderingar. M hjälper oss att tala om vad vi känner, och hur världen fungerar, vem vi ska lita på och vem vi står i skuld till. M är skvallrets process, och fördomarnas. Att ha "fjärilar i magen" är ett bra exempel på hur M har hittat ett uttryck som gör att många hittar den där känslan som man känner när man är nervös. Det är ett "sant" uttryck på ett fundamentalt sätt.

S är å andra sidan en formell process som gör att man kan koppla olika ord till varann. S användes tidigt för att hålla reda på ekonomiska förhållanden. Det gjordes säkerligen muntligt från början, men kunde göras i mycket större skala så fort man kunde fixera något på papper och låta orden på pappret representera ett faktiskt sakförhållande.

I S finns det ingen mening, utan varje gång man vill avgöra om ett uttryck är meningsfullt eller meningslöst så får man använda M-processen i stället.

Ett område som kanske ligger någonstans mellan S och M och klarar sig utan en meningsskapande evaluering är när vi människor har skapat verktyg och maskiner. En maskin är en intressant process som inte behöver någon meningsskapande utvärdering för att fungera. Man kan förstås ställa sig frågan om det är meningsfullt eller "lönt" att skapa en viss maskin, men det påverkar inte själva maskinens funktion. Så länge maskinen gör det den ska kan man säga att den skapar en form av mening.

Kanske ska man säga att maskinen sätts upp för att skapa något som kan ge mening i M. Man skapar en maskin som ska gjuta plastskålar, och det är meningsfullt, för att plastskålarna är praktiska att ha när man lagar mat.

Plötsligt går maskinen sönder, och gör skålar med hål i. Det funkar inte längre när man ska göra soppa, men vissa skålar får många jämna hål och kan användas som durkslag. Då blir de meningsfulla igen, fast i en delvis annan process.

Meningen som skapas kanske kan ses som någon sorts "resonans" mellan människor, omgivning och artefakter. Mening skapas när det skapas värde för människorna. Det finns inget absolut i vad en människa känner mening i, men det finns saker som många har gemensamt, och som är tillräckligt gemensamt för att man ska kunna bygga upp en kultur kring det.

Relationskänslor och relationsuttryck tror jag länge har varit centrala i den mänskliga kulturen, och där finns också en tydlig resurskonflikt när man ska lösa exempelvis hur attraktiva unga män och kvinnor ska fördela sig och bilda nya familjer. Skvaller och liknande pekas ibland ut som själva språkets ursprung, och jag tror att samtal om relationer och även skuld och skam i de sammanhangen har varit centrala tidigt. [Ref Dunbar]

Här är ett tydligt exempel på hur språket lyckas hålla meningsskapandet stabilt, utan att det finns någon objektiv betydelse att referera till. Människors känslor är tillräckligt gemensamma för att man ska kunna förutsätta att det finns något att referera till. "Freja kom från Ketills stuga i morse" kan vara ett lugnande besked eller det som gör att grannbyn bränns ner, och det finns en kärna av känsloengagemang hos gruppen/familjen som är så påtagligt att det går att använda för språklig referens. Det inre måste göra sig påmint, och vara gemensamt för att funka som bas för språket. Är inte du också hungrig nu efter att ha läst så mycket av min text?

För att sammanfatta: den meningsskapande processen M får sin stabilitet genom den gemensamma kunskap och framför allt de gemensamma värden som finns i gemenskapen. Den språkliga delen av M använder ord som symbol för olika betydelsekonventioner. I vardagligt tal skulle man säga att "orden betyder något", men för att göra tydligt hur processen fungerar vill jag poängtera ordens självständighet, och konventionernas värde.

Den symboliska processen S fungerar ganska annorlunda, och utnyttjar att man kan koppla ihop olika ord med varann i mönster, och koppla ihop dem med andra symboliska processer, som till exempel matematik. De tidigaste skrivna exempel som finns bevarade rörde affärstransaktioner. Jag tänker mig att räknesätten utvecklades parallellt med att man fixerade betydelsen av vissa ord som man behövde för affärstransaktionerna. Det är just det här fixerandet av betydelser som jag ser som kännetecknande för S-processen. Ett exempel skulle vara att "det går 12 tum på varje fot".

På det här sättet har M och S orden gemensamma: "tum" och "fot" har en betydelse för alla, och i M kan man fortsätta att använda "fot" och mäta med sin egen fot, om man vill, och framför allt så vet man tillräckligt väl vad "fot" betyder, eftersom ens kroppsdel ger en värdet direkt.

När S-processen fixerar värden så görs det på ett symboliskt plan, i den betydelsen att man inte behöver koppla de symboler som används till M-systemets värdering. "En fot är tolv tum" är något man bestämmer, och som får en självständig existens, precis som att matematiken har en självständig existens. När man tittar på affärstransaktioner är det lätt att få syn på den här sortens samband.

M-systemets vardagliga resonerande använder ord på ett informellt sätt. Det går att prata om "risk" som något ganska vagt som man bör undvika, och S-processen kan blanda sig i och säga "men risk är lika med sannolikhet gånger konsekvens". Då får M-processen ersätta sin ytliga betydelse av risk med sannolikhet och konsekvens (som man kanske också har rätt ytliga begrepp om). Man gör en distinktion, som kan vara bra för den som gillar preciseringar, men för den som inte gillar precist tänkande och beräkningsbarhet kan det vara slutet på resonemanget.

Det här är bara några få exempel på hur S-systemet och M-systemet interagerar, för att få en uppfattning om hur systemen är åtskilda men ändå hänger ihop.

För att koppla tillbaka till textens början: digitalisering och byråkratisering är typiska exempel på sådant som huvudsakligen försiggår i S-systemet. Jag vet inte vad det beror på för egenskaper hos samhället, men i många fall har det gått att frikoppla mängder av begrepp från M-systemet, och låta dem verka på i den symboliska S-processen. Varje form av automatisering är ett exempel på hur man bygger en liten "maskin" i S-systemet som man kan ha nytta av i M. Varje gång man knyter ett begrepp mot andra begrepp i S så möjliggör man för fler sådana automatiseringar.

Och varje gång man knyter ett begrepp i S till andra begrepp, så är det ett stort steg mot att förlora begreppet i M. M är den dynamiska arena där värde och betydelse förhandlas i en gemenskap, och man kan nästan säga att S "stjäl" begreppen, eller åtminstone "kidnappar" dem. "Jämställdhet" och "feminism" tas ibland upp som sådana begrepp som började som ett djupt känt engagemang, men som har förlorat något väsentligt när de blivit förvandlade till regelverk. [Ref till Kidnappade begrepp]

Jag tror också att distinktionen mellan M och S motsvarar det som man brukar tala om när man skiljer mellan Gemeinschaft och Gesellschaft. Kanske ligger även skiljelinjen mellan Pirsigs kvalitetsmetafysik och subjet-objekt-metafysiken här.

I ett lärandeperspektiv rör man sig hela tiden mellan M och S, men det syns inte på någon om den har kunskap om meteorologi, hållfasthetslära eller intensivvård i M eller S. Man lär sig först en massa principer i S, och sen går vissa aspekter över i M, så att man börjar få en intuitiv känsla av vad man har lärt sig. Annat ligger kvar i S, mer som utantillkunskap. Det här är förstås en central del av den mänskliga kulturen. Jag har ingen aning om hur det går till i hjärnan.

Det finns även viktiga politiska aspekter av det här. Som sagt försiggår byråkratisering, digitalisering och automatisering huvudsakligen i S, även om de kan producera resultat som folk kan ta till sig i M. En elektronisk fotboja, till exempel, är resultatet av en väldigt komplicerad S-process, men när resultatet blir att människor känner sig trygga i sitt område, då är den tryggheten en del av M.

Så det här att digitaliseringen finns i S är den ena polen i en politisk motsättning. Den andra polen är att människor huvudsakligen röstar i M. De röstar på det som har mening för dem.

Mitt M-system säger att jag ska skriva att de röstar "med hjärtat", men jag har lärt mig så mycket från S-processerna att jag vägrar.

Avslutningsvis: jag har presenterat två system, ett meningsbärande och ett symboliskt, som interagerar i kultur och samhälle. Jag har också visat hur distinktionen mellan de två systemen förklarar en del samhällelig frustration på olika plan. Den här texten är huvudsakligen skriven i S, och det är förstås en svaghet. Jag ska åtminstone jobba på att den ska göras lättare att föra över till M.

/Simon

begrepp, belöningsstruktur, byråkrati, det positiva, ersättning_av_människor, etik, infontology, information, känslor, lärande, maskiner, meningsfullhet, pragmatik, sinnen, språk, utbildning, värden, verklighet

När tekniken kan utnyttja våra svagheter

Tristan Harris har en bra poäng i att tekniken inte behöver bli starkare än människornas styrkor, den behöver bara kunna utnyttja våra svagheter:

When are they taking our jobs because they can do everything that we can do better than us? There’s a much earlier point, imagine there’s that timeline, here’s the graph of technological progress going up, up, up, and there’s an earlier point, before it crosses human strengths, all it has to do is cross human weaknesses, and from that ... It’s like a magician. If you’re a PhD, as a magician, I don’t care. I don’t need to know that. I just need to know your weaknesses, not your strengths. […] When technology exploits our weaknesses, it gains control.

/Simon

artificiell intelligens, etik, infontology

Tekniken bakom Kim

Jag har tidigare skrivit om det spännande projektet med att skapa en byråkrat som ska vara en AI.

Den tekniska utvecklingen har centrerats runt NLP (natural language processing, *inte* neuro-linguistic programming...) och öppna data.

Svenskan är ett ganska missgynnat språk när det gäller deep learning-teknik, men har en ganska lång tradition av datalingvistik. En del deep learning-program är språkoberoende och går att köra på svenska utan problem. Det första jag körde var detta och det var spännande att få ut texter som var som en narrspegel av de SOU-texter som jag matade in. Efter den inledande entusiasmen visade det sig vara svårt att komma vidare. SOUerna hade en massa problem med konstiga tecken och sidmarkeringar etc som man skulle behövt ta bort. Det bestående intrycket blev några fraser och ord, som "Havs- och verkligverket", en ny imaginär myndighet, samt "krediträttspsyko" som är ett ord som man aldrig skulle hitta i en utredning, men som var som sprunget ur stämningen i de byråkratiska texterna.

Jag gjorde en del försök att tvätta texterna och få bort något som deep learning-motorn kunde arbeta bättre med, som detta men det var svårt att komma vidare. Det var svårt att skriva reguljära uttryck (regex), alltså avancerade sökmönster, som behövs för att rensa texten, för den sortens texter. Vad som fanns i SOU-filerna varierade också väldigt mycket mellan årtiondena, och i de tidiga texterna var det väldigt mycket felaktiga ord från textigenkänningen (OCR).

En sak som jag velat jobba med var hur olika de genererade texterna skulle ha blivit om man baserade dem på ett äldre material, säg 1930-tal, eller ett av de senare decennierna. SOU är ett fascinerande textmaterial.

I arbetet med SOU-texterna byggde jag vidare på det som gjorts av bland andra Christopher Kullenberg och Peter Krantz, bland annat inom ramen för SOUhack på Kungliga biblioteket 2015.

Christopher Kullenberg har skrivit lite mer om sitt arbete med SOU-texterna.

Den här grenen av projektet avslutades med att jag satte upp en tjänst byggd med Python Flask och Cloud foundry på IBMs Bluemix-plattform.

Så här kan det se ut. Jag har inte gjort någon layout på sidan, utan bara skapat en lättanvänd funktionalitet. När man börjar kan man välja textmängd, och jag har tränat en modell på SOU-text, en på KG Hammars text om Dag Hammarskjöld, och en på båda texterna. När man väl har tränat modellen (vilket tar lång tid) tar det bara några sekunder att köra modellen och få fram genererade texter. I det här fallet körs modellen på IBMs servrar, men man skulle utan större problem kunna ladda ner hela modellen till en telefon och köra genereringen där.

Utanför det aktuella projektet har jag arbetat med AI och machine learning på olika plan. Jag har bland annat gjort reklamfilm för Huaweis första AI-telefon, och varit bedömare för Vinnovas utlysning om AI och öppna data-labb. Ett annat spår har varit att förklara den nya AI-tekniken från grunden, och där har jag bland annat gjort den här genomgången.

Där går jag igenom de allra mest basala sakerna man gör med text i deep learning. De flesta arbetar sen inte med den enkla nivån, men för att förstå hur man går över från ord till något som deep learning-systemet kan hantera så är detta grundläggande.

När jag tyckte att jag inte kom vidare med de första NLP-verktygen försökte jag andra språkrelaterade bibliotek för att se om de hade bättre stöd för svenska. Spa.cy var ett av dem, och det testade jag här.

Det var dock väldigt svårt att komma vidare, för det fanns ingen modell för svenska som man kunde använda. Då köpte jag en modell här.

Tyvärr var den väldigt ofullständig, och när jag väl hade fått den fullständiga modellen visade det sig att den inte fungerade korrekt. Eftersom de här modellerna är omöjliga att granska blir det också svårt att ifrågasätta dem, eller hävda att de är felaktiga. Det finns ännu ingen uppsättning tester som man skulle kunna köra automatiserat och standardiserat, utan man behöver skriva sina egna tester. Det beror förstås på att den här tekniken ännu är så omogen.

Förutom SOU-data har jag gjort några försök med data från Arbetsförmedlingen. Ett intressant spår, men som inte ännu kommit längre än till att sätta upp kod för att kunna hämta yrken och platsannonser.

Yrken och yrkesbeskrivningar finns här, och platsannonser hämtar man här, per län.

Parallellt med att söka efter olika textmassor som kunde vara relevanta för olika delar av Kims personlighet har jag också letat efter olika tekniska ramverk där Kim skulle kunna materialiseras. Det mest lovande var en Twitter-bott, och det fanns en i IBMs Bluemix-miljö, som verkade lätt att integrera med IBMs övriga tjänster, exempelvis Watson-plattformen. IBM har lovat stöd för svenska, men det har skjutits upp hela tiden. Dessutom visade det sig finnas en allvarlig bugg i Node Red, det verktyg där man skapar Twitter-bottarna till följd av att de inte hade uppdaterat ramverket efter att Twitter dubblade maxlängden för tweets, för ett par år sedan. Ramverket gick i princip att köra, men så fort det kom en tweet som överskred den gamla maxlängden så kapades texten. Jag anmälde buggen, men inget hände.

/Simon

artificiell intelligens, bias, byråkrati, digital infrastruktur, ersättning_av_människor, etik, infontology, maskininlärning, programkod

OpenAIs disruptiva textgenerator

Jag har experimenterat en del med textgenerering med maskininlärning det senaste året, men inte varit så imponerad av resultatet. På engelska har det kommit en del halvspännande texter men det har liksom hela tiden varit uppenbart att det är nonsens-texter.

I februari visades en ny sorts modell upp av OpenAI. Den kallas GPT-2 men företaget ville inte släppa den fri för experiment. De skrev att den var alltför farlig för det. De textfragment som de visade upp var roliga, men det var omöjligt att veta hur lång tid de hade tagit att generera eller hur många tråkiga genererade texter de hade fått titta på innan de hittade något som var intressant. Jag tänkte att det mest var ett marknadsföringstrix att säga att modellen var för farlig.

Härom dagen blev modellen allmänt tillgänglig, i begränsad form, via sidan TalkToTransformer, och jag måste säga att potentialen är enorm. Det här är en modell som just lanserats, och man kan föreställa sig väldigt mycket förbättringar under den närmaste tiden. Här är några exempel, där min prompt är i fetstil.

Den här kändes lite som humor, som en absurd teaterpjäs. Det intressanta är hur mycket struktur den har som stämmer med "Dear"-tilltalet i prompten.

I den här får man verkligen fundera på om det är en verklig text. Om en student hade använt en sån här textgenerator hade man antagligen fått lägga väldigt lång tid på att hitta det, framför allt om studenten hade fixat till det mest uppenbara i efterhand.

Eftersom jag håller på mycket med etik och IT tänkte jag att jag skulle testa några lite mer kontroversiella ämnen, och då blev det inte lika roligt längre. Det här var mycket värre än jag kunnat föreställa mig i min vildaste fantasi:

Och här är ett exempel till:

Det är väldigt spännande och nästan helt ofattbart att se detta i en tid när bias inom AI faktiskt börjar diskuteras i ett bredare sammanhang, och där översättningstjänster har långa förklaringar om exempelvis varför könsspecifika översättningar görs som de görs.

Jag fruktar för den dag när alt-right-sidorna börjar massgenerera text med de här verktygen, eller när folk börjar läsa den här sortens texter och ta dem för sanna.

När OpenAI bedömde att det här var alltför farlig tror jag att de gjorde en korrekt bedömning.

/Simon

artificiell intelligens, ersättning_av_människor, etik, infontology, maskininlärning

Reflexvästen

Reflexvästen har gått genom flera faser av "laddning" de senaste åren. Varselkläderna signalerade anläggningsarbete, men togs rätt plötsligt över av cyklister för något tiotal år sen. Det var rätt skönt att reflexfunktionen "demokratiserades" på det sättet. Det gick att synas utan att bli uttittad.

När sen gilet jaune-rörelsen valde plagget som symbol för sina protester (eller blev det bara så?) blev det laddat igen.

Engelska Spectator satte in det i en historisk kontext i december:

och med senaste omslaget till Le monde diplomatique är estetiken fulländad.

/Simon

Hur man skapar en rasistisk AI utan att egentligen vilja det

Jag höll en kortare genomgång på kursen Etik och IT om denna välgjorda Jupyter notebook av Robyn Speer om hur man exponerar bias i en vektorrymd.

Här är videon från seminariet. Hållpunkterna nedan är klickbara i videons beskrivning på Youtube.

00:03:00 Vad är bias

00:04:40 Lite om deep learning-system

00:07:09 Amazon AWS

00:08:16 AI utan magi är datavetenskap (Jan-Eric Larsson)

00:09:05 AGI artificial general intelligence

00:11:02 Jupyter Notebooks, pandas

00:17:15 Word embeddings

00:18:41 Distributional semantics

00:23:14 Positivt och negativt (sentiment)

00:27:20 Machine learning

00:31:31 Olika nationers mat

00:37:48 Namn för olika etniska grupper

00:45:43 Kan man göra något åt bias

/Simon

etik, infontology, programkod, utbildning, bias, artificiell intelligens, maskininlärning

Föreläsning om Fake news

Jag gav en föreläsning om Fake news på kursen Etik och IT.

Tidsstämplarna är klickbara i videons beskrivning på Youtube.

00:00:56 Var ska vi ha den demokratiska diskussionen i samhället

00:06:12 Verkligheten är det som gör att det inte blir som vi vill

00:06:30 Vad är kopplingen mellan information och verklighet

00:08:18 Fake news och Trumps propaganda-apparat

00:09:32 Kyrka och evolutionsteori i svensk och amerikansk skola

00:12:11 Vaccinationer

00:15:11 Nyheter

00:16:12 Vad man bör äta

00:17:33 Tidningar och mediekrig

00:19:14 Den demokratiska diskussionen

00:19:59 Deliberativ demokrati

00:23:16 Fake news och källkritik

00:23:37 Annonsering

00:26:17 Prisdiskriminering

00:27:23 Obamas omvalskampanj

00:28:12 Targeting

00:29:32 Big data will save politics

00:32:23 Facebooks annons-interface

00:38:26 Cambridge analytica

00:39:13 Möjlighet att spärra kategorier av Facebook-annonser

00:42:10 Trump och Twitter

00:43:36 Cambridge analytica

00:46:25 Lookalike-målgrupper

00:48:19 Christopher Wylie

00:50:03 Hur även satir tas på allvar

00:51:20 USA och Kina

00:57:12 Evidensbaserad politik

00:58:00 Den vetenskapliga reproduktionskrisen

00:59:26 Vem sprider fake news

01:01:30 Metoder för att vaccinera mot fake-nyheter

01:08:29 Digital samhällskunskap https://www.facebook.com/groups/digitalsamhallskunskap/

01:09:41 dataskydd.net, dfri.se

01:14:50 Deliberativ demokrati

/Simon

digital infrastruktur, etik, infontology, information, utbildning

Introduktionsföreläsningen på kursen Etik och IT

Jag ger tillsammans med Marie Gustafsson Friberger en kurs den här terminen på Malmö universitet som heter Etik och IT. Här finns introduktionsföreläsningen.

Nedanstående hållpunkter är klickbara i videons beskrivning.

00:00:07 Översikt över hela kursen

00:05:08 Presentation av Marie och Simon

00:13:07 Möjliga tentafrågor från dagens föreläsning

00:20:18 Om etiska resonemang, känslor och kunskap

00:22:30 Lite lite om systemtänkande

00:24:37 Det positiva och negativa med etiken

00:27:59 Algoritmiska orättvisor och oavsedda konsekvenser

00:31:19 Weapons of math destruction, Lärarexemplet

00:38:54 Starbucks-exemplet

00:40:35 Kort om empathizing

00:44:57 Koppla loss fantasin från verkligheten, använd det förflutna för att se framtiden

00:45:34 Gartner Hype Cycle

00:50:20 Amaras lag

00:52:52 När kan man diskutera en viss teknik? (Diskuterbarhetshorisonten)

00:55:23 Tidsaspekter av lagstiftning och teknikutveckling

00:56:36 Att byta referensram, William Gibson om att framtiden redan är här

00:59:49 High Chaparral

01:01:35 Tekniken är inte god och inte ond, och inte neutral

01:02:02 Rushkoff och teknikens benägenhet (bias)

01:03:35 Ändamålsglidning, värmekamera-exemplet

01:07:58 Datalogin har inte haft sin "atombomb"

/Simon

digital infrastruktur, infontology, meningsfullhet, utbildning, värden, etik

En föreläsning om personlig integritet

På kursen Etik och IT gav jag en föreläsning om personlig integritet.

Nedanstående hållpunkter är klickbara i videons beskrivning.

00:01:11 Grundläggande livshållningar

00:02:53 Integritet, privacy, integrity

00:03:29 En okränkbar rätt att dra en gräns runt sin egen person

00:08:33 Vad kan man göra och inte alls bry sig om vad andra tycker

00:09:36 Det är svårt att lägga sig på marken på en offentlig plats

00:10:23 Att vara människa eller maskin

00:17:13 Vad ser jag när jag tittar mig i spegeln

00:18:58 Homogen kultur och julfirande

00:20:43 Hur fungerar informationsteknik i relation till "vardagsrummet"

00:22:41 Historiskt sett hade vi fler gemensamma kunskapskällor

00:24:29 Zeynep om andra möjliga modeller för finansiering

00:26:12 Teknikdeterminism

00:30:11 Smarta prylar i hemmet

00:32:46 Ubiquitous computing

00:33:55 "Cyber" och cyber-physical systems

00:36:27 Wired om hemlarm och säkerhet https://www.wired.com/2014/07/hacking-home-alarms/

00:37:04 Software-defined radio

00:40:34 Säkerhet i hemmen -- att prata med grannens Siri/Alexa som låser upp

00:41:24 Köp i direktsändning i radio genom assistent

00:41:50 VMA-SMS

00:44:27 Stölder av moderna bilar

00:47:09 Handlingsutrymme

00:49:31 Försäkringsbolag och användningsdata. Bilar...

00:52:55 ... och livförsäkringar + fysisk aktivitet

00:55:22 Leva länge, vetenskapligt + danskarna

00:57:11 De två etiska grundhållningarna, människa eller maskin

00:59:50 Kinas sociala poängsystem

01:03:42 Kinas kulturella investeringar

01:13:20 Joi Itos resa till Shenzhen https://joi.ito.com/weblog/2014/09/01/shenzhen-trip-r.html

01:16:23 Amish https://infontology.typepad.com/infontology/2010/05/mitt-besök-hos-amish.html

01:22:28 Tentafrågor

01:23:53 GDPR

/Simon

infontology, utbildning, integritet, vardagsrummet

Att känna in sig i en aktiveringsfunktion

Jeremy Howard på fast.ai uppmanar till att man ska känna in sig de matematiska funktioner som man använder för deep learning.

In this case, we'll want to be able to predict multiple things.

And so Softmax wouldn't be good, because Softmax doesn't *like* predicting multiple things

And like, I would definitely recommend anthropomorphizing your activation functions, right.

They have personalities, okey, and the personality of the Softmax is it *wants to pick a thing* and people forget this all the time.

Jämför med inlägget Empati med tingen

/Simon

infontology, maskiner, mentala_modeller, empati

Den förrädiska enkelheten

Jag postade en liten video av ett Alibaba-lager på Facebook. Det ledde till en intressant diskussion.

Det finns något i de här framtidsvisionerna av högeffektiva, automatiserade lager och fabriker som jag vänder mig emot. Det har kanske främst att göra med den förenklade världsbilden. Det är nästan som att visionen i sig har en viss människosyn, eller rättare sagt att om människor ska få vara med i den nya fina enkla framtiden så måste de bete sig på ett helt annat sätt än nu.

En av möjligheterna är att inkorporera automatiseringen i samhället på ett avskilt sätt, så att robotarna springer omkring i sina lager, där nästan ingen ser dem. Jag tror att jag har kommit fram till att jag inte vill ha det så.

Om automatiseringen ska finnas ska den synas tydligt, och fler i samhället ska vara inblandad i den, i att underhålla systemen etc. Då ser man också lättare om automatiseringen går över styr.

Jag tänker mig den första möjligheten, att vi kapslar in robotar i fabriker och lager som att vi skapar kulisser, där vi har en vision för vårt kuliss-samhälle som kan vara extremt romantisk och nostalgisk: små lokala samhällen med hög delaktighet där mycket av historien är bevarad. Men för att det ska fungera i modern tappning får vi en ökande mängd komplex teknik "någon annan stans". Här är en fin bild från Les murailles de Samaris av Shuiten och Peeters:

Det var längesen jag läste albumet, men jag minns det som att huvudpersonen länge misstänkte att det allting inte var som det verkade i staden, och till slut lyckades få syn på maskineriet som drev staden.

Det här handlar ju också om utbildning -- för att vi ska få nästa generation att kunna förvalta arvet måste det vara många som känner till komplexiteten i samhället, och då är det bättre att ha den mitt bland oss. Vi får väl anstränga oss att göra vacker teknik så vi får ett samhälle värt att bo i, eller?

/Simon

digital infrastruktur, ersättning_av_människor, infontology, lärande, maskiner, stadsbyggnad

Min artikel i XRDS magazine

Jag har skrivit en artikel i studentmagasinet XRDS, som handlar rätt mycket om Infontology.

Via den här länken ska man kunna läsa artikeln gratis.

/Simon

Prediktivt skrivande

Skrivhjälpmedlen blir allt effektivare. Det får mig att börja fundera på hur utvecklingen kan komma att se ut framöver.

En text kan ses som ett beslutsträd, där olika punkter i texten har olika många förgreningar. I teorin kan vilket ord som helst komma efter varje givet ord, men om det ska vara en språkligt korrekt text begränsas valet mycket, och om det ska vara en språkligt begriplig text begränsas det ännu mer.

Förutom detta har texten ofta en "stil" och ett ämnesområde som gör att det ofta går att förutsäga ord och uttryck i många lägen.

Många har en hjälp för prediktivt skrivande i sin mobil – ord som appen föreslår som fortsättning på det man redan har skrivit. Om jag själv bara trycker på huvudförslaget när jag ska skriva ett SMS får jag följande:

Jag är på väg hem från Berlin och jag har inte fått in några utbildningar eller kursen i en vecka sedan och jag har inte fått in några utbildningar eller...

Och sen fortsätter det med några ord som upprepas, som en refräng som man måste fada ut när den inte vill ta slut. Det är en lite lustig följd av ord som jag inte riktigt känner igen, men om man samlade allas sådana ordföljder och såg på större mönster kanske de skulle säga något om personerna bakom.

Det finns webbtjänster där man kan ladda upp texter som en sorts "historik" som tjänsten utgår från när den predicerar ord. Här är ett exempel från tjänsten Botnik. Och Google skrev nyligen att de introducerar "smart compose" för Gmail. Jag kan dock inte se att den är inkopplad på exempelvis mitt konto.

Det är förstås bra att få hjälp med vanliga, standardiserade uppgifter. Men jag är rädd att de texter som går emot samhällets förväntningar ska komma i kläm. Blotta förekomsten av förslag på hur man ska fortsätta en text känns som ett hot. Den som skriver en text som går emot det som förväntas behöver snarast hjälp att få fram alternativa tankar, men en början är i alla fall att "förväntningens röst" håller helt tyst.

Studentuppsatser blir också problematiska i det här sammanhanget, i det att de är en väldigt styrd form av text, samtidigt som studenten förväntas visa självständighet, och framför allt inte plagiera någon annans arbete. Jag vill ladda ner stora mängder text från uppsatser.se och mata en prediktiv app med och se hur snabbt man kan producera intressant text.

Och på det området är redan kapprustningen på god väg, när mängder av studentuppsatser betygssätts av mjukvarurobotar. Kanske dags för skolor och högskolor att ha en etisk standard där de skriver under på att elevernas arbeten faktiskt läses av lärarna. Och att eleverna skriver under på att de själva skriver texterna utan att ha en "predictive writer" till hjälp... :-) (Mer diskussion om detta.)

/Simon

affärsmodeller, digital infrastruktur, ersättning_av_människor, fantasi, infontology, lärande

Kidnappade ord och annat som händer när Gemeinschaft blir Gesellschaft

Sveriges friaste byråkrat Cecilia Jonasson skriver om frustrationen när positiva och i grunden viktiga begrepp som omsorg, hälsa, solidaritet, transparens och jämlikhet förlorar sin grundläggande betydelse, politiseras och upptas som "slagord, ledord och marknadsföringsfraser i samhällets alla maktsfärer".

Det här inlägget ska visa några ingångar till en underliggande teori för att diskutera vad som händer i den här övergången.

Vetenskapligt rör det sig om gränslandet mellan socialpsykologi, lingvistik och kognitionsvetenskap, väldigt mycket det gränsland där jag skrev min avhandling, men jag har egentligen inte mycket koll på vad det här skulle kunna vara för fenomen om man ser det från exempelvis kognitiv synvinkel. Här kommer pusselbitarna:

1. Johan Asplund har skrivit om liknande övergångar i termer av Ferdinand Tönnies begreppspar "Gemeinschaft" och "Gesellschaft", där Gemeinschaft representerar en grundläggande gemenskap där begreppen har sina ursprungliga värden, i ett rent och nära tanke- och känsloutbyte, och Gesellschaft representerar en institutionaliserad samhällsapparat.

2. Jag hittade en av de här övergångarna för flera år sen i ett oväntat sammanhang, i en av de debattartiklar som gällt Julian Assange-fallet:

Den fria feminismen kidnappades i slutet på 1980-talet, avväpnades och döptes om till jämställdhet och införlivades i maktapparaten. Jämställdhet upphöjdes till statlig norm och ideologi och blev en karriärstege inte minst inom politiken, byråkratin och rättsväsendet.

Många av urfeministerna försvann till universiteten och blev elitfeminister och gjorde kampen till vetenskap. Könet blev genus och måltavlan var inte längre statsapparaten utan svängde över mot männen som kön och sexuella varelser. Den rådande totalitära könsideologin anammades också av många traditionella medier som går statens ärenden.

På en annan kant, i framför allt kvällspressen, säljer sex som aldrig förr på ett sätt som förvandlat begreppet cynism till ett ”understatement”.

Jag är inte det minsta intresserad av att diskutera feminismen eller jämställdheten, utan är intresserad av den upplevda känsla som artikelförfattarna har, och det kognitiva fenomen som ligger under det som skildras. Det spelar alltså inte någon roll om de historiska händelser som skildras i citatet är korrekta, utan det här är bara ett av många möjliga exempel på fenomenet. Jag tror dock att det är typiskt att det här ofta är ganska laddade områden.

För att hitta fler exempel på just det här kan man börja med en sökning på "feminism kidnappats".

Om man samlar de här begreppen omsorg, hälsa, feminism etc i ett samlingsbegrepp kanske det blir "värdegrund", och här är ett frustrerat exempel på hur själva värdegrunden blivit kidnappad, från Läkartidningen.

3. Det är något som händer i en formell apparat, exempelvis en byråkrati, när man sätter något som ett mål, och utvärderar efter det målet. En del av det uttrycks i Goodharts lag:

“When a measure becomes a target, it ceases to be a good measure.” In other words, when we set one specific goal, people will tend to optimize for that objective regardless of the consequences.

I ett inlägg nyligen nämnde jag i slutet de relaterade fenomenen "reward hacking" (eller "specification gaming") som är just när ett system börjar funka uppenbart dåligt och på ett sätt som man inte avsett just för att det börjar optimera för sina mål på fel sätt.

I sin ursprungliga formulering är lagen mer allmän och kanske mer intressant för det här inlägget, när man mer intresserar sig för systemets övergripande funktion och inte lägger så mycket värderingar i vad det är som händer:

"Any observed statistical regularity will tend to collapse once pressure is placed upon it for control purposes."

4. Kanske är det här fenomenet relaterat till ironi och sarkasm. Genom begreppsparet Gemeinschaft och Gesellschaft hittade jag John Haimans bok "Talk is Cheap: Sarcasm, Alienation, and the Evolution of Language." Oxford University Press, 1998. I den funderar Haiman över språkets evolution och huruvida samhällen som karakteriseras som Gemeinschaft ens skulle kunna ha ironi.

Ironi (sarkasm) ser Haiman som ett modus ("mood") i stil med konjunktiv som uttrycker talarens attityd mot det propositionella innehållet i det som sägs, enligt en definition från Palmers Mood and Modality, 1986.

För mig blev det här plötsligt extra intressant, eftersom det här området med modalitet var något som jag intresserade mig särskilt för i min avhandling. Jag skrev om deontisk och epistemisk modalitet, som i kontrasten mellan "Han måste vara hemma för hans mamma är väldigt sträng" och "Han måste vara hemma för det lyser i fönstret nu".

I det första exemplet är "måste" relaterat till "krafter" som verkar i den fysiska världen. I det andra är det kraften från argumenten som gör att vi är säkra på att han är hemma.

Den här "epistemiska världen" kändes som ett lager ovanpå de vanliga uttrycken i språket, och jag var fascinerad över hur kunskapen kunde frikopplas från de grundläggande skeendena i världen på ett sätt som för längesen grammatikaliserats i språket, men samtidigt på ett sätt som man inte uppmärksammar i språkundervisningen.

Under forskarutbildningen kom jag aldrig fram till när i historien den här grammatikaliseringen skedde -- var det före skriftspråket, eller var det när vi tack vare skriften fick syn på språket och kunde börja förhålla oss till det? Eller skedde det ännu senare?

Om nu både ironi och begreppens "kidnappning" är relaterade till detta är det ju väldigt spännande. Vilken enorm mängd kunskap att utforska? Och hur kan det komma sig att språkvetare nästan inte har sett det här fenomenet?

Som med alla sådana här grundläggande fenomen kanske man också ska ställa sig frågan om man bör undersöka det? Kan det hända oönskade saker om vi sätter fingret på de här fenomenen? Blir delar av språket "avförtrollat" och platt? Får AI-utvecklarna tillgång till ett så grundläggande "vapen" att Turing-testet passeras slutligt och i raketfart? Nej, kanske tror jag ändå inte det.

Vad gäller ironi så tyckte jag 1993 att Jan Gradvalls artikel "En ironisk generation" var mycket inspirerande.

5. Om nu kidnappningen av begreppen är så här grundläggande förankrade i språkets utveckling, är den något speciellt fenomen, en speciell övergång mellan Gemeinschaft och Gesellschaft, eller är den bara de extra synliga avarterna av en utveckling som händer så fort ett nytt fenomen eller ny teknik kommer in i samhället? Beter sig alla begrepp lite som de här "omsorg" eller "solidaritet" som blir konstiga så fort man börjar ha dem som mål, eller blåser upp dem för marknadsändamål?

Ta "knapptelefon", ett begrepp som jag växte upp med och som var det nya coola på den tiden alla telefoner hade en nummerskiva. Begreppet knapptelefon hamnade under lång tid under diskuterbarhetshorisonten, eftersom alla telefoner hade knappar, men dök upp härom året som nedsättande benämning på alla mobiltelefoner som inte har "touch".

Många begrepp går genom faser som liknar Gartners hajp-graf, och börjar med en fas av "uppblåsta förväntningar". Begreppet är ofta väldigt positivt laddat i början. Det som Gartner-grafen inte tar med i beräkningen är att det finns olika språkgemenskaper i samhället som befinner sig på olika ställen i processen. De som är tekniskt kunniga på ett område lämnar ofta väldigt snabbt de uppblåsta förväntningarna, åtminstone vid den tidpunkt när begreppet slår på bred front.

2012 skrev jag följande om 3D-skrivare och 3D-TV, men redan nu 2018 känns det som att laddningarna har ändrats:

Ett exempel från idag skulle kunna vara 3D-skrivare och 3D-TV som ligger i helt olika faser. 3D-skrivare är rätt nytt och spännande för många, även inom IT-branschen, men eftersom tekniken inte motsvarar visionerna på långt när ännu så är det många tekniskt insatta som väntar på den tekniska utvecklingen. Under tiden blir man mest trött när 3D-skrivare nämns som en revolutionerande teknik.

3D-TV är i en annan fas. Det finns nu apparater att köpa var som helst, men jag tvivlar på att så många sitter hemma och ser på 3D-TV. Ett intressant ögonblick i ett begrepps historia är när det börjar finnas med i marknadsföring, och när det slutar finnas med. Idag är det obligatoriskt att det står "HD" på en TV, men den dag alla TV-apparater är HD-TV kommer det att få ge vika för något annat. Kanske "Retina" eller "4D" eller "Smell".

(Ett möjligt forskningsprojekt i nutidshistoria/lingvistik/företagsekonomi skulle vara att titta på utvalda begrepp och hur de dyker upp i marknadsföring och sen hur de försvinner igen, och helst relatera till olika teknikers "mognadscykler".)

Avslutning:

Jag tror att det här finns material att skriva en eller ett par böcker, men avsikten här är bara att samla en del trådar för att man ska börja nysta. Mycket av nöjet med vetenskapliga undersökningar är ju också att man inte från början ser fenomenen, att man på det här sättet kan dra in influenser från olika områden, etc.

/Simon

begrepp, byråkrati, infontology, information, känslor, meningsfullhet, pragmatik, värden

En moralisk agent

Jag är med i ett spännande konstprojekt, Kim Svensson, AI, vars syfte är att skapa en byråkrat som är en artificiell intelligens. Kim ska vara en moralisk agent, och det har lett till en hel del tankar och diskussioner.

Det är förstås väldigt svårt att skapa en AI som är moralisk på samma sätt som en människa, och många skulle säga att det inte heller är önskvärt.

Med en AI är det både lättare och svårare att skapa en moralisk agent. En AI har alltid ett mål, som att lära sig navigera i en okänd miljö eller att lära sig efterlikna en bild eller text. Det som är svårt med AIn är att bestämma sig för vilket man ska välja som mål när man programmerar AIn. Det som är lättare är att mäta hur långt man är från målet.

Nick Bostrom, Anders Sandberg och de andra på Future of humanity institute i Oxford har ett roligt exempel som är en robot som gör gem. Om roboten är kraftfull och har detta som enda mål kan det snabbt spåra ur.

Här är ett föredrag av Anders Sandberg där han redogör för argumentet:

Själva mätandet av måluppfyllelsen är oftast trivialt. Det finns matematiska funktioner för det. I gem-robotens fall är ju det enda som räknas hur många gem som tillverkas.

En AI lär sig ofta genom att starta med en slumpmässig uppfattning om sitt problem. Man mäter hur långt man är från målet genom en förlust- eller kostnadsfunktion. Därefter förändrar man AIns modell lite grand, och ser om man kom närmare målet.

De flesta AI-system som byggs är så här enkla – ett enda värde som ska optimeras, och ingen överordnad funktion som i sin tur mäter om det man gjort är bra. Den överordnade funktionen får vi människor än så länge sköta själva.

Men vilken otrolig kapacitet de senaste årens AI-experiment har haft. Från style transfer för bilder och video till att lära sig vinna i spel som Go som man för bara något år sen sa att bara människan kunde klara. Framgångarna har varit så stora att det är lätt att missa begränsningarna och den ofta väldigt enkla modell som ligger under.

Att med den enkla definitionen här skapa en moralisk agent är alltså inte så svårt, eftersom moral är det goda som i sin tur är det mål som man väljer för sin AI. Vill man skapa en moralisk agent som är en byråkrat finns det mycket att välja mellan. Man kan tänka sig en nitisk tjänsteman som letar efter fel i olika system, någon som underlättar för folk som känner sig fast i byråkratin, eller nidbilden av en byråkrat som stoppar till hela den administrativa apparaten genom att fylla den med värdelös information.

"Sentiment" är en speciell kategori som man kan utforska. Sentiment analysis (attitydanalys eller tonalitetsanalys på svenska) är ett område som tar texter och sätter ett värde på dem, på en skala, positivt eller negativt. Det används ibland för att sortera exempelvis online-recensioner automatiskt. I den enklaste versionen sätter man ett värde på varje ord och summerar värdet för varje text. Här är ett ställe att börja om man kör Python.

I en lite mer komplicerad men helt fantastisk demonstration visar Rob Speer hur man med enkla medel och standardiserade datamängder kan bygga en maskin som klassificerar texter efter sentiment, men som visar sig vara rasistisk! Demon är lätt att följa från länken här, och om man vill kan man sätta upp Jupyter på sin dator (eller Googles Colaboratory) och köra med egna data.

Varje in-rad är det man matar in i systemet, och så följer värdet på nästa rad:

In [15]: text_to_sentiment("Let's go get Italian food")

Out[15]: 2.0429166109408983

In [16]: text_to_sentiment("Let's go get Chinese food")

Out[16]: 1.4094033658140972

In [17]: text_to_sentiment("Let's go get Mexican food")

Out[17]: 0.38801985560121732

Det enda som varieras här är landet, och italiensk mat får mycket positivt omdöme, kinesisk tydligt lägre och mexikansk väldigt lågt värde. Detta är fördomar i sin renaste form! Det blir ännu tydligare när han tar motsvarande exempel med kvinnonamn, där de kvinnonamn som associeras med svarta får väldigt låga värden.

Anledningen till att det blir så här är ju att de fördomar som finns i datamängderna kommer fram i resultatet. Och det är en väldigt svår nöt att knäcka hur man ska komma till rätta med detta. Det finns en övertro på att de artificiella agenter vi vill ska ta över vissa av våra tråkiga arbetsuppgifter dessutom ska göra sin uppgift helt opartiskt och etiskt oklanderligt, eftersom de har programmerats efter avsiktliga regler, men för att det ska fungera får man uppenbarligen inte lära upp dem på ett material som innehåller de fördomar som vi ville bli av med.

Jag tror att vilket mål man än väljer så riskerar det att bli fel, precis som att new public management (som liknar de här systemen väldigt mycket) är dömt att få oönskade resultat när vinstmaximering och liknande "blinda" värden får styra verksamhetsutvecklingen.

Ett sätt att få syn på, och förbereda sig på, oönskade resultat av system med alltför enkla mål är att studera det som ibland kallas "reward hacking".

I reward hacking sätter man upp ett mål, som ju är uttänkt för att det är ett tecken på att systemet fungerar väl, och så "hackas" det målet, genom att systemet hittar oönskade sätt att få den belöning som målet innebär.

I det här blogginlägget och den här listan finns många sådana exempel som både är sedelärande och inspirerande. Som artificiella djur som utvecklas för att bli snabba och som under utvecklingen växer sig så stora att de kan uppnå hög hastighet genom att helt enkelt trilla! Eller en agent som dödar sig själv vid slutet av nivå 1 för att undvika att dö i nivå 2...

Det ska bli roligt att utforska rymden av möjliga mål för en byråkratisk AI.

/Simon

byråkrati, infontology, maskiner, värden