Efter jobbet, del 1: Reglerna och makten

I förrgår var jag på ett inspirerande trippelseminarium om vad som händer när/om datorerna ersätter människor.

Ett viktigt tekniskt steg är ju det här att datorerna blir "smartare". En dator är ju bara en uppsättning regler, algoritmer, så jag tänkte prata om det här i termer av regelsystem, för att kunna se på det lite mer generellt.

Ju "smartare" regelsystemet är desto mer "intelligent" blir det, och desto bättre på att ta över människors jobb. Men ofta känns det som att man lurar sig själv om man bara tittar på regelsystemet. Åtminstone behöver man se på en enhet som bildas av regelsystemet plus någon sorts belönings/bestraffnings/makt-struktur.

Låt oss kalla det ena för "regler" och det andra för "regler+makt".

När regelsystemet blir smartare och smartare har man sen länge isolerat en punkt, kallad "Singulariteten" när datorerna blir smartare än människan, och när den inträder tror man att datorerna kommer att "ta kontrollen". Om inte annat så är datorerna då så smarta att de kan lura människorna, och göra saker utifrån sina egna syften.

Jag tror att det här synsättet hindrar oss från att se att "övertagandet" redan håller på att ske, och att det kanske inte är så väsensskilt från vad vi har idag, på gott och på ont.

Att se på det rena regelsystemet är lite som att låta reglerna spela schack, och det är ju också ett av de områden där man tydligast har sett regelsystemets överlägsenhet, när Deep Blue besegrade Kasparov 1997. En liknande uppvisning var när Watson vann i Jeopardy 2011.

Vad vi ser här är ren information som mäter sig med annan information, i form av ett spel. Lägger vi på en makt-aspekt blir situationen helt annorlunda.

För att göra det övertydligt -- om Watson hade haft möjlighet att vid sidan om spelet betala motspelarna för att få vinna hade det varit mycket lättare för den, för att inte tala om ifall Watson hade kunnat hota motspelarnas familjer och idka utpressning.

De regelsystem som vi vanligen ser runtom oss är ofta kopplade till någon form av makt, och inrättade så att vi inte bara kan bryta ner regelsystemet hur som helst.

I min understreckare i Svd nyligen skrev jag om byråkrati och vetenskap som några former av regelsystem som liknar datorisering. Människor lever i en sorts symbios med byråkratier, och lämnar sitt bidrag i bästa fall genom att tillföra mänskligt omdöme, men i många fall bara genom att se till att reglerna i byråkratin efterlevs, en uppgift som ofta görs bättre med en dator. Byråkratin överlever för att den är kopplad till en sanktionsstruktur som bestraffar den som bryter mot reglerna.

Företag fungerar i stort på lite liknande sätt: människor fyller en funktion i företaget och belönas med pengar, men är oftast utbytbara. De har en arbetsbeskrivning som ska uppfyllas, och ju mer exakt arbetsbeskrivningen är, desto större är möjligheten för en robot eller dator att ta människans plats.

Regelsystemet överlever för att det är hopkopplat med en maktstruktur, exempelvis i form av pengar. Funktionssättet är i grunden detsamma i en enkel byteshandel som i en komplicerad byråkrati.

Ser vi på "regler+makt" blir det tydligt hur vi lämnar över kontrollen redan idag, i mängder av fall. Vi skapar självupprätthållande system av olika storlek och komplexitet.

Ett av skälen till att maktperspektivet oftast inte har inkluderats i den här diskussionen tror jag är att det är så annorlunda när man tittar på datorsystemen. Datorsystemen måste följa reglerna på ett annat sätt än människorna, eftersom datorsystemet kan sägas vara reglerna. Det finns inget därutöver.

Maktförhållandena är också olika när man ser på datorsystemen. Eftersom datorsystemet är reglerna behövs inga sanktioner eller belöning. I Digitalis filosofi använde vi en fin bild av en gammal robot som säger "Will process data for energy". Sätt i sladden och datorn gör vad den ska.

Det jag har argumenterat för i det här inlägget är att det nästan är meningslöst att se på regelsystemet i isolering om man vill förstå när och varför datorerna kommer att ersätta människors jobb. Jag är på ett sätt lite ledsen över den här slutsatsen. Det har varit mycket "snyggare" att kunna göra jämförelsen bara mellan regelsystem. Jag får associationer till den form av "fransk" filosofi som jag aldrig har förstått mig på, för att den blandar in alltför mycket i analysen, och typiskt frågor om makt. Kanske kan det här inlägget vara som en brygga mellan två sätt att analysera. Det vore intressant.

/Simon