Det kom ett mail till Per och mig, från Jonas Bohlin, som ligger bakom den klurigt filosofiska aforismsamlingen på Paradoxalt. Det innehöll mest en enkel fråga:
Belönar Googles algoritmer dem som skriver positivt om transhumanismen?
Det var ett perspektiv som hade gått mig förbi. Jag hade funderat på Googles partiskhet, men inte egentligen att deras AI skulle vara egoist. Inte redan, i alla fall!
Jag undrar hur långt deras AI har kommit nu. Det är nästan 10 år sen jag läste om den först, i samband med deras bokprojekt, när George Dyson frågade vem som skulle läsa alla de här böckerna som de läser in i Google Books. Han fick svaret: "vi scannar inte in böckerna för att de ska läsas av folk -- vi läser in dem för att de ska läsas av en AI".
Efter det har det varit mycket lättare att förstå Googles satsningar inom olika områden, som annars lätt känns lite splittrade. Jag tror det var Peter Norvig som pratade om hur de började bygga upp sin AI genom att crawla webbsidor, men kom fram till att det var så mycket kunskap som saknades på webben. Allt talat, alla större sammanhang, mycket om världens struktur, naturlagar, människors värderingar, etc. Utifrån att allt detta måste till för att bygga upp en fungerande AI så är det lätt att prioritera Google Maps, Books, Talk, Gmail, etc.
Jonas fortsätter:
Kan det finns något man borde göra redan idag för att stryka Google medhårs? Idag är det ju val av domännamn, rätt inlänkar och ett relevant innehåll som är viktigast, men vad blir det imorgon…?
Det slår mig hur lätt man vänjer sig vid hur sökmotorerna fungerar och vad man måste göra för att "finnas", dvs att kunna hittas i webbsökningarna. Det blir självklart att det är viktigt med inlänkar, underförstått eftersom då belönas sidan av sökmotorerna. Men Google kan ju ändra sökmotorstrategi när de vill, framför allt om deras nuvarande strategi missbrukas, som idag med länkfarmer och andra automatiserade sätt att få upp sidor i rankningen.
Om vi säger att vi svarar "ja" på Jonas fråga om Googles AI belönar de som är positiva till transhumanismen -- vad finns det för tecken på att vi är på väg dit redan nu?
Ett är det här att Google vill ha en rankning i sökresultatet som baseras på fakta och inte som idag på länkar. Det ser ganska oskyldigt ut när det presenteras ungefär som en automatiserad version av Viralgranskaren, ett verktyg för att få bort lögner som sprids som löpeldar på nätet.
Men även den nyktra version som presenteras i New Scientist får mig att börja undra över konsekvenserna:
The software works by tapping into the Knowledge Vault, the vast store of facts that Google has pulled off the internet. Facts the web unanimously agrees on are considered a reasonable proxy for truth. Web pages that contain contradictory information are bumped down the rankings.
Vad blir konsekvenserna av det här? Att alla intressanta vetenskapliga sidor blir misstänkliggjorda, och internet förvandlas från ett område för utforskande till en lärobok?
Dessutom tvingas den som har den här synen på vetenskap som något föränderligt som utvecklas hela tiden över på samma sida som de vetenskapsfientliga, som också kommer att motsätta sig en så här simplistisk rankning baserat på massans sanningar.
En rankning baserat på sanning skulle kunna vara ett steg på vägen till att Googles AI kan genomföra förändringar så att den får mer spelrum för det som gynnar den själv.
Det slår mig förresten att Google rensade bort en massa Infontology-inlägg från sitt index för ett par år sen. Jag har inte kollat vad de rensade bort och sett om de har något visst gemensamt... ;-)
/Simon
Eller så lär vi oss snart att de konventionella svaren finns på sökresultatets förstasida – men att om man vill hitta något spännande så får man klicka sig vidare till sidan två eller tre.
Posted by: Tommy Sundström | 20 mars 2015 at 14:37
Ja, om man kunde konstruera en tjänst som filtrerade bort de konventionella, när man söker efter något okonventionellt, kanske systemet kunde komma till nytta i alla fall.
Men idag är det ju redan så att Google kanske visar att det finns 649 000 resultat, men när man klickar sig vidare så får man bara se 380 resultat, som för den här sökningen på "transhumanism"...
https://www.google.se/search?q=transhumanism&num=100&client=safari&rls=en&ei=DjAMVd2-IMSfyAPoiIDICQ&start=700&sa=N&biw=1898&bih=952
Och risken är att de spännande resultaten kommer typ på plats 400 000... :-(
Posted by: Simon | 20 mars 2015 at 15:37
"...there’s no arguing with a machine".
Det beror på vilken typ av motargument som maskinen redan är beredd på och programmerad för att leverera utifrån ett redan planerat scenario. Så är det idag lite slarvigt uttryckt. Frågan är när den dagen kommer då en dator redan vid sin födsel förstår argumenten och frågornas motiv utan vår handpåläggning och om vi idag redan behöver tänka på detta. Om en sådan intelligens överhuvudtaget är intresserad av sanning eller fakta är ju oerhört svårt att veta. Smicker har dock inte alltid med sanning och fakta att göra när det gäller hur vi människor beter oss...
Posted by: Jonas Bohlin | 20 mars 2015 at 18:26