En intressant artikel i New York Times om en bunt forskare inom artificiell intelligens som har träffats och diskuterat farorna med att våra maskiner kan bli för smarta, och att människorna tappar kontroll och bestämmanderätt.
Jag vet inte om journalisten har spetsat till resonemangen lite, för det känns lite onyanserat, men ett par stycken är värda att ta vara på. Forskarträffen leddes av en Eric Horvitz från Microsoft. Han säger:
Something new has taken place in the past five to eight years. Technologists are replacing religion, and their ideas are resonating in some ways with the same idea of the Rapture. [min länk]
En synpunkt som kommer fram i artikeln genom en Paul Berg är att det är viktigt att starta en allmän debatt ganska tidigt, innan de båda sidorna motståndare och förespråkare har grävt ner sig för långt i sina egna skyttegravar, på det sätt som har skett med genetiskt modifierade grödor. Om vi redan nu börjar diskutera frågor om människors och maskiners/robotars/AIs roll är vi bättre förberedda den dagen det finns verkligt kvalificerade maskiner att prata om.
Själv är jag mest rädd att de maskiner som kommer att börja bestämma över oss inte egentligen kommer att vara intelligentare, utan att vi bara gör oss beroende av dem för vår infrastruktur, så att vi sen inte klarar oss utan dem.
Det ögonblick när vi möter en AI som är intelligentare än vi tror jag kommer att dröja länge. Dels för att mänsklig intelligens är väldigt komplex, och dels för att jag håller med Goodiepal om att en AI nog kommer att hålla sig gömd ett tag innan den framträder...
Länk via BoingBoing. /Simon
Comments