« Infontology två år! | Main | Bot mot hovrättshot? »

09 december 2005

Comments

Feed You can follow this conversation by subscribing to the comment feed for this post.

Intelligens är som kvalitet: svårt att definiera men man känner igen det när man ser det.

Hur definierar du "intelligens"?

Själv ser jag fram emot "the railroad singularity" när den exponentiella tillväxten i 1800-talets järnvägsnät slutligen bebyggt hela världen med järnväg.

Jag har också läst ut TSIN, lånade den på stadsbiblioteket (slapp således köpa den) och det tog mig mindre än tre dagar att läsa klart boken. Således ingen massiv tankebörda på något sätt utan istället lättläst och rikt illustrerad med logaritmiska grafer över den tekniska utvecklingen de senaste 100-150 åren.

Jag tycker Kurzweil gör en bra ansats med att lyfta fokus och se utvecklingen över ett längre tidsspann. Ingen kan förneka att vi ser början till en exponentiell teknisk utveckling, frågan är dock om den orkar ända fram till vad som kallas singularitet. Moore´s lag slår ju i taket någon gång 2020-talet (transistorn är då bara atomer vid) och det är svårt att se vilken kraft som skall driva utvecklingen vidare (antar avtagande marginalnytta),i varje fall ur perspektivet en människa av idag. Således antas maskiner ta över utvecklingen (back propagating) helt och nyttan av utveckling definieras om. Maskiner rationaliserar och effektiviserar givetvis kraftigt samt ser på utveckling på ett helt annat sätt än vad vi människor gör och vid den tidpunkten i racet mot singularitet kopplas vi människor ifrån, vi är då inte längre en del av utvecklingen.

Lite skrämmande, lite tvingande, litet av typen 'keep up or perish and die'.

"Moore´s lag slår ju i taket någon gång 2020-talet"

Kurzweil tar upp en rad exempel på andra teknologier som kan ta över efter kiselchipen. Han påpekar också att dagens chip inte är den första generationen utan har minst 4 föregångare:
http://www.kurzweilai.net/articles/images/chart03.jpg

Först vad gäller intelligens så är problemet att Kurzweil reducerar den till att handla om rationalitet/problemlösningsförmåga. För mig är intelligens ett vidare begrepp som också omfattar saker som omdömesgillhet, en strävan att göra det rätta etc. Att ens försöka överlämna detta till maskiner är att kapitulera enligt modellen "skönt att slippa ta detta jobbiga ansvar, nu när ändå utvecklingen automatiskt är på väg att passera dylika ålderdomligheter".

Markus: gillar din ironi!

Vad gäller Moores lag och framtida tekniska lösningar som kan tänkas ta över stafettpinnen efter kiselchipen, är min uppfattning att Moores lag inte är någon naturlag (och således ingen "naturlig fortsättning på den biologiska evolutionen") som vi över huvud taget behöver anpassa oss till. Om "vi" ändå försöker göra det så är det ett medvetet val av vissa drivande intressen.

Min negativa kritik av Kurzwel gäller sensmoralen i hans totala vision. Vad gäller många mera tekniska detaljer är jag dock ganska enig, med reservation för min relativa okunskap, och jag håller helt med honom om att många fler borde uppmärksamma de trender som finns på det här området. Men när det slår över i undergivenhet inför teknikens påstådda överlägsenhet och oemotståndlighet, då säger jag emot.
Jag köper definitivt inte hans argument att den utveckling han målar upp är "mänsklig", en fortsättning på "det mänskliga", att maskinerna i hans vision kommer att vara i någon mening "mänskliga".

"För mig är intelligens ett vidare begrepp som också omfattar saker som omdömesgillhet, en strävan att göra det rätta etc"

Du lägger alltså en moralisk vinkling i begreppet intelligens. Att vara intelligent innebär att kunna göra ett etiskt ställningstagande jämtemot sina medmänniskor.

Underförstått sedan, maskiner kan aldrig någonsin uppnå denna förmåga. Den är förbihållen människan.

Vidare:

"Men när det slår över i undergivenhet inför teknikens påstådda överlägsenhet och oemotståndlighet, då säger jag emot."

Låt oss vända på meningen ovan. Den kan lika gärna säga: "när det slår över i undergivenhet inför människans påstådda överlägsenhet och moraliska oemotståndlighet, då säger jag emot".

Du menar att singulariteten påminner om en religion - och det kan jag till viss del hålla med om - men även du visar en närmast religiös övertygelse om människan som den moraliska höjdpunkten i universum.

"Jag köper definitivt inte hans argument att den utveckling han målar upp är "mänsklig", en fortsättning på "det mänskliga", att maskinerna i hans vision kommer att vara i någon mening "mänskliga"."

Visst, men det beror enbart på att ni båda har olika syn på vad människan är för något. Det verkar som att din syn grundar sig på människan som den ädle vilden, förstörd av civilisationens framsteg. Vidare äger människan unika förmågor, såsom den att fatta moraliska beslut men även andra som inte går att återskapa utanför människokroppen.

Många filosofer med denna världssyn skulle mena att dessa förmågor är gåvor från Gud.

Denna syn är raka motsatsen mot Kurzweils extropiska transhumanism.

Konflikten dem emellan menar jag utgör en av 2000-talets absolut största frågor:
http://www.framtidstanken.com/?p=633

Ni är enormt vassa i er analys och jag vill bara tacka för att ni publicerar ert arbete, tankar och ideér. Jag har fått svar på många frågor genom att läsa de texter som inryms under Infontology och systerbloggar.

Speciellt Erik Starcks sista kommentar i denna tråd, den är rakt på.

Erik (nu börjar det likna något):

"Du lägger alltså en moralisk vinkling i begreppet intelligens. Att vara intelligent innebär att kunna göra ett etiskt ställningstagande jämtemot sina medmänniskor."
Moralisk vinkling, ja. Men gentemot sig själv i första hand.

"Underförstått sedan, maskiner kan aldrig någonsin uppnå denna förmåga. Den är förbihållen människan."
Just det.

"Du menar att singulariteten påminner om en religion - och det kan jag till viss del hålla med om - men även du visar en närmast religiös övertygelse om människan som den moraliska höjdpunkten i universum."
Människan är inte den "moraliska höjdpunkten", men hon är den enda moraliska varelsen och det får hon leva med. På det finns inga tekniska lösningar.

"Det verkar som att din syn grundar sig på människan som den ädle vilden, förstörd av civilisationens framsteg."
Jag tror varken på någon ädel vilde eller på civilisationens framsteg.

"Många filosofer med denna världssyn skulle mena att dessa förmågor är gåvor från Gud.
Denna syn är raka motsatsen mot Kurzweils extropiska transhumanism."
Ja Gud är en verklig faktor i min uppfattning. För Kurzweil är människan Gud.

"Konflikten dem emellan menar jag utgör en av 2000-talets absolut största frågor."
Det håller jag helt med om.

(råkade idag kommentera på föregående post i samma ämne. Jag har inte läst boken av Ray Kurzweil, uppskattar recensionen.)

På vilket särskiljs
1) De subjektiva värderingar som RK tycks ha angående utvecklingen, och
2) analysen av det som faktiskt sker?

För Per verkar Singulariteten ha en moralisk konsekvens i att vi kan kontrollera skeendet. Kan vi det? Har vi någonsin lyckats med det förut?

Själv så ser jag utvecklingen som ostoppbar på samma sätt som globaliseringen är det, och jag misstänker att den är stabil även mot kärnvapenterror och pandemier.

Det är djupt mänskligt att vara negativ till utvecklingen. Hela vårt ekosystem är satt ur spel i det nya samhället, och vi är inte programmerade för denna nya existens. Förmodligen måste vi anpassa oss till det nya ekosystemet (där framför allt euklidiska avstånd saknar betydelse) på ett sätt som vi inte kan föreställa oss, och då är vi kanske inte längre människor. Iden om trans-humanism (Anders Sandberg et al.) är högst relevant.

Själv vill jag, född på 70-talet, vara människa. Som jag känner begreppet människa. Hur man kan längta efter en annan livsform (t ex som odödlig, existens utan fortplantning etc) är för mig obegripligt. Men jag tror att det är en utopi. Människan är bara en transient livsform, och efterkommande generationer/livsformer kommer aldrig att längta efter eller eftersträva det som tidigare fanns.

För att summera, jag ser två frågeställningar: 1) Är det ens meningsfullt/möjligt att bevara människan och hennes existens som vi känner den?
2) VAD/HUR är det som händer, och vad kan vi förutsäga?

Se även min kommentar på föregående post.

Senare idag ska jag lyssna på Ray Kurzweil på itconverations:

http://itconversations.com/shows/detail722.html

(det fanns även en paneldebatt med honom på samma site, men jag kan inte hitta länken. Han har tydligen en massa patent på it-teknologier som tele-haptik o sånt..)

Tack för kommentar Fredrik! (Jag svarade lite på din tidigare också, på förra Kurzweilinlägget.) Jag har i all hast dessa reflektioner apropå det du säger:

1. Den mera närliggande tekniska utvecklingen sker, det är mitt intryck, ungefär som Kurzweil säger. Värderingen kommer in i hans sätt att beskriva den lite mer avlägsna utvecklingen (jag tror att jag ska återkomma till detta i ett separat inlägg). Värderingen ligger också i hans syn på kunskap och i vad han menar att en människa är.

2. Den "moraliska konsekvens" jag ser är inte singulariteten som sådan (som möjligt tekniskt skeende), utan våra möjliga attityder till det skeendet. Min uppfattning är att fastän vissa omfattande skeenden, såsom globaliseringen, är oundvikliga som skeenden, så är våra reaktioner på den inte oundvikliga. Och den framtida utvecklingen är delvis faktiskt en frukt av våra reaktioner, inte av någon sorts autonom teknikevolution. Det är uppfattningen om att det senare alls förekommer som jag kallar "teknikmystik".

För övrigt är jag numera så traditionell i min människouppfattning att uttrycket "Guds (fallna) avbild" förefaller mig mera realistisk än den materialistiska uppfattningen att vi är en art bland andra. För att uttrycka det helt klart: det finns redan en evighetsdimension i det mänskliga livet. Denna är inte något som vi (enligt Kurzweils vision) ska, eller kommer att uppnå på teknisk väg.

Visionärt har f ö Kurzweil flera föregågare i samma anda; den mest kände är nog jesuitpatern och paleontologen Teilhard de Chardin; en annan är fysikern Frank Tipler. Även dessa kan vara värda egna inlägg.

"Människan är inte den "moraliska höjdpunkten", men hon är den enda moraliska varelsen och det får hon leva med. På det finns inga tekniska lösningar."

Flera arter av djur, främst chimpanser, uppvisar starka sociala band individer emellan. Det är samhällen som innehåller bestraffningar och belöningar och t.o.m. krig mellan flockar.

Du anser alltså inte detta vara tecken på moral. Människans moral är något annat. Vad?

Tiplers Omega Point är en spekulation om vad som kan hända efter singulariteten. Kurzweil håller sig så vitt jag känner till borta från sådant.

Bra frågor.
Jag återkommer i ett par nya inlägg.


"För att uttrycka det helt klart: det finns redan en evighetsdimension i det mänskliga livet."

Bygger du den föreställningen på rationell grund? Kan du argumentera för det? Eller handlar det om en tro, eller önsketänkande? För mig är en sådan hållning idag kontroversiell.

Det finns mycket mer att säga, men det känns som en urspårning från ämnesrubriken, och det känns som jag fått RKs bok i läxa. (Dessutom borde borde vi kanske lägga vår energi på ett mer akut problem - de senaste politiska idiotierna om datalagring)

En sak som alltid verkar lämnas ute ur disskussionen är instinkter och drifter...

Varför skulle en maskin någonsin VILJA skada en människa om den inte hade en inprogrammerad rädsla för att dö eller liknande. För att en intelligent maskin (eller biologisk varelse) ska göra någonting aktivt krävs en vilja, en drift.

Singulariteten som katastrofscenario måste innebära att denna AI programmerats med en vilja att överleva och expandera (precis som vi). Annars skulle den bara sitta och glo och arbeta när vi körde in data i den, men en VILJA uppkommer inte automatiskt ur förmågan att lösa problem.


Dessutom, varför strävar vi efter en problemfri tillvaro? Vår glädje är ju en effekt av att man blir tillfredsställd, att man får stimuli. Detta måste ju sättas i motsats till att man också inte kan bli tillfredställd. Den största faran med tekniken är att vi blir latare och latare och blir varken glada eller ledsna. Att leva är att kämpa inte att låta maskiner göra allt.

Det räcker väl att AI kommer fram till att mänskliga strävanden utgör ett centralt problem för de system den bevakar?

The comments to this entry are closed.

  • "En läsvärd blogg om informationsanvändning och hur ny teknik förändrar vår verklighet och vår kultur." -- Urban Lindstedt, Internetworld nr 7, 2006

Böcker

Blog powered by Typepad
Member since 12/2003