For lidt over to år siden kastede mig over Ray Kurzweils bog “The Singularity is Near”. Og hørte ham senere samme år på en konference i New York (som jeg skrev om blandt andet her). Jeg synes dengang at tankesættet var dybt, dybt fascinerende. Det synes jeg stadig. Men også, at kæden måske hopper lidt af for ham en gang imellem.
Det kom jeg til at tænke på igen forleden, undet et andet singularitetsforedrag. “Kæden hopper af” i forstanden: der er nogle slutninger som kommer meget tæt på det halvreligiøse for mig og som jeg har svært ved helt at greje hvad jeg skal synes om. Det er sådan lidt småfilosofisk, men hvis du er til den slags, så hop på:
1. Den eksponentielle vækst forsætter evigt
Den afgørende tanke i singularitetstænkningen handler om eksponentiel vækst.Computere bliver ikke bare hurtigere, mindre og billigere sådan lidt efter lidt. De bliver hurtigere, mindre og billigere i et evigt stigende tempo. Der fordobles på alle fronter med jævne mellemrum – sådan ca. hvert andet år. En fordobling kan alle klare et par gange eller tre. Men når den bliver ved og ved, bliver konsekvenserne helt vilde. Det er det singulariteten handler om.
Spørgsmålet er om denne evige fordobling virkeligt er evig – eller om den på et tidspunkt tager af og udviklingstakten måske på et tidspunkt falder helt til ro. Det kunne man godt tro. Men sådan er det ikke ifølge Ray Kurzweil. Han argumenterer for, at alle tekniske fremskridt i dag bare giver sig udslag i forøget computerkraft, men skyldes den forøgede computerkraft. Derfor vil endnu mere computerkraft giver endnu mere eksponentialitet. Faktisk taler han om dobbelt-eksponentiel udvikling. Som altså aldrig stopper. Eller: den enkelte landvindig i sig selv, der bringer udviklingen kvantespring foran, overlappes automatisk af den næste kvantespringsudvikling.
Argumentet er besnærende. For når jeg ser tilbage på computerudviklingen passer det jo: alt hvad jeg selv har haft af computere har rent faktisk taget milespring fra generation til generation. Og jeg kan ikke se nogen gode grunde til at den udvikling skulle stoppe lige med det første. Men argumentet har altså også sådan en lidt overtroisk overtone. For måske er det på et tidspunkt bare ikke flere smarte teknologier at tage hul på? Eller måske er de næste smarte teknologier bare ikke helt så smarte? Indtil videre går det altså godt, men om det fortsætter sådan har et element af tro over sig.
2. Menneske og maskine smelter sammen i 2045
Singulariteten defineres af Kurzweil som det tidspunkt i historien, hvor computere bliver så kraftfulde og løser så mange opgaver for os mennesker på så sofistikerede måder, at det ikke længere giver særligt meget mening at adskille menneske og computer fra hinanden. Det punkt indtræder ifølge Kurzweil i 2045 – om 31 år. Her siger hans fremskrivninger nemlig – takket være den eksponentielle vækst – at den computerregnekraft du kan købe for 1000 $ vil være en milliard gange større end den regnekraft alle levende mennesker til den tid kan præstere med deres hjerner. Og så indtræder der et vendepunkt.
For det første er det ikke helt logisk at det lige præcis skal være ved den ene milliard vendepunktet indtræffer. Det kunne ligesågodt indtræffe ved en million. Eller ved de ettusinde. Eller et hvilket som helst andet tal. En milliard lyder jo pænt imponerende og 2045 lyder pænt præcist. Men særligt logisk er det altså ikke.
Et andet spørgsmål, der er lidt værre, er, hvad det så betyder, det her med at menneske og maskine smelter sammen. Altså: ligesom vi i dag rask væk indopererer computere i folks hjerter i form af pacemakere – der endda styrer om hjertet overhovedet slår, en rimeligt kritisk funktion – og ligesom jeg selv i dag går rundt med en computer bag øret, der både hjælper mig med at høre (det er et høreapparat) og også en gang imellem giver mig instrukser om hvad jeg skal gøre (”batteri lavt”), på samme måde er det for mig at se helt trivielt at vi i fremtiden vil få mange flere computere ind i vores kroppe. Også i form af stoffer i vores blod, celler og molekyler, små fysiske computere der er lavet i et laboratorium og som er hardwiret til at udføre særlige funktioner – f.eks. at æde kræftceller, hvis de skulle støde på nogen sådan. Det vil ske.
Men spørgsmålet er om der sker mere: begynder computerne i vores kroppe at hjælpe os med at huske bedre også? At tænke bedre? At føle? Her er vi ude på dybt filosofisk vand. Steven Wolfram, en anden af singularitetsbevægelsens store navne, som jeg talte med på konferencen i New York var ret klar i mælet: alt, også følelser, er når alt kommer til at et spørgsmål om algoritmer. Det er romantik, når vi mennesker tror vi er noget særligt. Men det er altså et tros-spørgsmål, som vi ret beset ikke kan vide særligt meget om.
3. Rød tråd til Big Bang
Det tredje store spørgsmål kommer, når man går den anden vej i historien. Ikke fremad mod singulariteten men tilbage. Tilbage til Big Bang.
Den eksponentielle udvikling er nemlig ikke noget nyt. Den er ikke noget der bare har med moderne, transistorbaserede, processorer at gøre. Udviklingen var nemlig den samme før transistorerne blev opfundet, viser Kurzweil. Da det var radiorør, der bar intelligensen var udviklingen den samme. Og da det var hulkort.
Faktisk fører Kurtzweil argumentet helt tilbage til Big Bang. Selvfølgelig ikke i skikkelse af smarte computere, men i form af det udvidede ”evne til at håndtere information”. For det er jo det computere gør. Og her er Kurzweils pointe, at udviklingen i starten af universets historie gik eeekstremt langtsomt. I flere milliarder år sker der stort set ikke andet end at urstoffet slynges længere og længere ud. Så, ganske langsomt, dannes flere forskellige stoffer – som netop er forskellige og derfor repræsentere flere informationer i universet. For fem milliarder år siden – 5-10 milliarder år efter Big Bang – bliver jorden dannet som et resultataf yderligere en informations-rigdom. Så, halvanden milliard år senere, livet – endnu flere informationer at holde styr på. Til sidst kommer så mennesket og til allersidst vores civilisation. Mønstret er med andre ord noget universelt. Singulariteten er en teori, der forklarer alt, helt tilbage til universets skabelse. Ligesom andre religioner gør det.
Igen: jeg synes at tanken er meget, meget fascinerende. Og den lyder rigtig! Men samtidig er den altså også noget ikke-helt-rationel i det.
Nu er der ikke noget galt med religion. Man skal bare helst vide det, når man står over for den. Hvornår man tror på noget. Og hvornår man ved det. Og her er jeg altså ikke helt sikker på, hvor jeg skal placere singulariteten – ihvertfald ikke ifølge Kurtzweil. Omvendt tænker jeg også, at det måske er alle store ideers skæbne. At de har et mystisk skær over sig. Som giver energi, uden nødvendigvis at gøre skade.