February 22, 2012
Revolutionen foregår endnu

Af og til er det nemt at se på nettet, og nå den konklusion, med alt hvad det kan, at det hele er slut nu - det er total misforståelse. Her er et par stykker grafik, der illustrerer hvorfor.
Den første her er en nylig udgave af Netcrafts web site server survey - kig engang på listen over servere, der svarede, og se på den historiske udvikling. Kurven vokser - på 17. år - eksponentielt. Eksplosionen er løbende igang rundt om os, uanset hvor meget vi har vænnet os til den. Vi er blevet fartblinde.

Den anden grafik kommer fra The Economist og viser os noget om teknologiadoptionsrater gennem tiderne - sammenligner PCen med Mac med smartphones osv osv. Også den viser at revolutionen lever og har det godt. PCen står godt nok overfor en opbremsning i behov, men til gengæld er de mobile platforme eksploderet som kategori og står overfor at hente PCens 20 årige forspring. Det betyder forresten også at Unix, fra at have været kun til serverrummet, bliver det dominerende operativsystem ude i hjemmene, bare ikke som desktops og laptops men pakket ned i iOS og Android. Windows' uindtagelige forspring på desktoppen klarede ikke teknologiskiftet til mobile platforme.

Posted by Claus at 05:54 PM
February 21, 2012
This could be the next big class of chips

Here's an extremely interesting slide deck(pdf) on the opportunities in chip design, if we allow a little more of the physical characteristics of the chips to play a role in the programming interface. Turns out symbolic simulation of floating point math (i.e. real numbers) is extremely compute expensive when you consider that the physics is naturally 'solving' these equations all the time, just by being, you know, real physical entities.
The 'only' cost of a projected 10000x improvement in efficiency is a 1% increase in error rate, but if you change the algorithms to suppose a certain level of error - a natural notion in the realm of learning algorithms and AI-techniques - that's not really a problem at all.
The reason this is important, is, that we're moving from symbolic computing to pattern matching, and pattern matching, machine learning, AI and similar types of computation all happens in the real domain. A 10000x advance from more appropriate software buys about 13 applications of Moore's Law - something like 20 years of hardware development we could leapfrog past.
A few years back I wrote down a guess - completely unhampered by statistics or facts - that in 10-15 years 90%-95% of all computation would be pattern matching - and I stand by that guess, in fact I'd like to strengthen it: I think, asymptotically, all computation in the future will be pattern matching. This also ties into the industrial tendency I was talking about in the previous post. Increasingly, filtering is where the value of computation comes from, and that makes it highly plausible we'll see specialized chips with 10000x optimizations for pattern matching. Would Apple need to ship any of Siri's speech comprehension to the cloud if the iPhone was 10000x more capable?


Postscript: Through odd circumstances I chanced on this link the exact same day I chanced by this report(pdf) on practical robotics. I'll quote a little from the section in that called 'Let The Physics Do The Walking':

Mechanical logic may be utilized far more often in Nature than we would at first like to admit. In fact, mechanical logic may be used for more in our own robots than we realize[...] Explicit software we originally envisioned to be essential was unnecessary.
Genghis [a robot] provides a further lesson of physics in action. One of the main reason he works at all is because he is small. If he was a large robot and put his foot in a crack and then torqued his body over, he would break. Larger walking machines usually get around this problem by carefully scanning the surface and thinking about where to pyt their feet. However, Genghis just scrabbles and makes forward progress more through persistence than any explicit mechanism. He doesn't need to build models of the surface over which he walks and he doesn't think about trying to put his last foot on the same free spot an earlier foot was placed.

Sometimes general computing is just too general for it's own good.

Posted by Claus at 02:36 PM
February 15, 2012
Building out the hive mind

Let it be known, that this Morten Lund-blogpost and this 4-year old classy.dk post are talking about the same thing, only differently.

Posted by Claus at 04:45 PM
February 01, 2012
Moores lov


I går var jeg til Singularity Salon sammen med en hel masse andre teknologiinteresserede. Singularity - det er noget med at teknologiens udviklingstempo accelerer, at det eneste der er konstant ved teknologi er lige præcis den acceleration, og at vi derfor på et tidspunkt når et punkt hvor teknologien flytter sig så hurtigt at vi rent biologisk simpelthen ikke kan følge med i hvad den udvikling består i længere. Fornuften i den forudsigelse mener jeg en hel masse om, også mere end jeg har lyst til at skrive om i den her blogpost. Den har nemlig et mere beskedent anliggende, nemlig en kort diskussion af hvordan nogen er kommet på ideen om accelerende udvikling.

Nogle ville sige at ideen er gammel, eller i det mindste går tilbage til jetalderen, men den umiddelbare inspiration er Moores lov, altså den observation, af Intel-grundlæggeren Gordon Moore, at computerchips fordobler deres kapacitet hver 18. måned. En observation, der har vist sig at være urimeligt langtidsholdbar og og i snart 55 år leveret stadige nye informationsrevolutioner. Denne eksponentielle vækst i regnekraft har kastet beslægtede eksponentielle vækstkurver af sig, med fremskridt i lagringskapacitet på verdens harddiske, fremskridt i netværkskapacitet på internettet og - næsten vigtigst af alt - fremskridt i energiforbruget i computere.
Det mest imponerende ved Moore's lov er at den i virkeligheden er en metalov. Udviklingen har holdt sit tempo til trods for at snart sagt alle de produktionsteknologier man kendte da Moore skrev sin lov ned er skiftet ud siden. Det har været en hård og stadig kamp at holde revolutionen ved lige, og dog så har den lange kæde af i princippet tilfældig og usammenhængende innovation gjort af et stort marked af eksperter, ikke en snedig produktplan hos Intel, holdt trit med forudsigelsen. Moore's lov lyder som en togplan, men det har kostet en hel verden af forskere og ingeniører 50 års hårdt arbejde, grublen, skuffelser og fiaskoer mellem alle succeserne at holde den køreplan.

Moore's lovs ufattelige holdbarhed giver plads til massiv optimisme om fremtiden, og vores umiddelbare fortid bakker bare den optimisme op. For 30 år siden, i begyndelsen af 80erne, indhentede computeren problemet "tekstproduktion" og vi kom ind i datidens revolution 'desktop publishing'. Pludselig kunne enkeltmand orkestrere og gennemføre arbejde, der tidligere krævede en hel kæde af specialister. Siden har computeren indhentet flere og flere, vanskeligere og vanskeligere opgaver, efterhånden som den naturlige problemstørrelse for opgaverne begyndte at passe inden i en laptop. Efter tekst kom musikken, og efter musikken kom fotos, og efter fotos film, sådan at alle de medier vi har kendt til i de sidste 100 år efterhånden er blevet slugt. I samme periode blev et spil som skak også slugt. Og eksemplet skak er illustrativt for hvor brutale eksponentialfunktioner er, når først de har acceleret os ud i overhalingsbanen. Skakcomputere er en gammel idé, og i årevis var de betydeligt ringere end menneskelige spillere. Så i 1988 lykkedes det langt om længe IBM at bygge en supercomputer, der lykkedes med at slå den danske stormester Bent Larsen i et parti. Bent Larsen var ikke den han havde været på det tidspunkt og computeren fik stadig tæsk af verdensmesteren uden problemer. Desuden var det nødvendigt at specialdesigne hardwaren til lige præcis denne opgave. 9 år senere - 6 Moore's lov doblinger - vandt en af maskinens efterkommere første gang over verdensmesteren, og 9 år senere igen sker det rigtigt vilde: Da slår en helt almindelig computer, sådan en jeg skriver på nu, stormesteren Kramnik ved bare at køre særlig skaksoftware. Der er ikke længere brug for dyre forskningsprojekter og særlige maskiner fra IBM, vi har allesammen maskiner foran os, der kan slå verdensmesteren. Problemet Skak kan rummes i selv den billigste computer.

Når det er sagt, så er man dog også nødt til at sige lidt mere: Skak er løst nu. Der er ikke mere Moores lov kan gøre for skak. Nu hvor problemet skak er indhentet så er ræset slut. Og på samme måde forholder det sig i virkeligheden med vores laptops og desktops. Moores lov er ræset uanfægtet videre, men de færreste af os vil have den oplevelse at laptoppen har skiftet væsentlig karakter bare fordi den idag er 50 gange stærkere end den vi købte for 10 år siden. Der er ikke mere Moores lov kan gøre for laptoppen heller, det er ikke regnekraften, der bestemmer hvad laptoppen som værktøj gør for os længere. I den forstand er det ikke rigtigt at Moores lov garanterer fremskridt. Den garanterer fremskridt der hvor beregning var en mangelvare, og det er bestemt ikke allevegne.
Hvis man gerne vil lave eksplosive fremskrivninger af sine muligheder er det altså vigtigt at man beskæftiger sig med noget som Moores lov er i færd med at flytte. Det er ikke noget tilfælde at Apple vokser hurtigere end alle de andre; Apple har med stor dygtighed flyttet sin omsætning med Moores lov, i hele sin levetid. Først fra tekstterminaler til maccens grafiske terminal. Så fra maccen over på iPodden, ved at udnytte lagringsrevolutionen. Så over på mobiltelefonen, hvor forbedringer i kapacitet og strømforbrug først i de sidste 5-8 år har gjort weboplevelser gode nok. Man er ikke blevet ved at løse de samme problemer, bare bedre. Man har omhyggeligt flyttet sig lige præcis derhen hvor eksponentialfunktionen netop på det tidspunkt var ifærd med at generere nye muligheder.

Men hvad så med Facebook og Twitter, er de virkelig Mooreske succeser? Næh. Facebook stiller ikke noget som helst til rådighed, der ikke var nemt tilgængeligt for 5-10 år siden. Google? Var det muligvis for ti år siden, men ikke længere. Amazon? Samme historie, omend firmaet med stor ihærdighed forsøger at flytte sig på kurven ved at accelerere skyen, altså flytte væksten over på online services, som får forandret deres priser løbende af Moores lov. Det gør de andre selvfølgelig også, men ikke strategisk med samme konsekvens som Amazon.
Konsekvensen af at falde af kurven for en virksomhed som Google er til at tage at føle på. Der er i virkeligheden en hær af lige så gode søgemaskiner - det er overkommeligt at investere sig til en mere - og Googles dominans er mere et spørgsmål om market power end noget andet her i 2012.
Men at market power kan konkurrere med Moores lov fortæller os imidlertid også noget andet: Det er simpelthen ikke er rigtigt at Moores lov ændrer alt. Man får ikke altid noget ud af fremtiden af at skalere det op man gør nu; måske er det der skal til at man laver noget helt andet, sådan som Apple f.eks. af et par omgange har set i øjnene.

Posted by Claus at 12:41 PM