Vitskapane om det kunstige

Der andre skriv om intelligens, skriv Herbert Simon om det kunstige. Han lagar ein teori om teknologiutvikling som ikkje er basert på kva menneska vil, men på kva som er mogeleg.

I sommar bestemte eg meg for å melda åtte bøker om kunstig intelligens. Den siste og beste er Herbert Simon: ”The Sciences of the Artificial” (1969). Takk til Bjørnar Tessem for eit godt tips og for god hjelp med bokmeldinga!

Utifrå ein hypotese om at både menneske og maskiner er enkle, utviklar Herbert Simon ein teori om at kompleksitet fyrst og fremst ligg i miljøet. Denne teorien viste seg å få stor forklaringskraft både i akademia og dataindustrien, og eg skal forklara den i detalj nedanfor.

Herbert Simon (1916 – 2001) var professor i informasjonsvitskap ved Carnegie Mellon University i Pittsburgh, og arbeidde med både økonomi, teknologi og psykologi. Han tilhøyrer GOFAI-tradisjonen (good old-fashioned AI) i USA frå 1950-talet. Simon var tidleg ute med eit kunstig intelligens-program som heiter ”The General Problem Solver”, og vart også eit av dei fremste angrepsmåla for Hubert Dreyfus sin kritikk i ”What Computers Can’t Do” (1972).

Eit fundament for designvitskapen

Med denne boka forsøker Simon å gje designvitskapane eit betre vitskapsteoretisk grunnlag i akademia. Design er å laga noko kunstig. Vitskapane om ”det kunstige” står på ein måte i motsetnad til naturvitskapen, seier Simon.

Naturvitskapen beskriv naturen med stor presisjon og systematikk, medan ingeniørfag, arkitektur og andre vitskapar om det kunstige er skapande og normative. Dette er vitskapane om kva som er mogeleg for menneske å gjera med fysikk, kjemi, psykologi, etc.

Boka kan lesast som ein komplett grunnintroduksjon til design, og startar med å skilja det kunstige frå naturen. Deretter går han gjennom menneskelege eigenskapar som rasjonalitet, hukommelse og læring, og deira openbart viktige rolle i designprosessen.

Verkeleg interessant blir det fyrst når han går inn den kompleksiteten som finst i moderne informasjonssamfunn, og viser kor enkel hjernen og maskinene våre er i samanlikning med det miljøet som vert mogeleg på grunn av datamaskiner.

Kva er eit kunstig system?

At noko er kunstig betyr at det er eit system som er adaptivt – det har eit oppdrag som krev at det tilpassar eg til omgjevnaden på eit eller anna vis. Simon seier at kunstige system har tre viktige element:

1) Det indre systemet, som til dømes kan vera tannhjul, elektriske svitsjar, eller dataprosessering. Aktuelle eksempel er at grensesnitt for datasyn kan ha OpenCV og IBM Watson som del av sine indre system.

2) Det ytre systemet er grensesnittet mot menneske og miljø rundt det indre systemet. Dette kan vera bygd opp blant anna av hjul, karosseri og stolar i ein bil, eller av skjerm og høgtalar i eit TV-apparat.

3) Oppdragsmiljøet (task environment, p. 20) er det fysiske og menneskelege omgjevnaden der det kunstige på ein eller annan måte utspelar sine mogelegheitar, t.d. norske vintervegar som krev noko anna av bilens dekk og gripeevne enn motorvegane i California.

Forenkling

Design dreier seg djupast sett om å forenkla utvalde fysiske prosessar, seier Simon. Det kunstige oppstår når menneske byggjer om fysiske prosessar til nye føremål. Dette er ei makt til å ”simulera verkelegheit” som er avgjerande for menneskesamfunna.

”Naturlege fenomen har eit preg av nødvendigheit fordi dei er underlagt naturlover”, skriv Simon, ”medan kunstige fenomen har eit preg av openheit for det mogelege (”contingency”) fordi dei er så formbare i eit gitt miljø”, skriv Simon.

Inni er alt ulikt

Det ytre systemet kan sjå tilforlateleg og naturleg ut, men på innsida er det heilt annleis enn det kan sjå ut til. Ikkje minst kan det indre systemet skiftast ut mange gonger utan at det ytre nødvendigvis endrar seg, slik som med utskifting frå damp til forbrenning til elektrisitet som drivkraft.

Simon framhevar at jo mindre det indre systemet heng fast i det ytre, jo større vert rommet for det mogelege. Eit godt eksempel er alfabetbasert skrift, der eit relativt enkelt system med 26-29 bokstavar kan uttrykka uendeleg mange setningar.

Denne teorien passar spesielt godt for datamaskiner. Datamaskinen har nemleg ein svært enkel grunnstruktur. Simon kallar datamaskiner for ”ein ting i gonga”-system (s. 19). Dei er serielle, og må gjera ein ting ferdig før dei kan ta fatt på den neste.

Denne enkelheita gjer også at datamaskina eignar seg godt som indre system, fordi den får desto større tilpassingsdyktigheit. Tenk korleis ei databrikke kan brukast til å styra ein drone, ein bil, ei vaskemaskin eller eit TV-apparat.

Datamaskina aukar omfanget av det moglege, og så lenge prosessorkrafta aukar eksponensielt aukar også omfanget av det mogelege eksponensielt.

Kompleksiteten ligg i miljøet

Sjølv om det no kan høyrast ut som både datamaskiner og menneske er veldig komplekse så er dei eigentleg enkle, seier Simon. Det er miljøet som er komplekst. Her har han eit knallgodt poeng: ”Mesteparten av kompleksiteten i menneskeleg åtferd vert trekt ut av miljøet, frå deira søk etter gode design” (s. 138).

Menneska har naturleg nok ikkje tilgang til alt som er mogeleg. Me ”er skapningar med ”bounded rationality”. Me er ute av stand til å handtera verdas kompleksitet, og me dannar oss eit forenkla bilete av verda, bygd utifrå interessene og målsetjingane til dei organisasjonane me tilhøyrer” (s. 44).

Maskinene er endå enklare enn menneska. Simon var sjølv med å utvikla tidlege AI-program, og skriv at ”det som såg ut som kompleksitet i dataprogrammet var i stor grad kompleksitet i det miljøet som programmet forsøker å tilpassa åtferda si til” (s. 21).

Løysingane må vera gode nok

Korleis kan menneska få kontroll over prosjekta sine i all denne kompleksiteten? Simon skil mellom to strategiar, nemleg optimalisering og ”satisficing”.

Han tek utgangspunkt i eit firma gjerne ynskjer å maksimera forholdet mellom profitt og risiko for å skapa eit optimalt resultat (s. 26). Men når ein brukar datamaskiner er det eit problem. Optimalisering krev ein rigid matematisk struktur, og vil medføra at ein ikkje kan forma og skvisa det aktuelle problemet og utrekningsmåten slik at dei passar betre saman, s. 27.

Erkjenninga av at menneske har ”bounded rationality” passar ikkje saman med optimalisering. Ei anna tilnærming som Simon anbefaler i staden er å ta avgjerder som er gode nok. Istadenfor å slå fast ei korrekt målsetjing finn ein måtar å rekna ut meir omtrentleg kva som kan vera ei god utvikling.

Ein bør ikkje satsa på alt eller ingenting, men heller få til så mykje som mogeleg. Denne haldninga fekk det litt klumsete namnet ”satisficing”, og har blitt svært viktig i moderne IKT.

Eit meisterverk

Herbert Simon er ein ruvande vitskapsmann i det 20. århundret. Simon var ein av dei fyrste som sette moderne teknologi i system, og han viser korleis menneska best kan utforska det mogelege.

I 1978 fekk han Nobels minnepris i økonomi for forskinga på ”bounded rationality” og forenkling av beslutningsprosessar i økonomiske organisasjonar. Denne teorien vart laga i forlenginga av ”The Sciences of the Artificial” (1969).

Men boka er ikkje akkurat lettlest. Det tok meg fem månader å komma gjennom den på ein ordentleg måte. Ikkje berre var det krevjande å følgja det logiske, kalde resonnementet om karaktertrekka til tekniske system, men eg vart også avspora av kor realistisk teorien hans er. Alt kan prøvast ut i verkelegheita, og det meste stemmer med ting som har skjedd på datafronten sidan boka fyrst kom ut.

Eg har lese bøker om teknologi i mange år no, og synest faktisk at Herbert Simon skriv like spennande som John Dewey, Martin Heidegger, Marshall McLuhan og Bruno Latour. Alle har sine originale, tankevekkande og til dels provoserande teoriar om forholdet mellom menneske og teknologi, og dei utfyller kvarandre godt.