Hvad blev der af HAL ? ========================== Af Simon Laub - en stor HAL fan, ihvertfald naar HAL lytter med. HAL er som bekendt hovedpersonen i Stanley Kubrick og Arthur C. Clarkes science fiction film "2001 - a Space Odyssey" fra 1968. En rigtig droemme computer, der kan taenke, tale, se, foele, mund aflaese og engang imellem gaa rigtig amok. Nu er det jo saadan med science fiction film, at de ofte er mere fiction end science. I den obligatoriske science fiction rumkrig affyrer helten sit laser vaaben mod en fjendens rumskib. Hvorfor ser vi nu et laserstraale? Der er jo ingen luftmolekyler eller andet til at afboeje fotoner over mod tilskuerne. Fjendens rumskib bliver ramt og springer i luften med et stort brag. Men hvordan? Der er jo ingen lyde i det ydre rum? Filmen "2001" er ganske anderledes. Kubrick og Clarke skabte her et univers, hvor de gjorde sig stor umage med at faa science delen saa rigtig som muligt. Deres forestillinger om hvor langt man ville vaere naaet i 2001 viste sig dog at vaere noget vel optimistiske. Nu her i 2002 kan vi se at det ikke var i 2001, at det blev helt hverdagsagtigt trivielt at tage paa bemandede rejser til Maanen. Og da slet ikke det aar, hvor bemandede missioner til Jupiter var paa programmet. Computere med HAL's egenskaber saa vi heller ikke saa voldsomt meget til. For hvad var det egentlig for en computer vi blev praesenteret for i filmen "2001"? Hvad mangler ens aargang 2001-02 computer egentlig for at at blive som HAL? Siden filmens praemiere er disse og lignende spoergsmaal blevet behandlet i et utal af boeger og artikler. Kulminerende i det helt store HAL jubelaar 2001. Sikkert ude af jubelaaret synes jeg det er tid at goere status over over nogle af de ting man har sagt om HAL i de senere aar. Saa i det foelgende vil jeg kigge lidt naermere paa HAL's evner, og hvad man i de sidste aar har ment om dem. Dernaest vil jeg gaa lidt naermere paa det, der for mig er det centrale spoergsmaal - hvem er HAL egentlig? Og hvordan har man dog bildt HAL ind, at han har et rigtigt "jeg", ligesom en rigtig Homo Sap. Til det formaal har jeg fundet inspiration i bogen "HAL's Legacy" af David Stork og "The feeling of what happens" af Antonio Damasio. 30 aar ude i fremtiden. --------------------------- Ifoelge Moores lov forbedres computere til ca. dobbelt ydeevne hvergang der er gaaet ca. 1.5 aar. Og 30 aar ude i fremtiden er nu engang lang tid. Saa i 1968 var Kubrick og Clarke i deres gode ret til at mene at HAL i 2001 ville bestaa Turing testen i overlegen stil (hvor en computer bestaar Turing testen, hvis en tester, der foere samtale med den igennem keyboard og skaerm, ikke kan afgoere om det er en person eller en computer der tales med). Den kedelige sideeffekt (med at HAL bagefter testen sikkert ville slaa testeren ihjel) var sikkert heller ikke saadan at udelukke. Men helt praecist at regne ud hvordan verden ser ud 30 aar ude i fremtiden kraever en god krystalkugle. Bemaerk f.eks. at ombord paa rumskibet Discovery bruger astronauterne Bowman og Poole stadig papir og blyant. Laptops og PDA'er var ikke lette at forudsige i 1968. Mange andre ting var Kubrick og Clarke dog ganske taet paa at faa forudsagt korrekt. "HAL's Legacy" blev udgivet i forbindelsen med HALs foedselsdag d. 12 Januar 1997. Heri giver Marvin Minsky, Roger C. Schank, Douglas B. Lenat m.fl. et billede af hvor langt menneskeheden egentlig er fra at skabe en computer a la HAL. Ikke overraskende viser det sig at nogle af HAL's talenter er lige om hjoernet, andre langt vaek. HAL's syn og tale. ------------------------ HAL har et skarpt syn. HAL genkender ikke bare ansigter. Da astronaut Bowman viser ham nogle tegninger, er HAL istand til baade at genkende personerne paa Bowmans tegning og bemaerke at Bowman er blevet bedre til at tegne. HAL har altsaa (selvfoelgelig) ogsaa kunstnerisk sans. Nu er det jo saa man ikke forstaar, hvorfor man i 2002 stadig gaar rundt med med noegler, for at komme ind i ens hjem? Hvorfor er der ikke et videokamera, der genkender een og byder velkommen? Var Kubrick og Clarke langt forud for deres tid vedr. HAL's syns evne, saa var de endnu laengere fremme med HAL's talegaver. HAL: "I enjoy working with people." Indholdet i sig selv er et mysterium, naar man taenker paa hvad HAL senere gjorde ved astronauterne. HAL's udtale af ordene goer det endnu bedre. Hvis man fremhaever I saa er det til forskel fra you. Hvis man fremhaever working saa er det til forskel fra playing. Hvor HAL naturligvis betoner perfekt, somom han forstod indholdet - enddog meget godt. Og HAL kan naturligvis tale med om alt. En mindre imponerende HAL ville kun have lokal intelligens, og ville kun kunne tale om nogle faa emner. F.eks. styring og vedligeholdelse af rumskibet Discovery. Dvs. en saadan computer ville vaere klog paa de faa omraader den ville have behov for at vide noget om - og holde mund resten af tiden. Hvis HAL endelig skulle kunne tale om alt, skulle man tro, at han ville bruge den "nemme" taktik. Dvs. den som mange mennesker ogsaa benytter sig af :-) Disse mennesker har basalt set ca. 10 yndlings historier (om sig selv), de godt kan lide at fortaelle og som de oensker og forventer at personen i den anden skal paaskoenne. Oevelsen gaar saa ud paa at finde et ord, begreb, ide eller pointe i det den anden fortaeller, som saa kan udloese en af ens egne 10 historier. Men saadan er HAL jo ikke - han samtaler rigtigt med folk. HAL's almene viden. ----------------------- For saadan at kunne samtale med folk om alt maa alt HAL jo have et stort forraad af almen viden. Det kan virker lidt mystisk, hvis ide'en bare var at HAL skulle flyve rumskibet - og dog! Sammenligner man med et computer, der saettes til at styre en bil ude i den almindelige traffik, er det vel godt nok at en saadan robotchauffoer har lidt ide om vaerdien af et menneskebarn, sammenlignet med f.eks. et egern. At hunde oftere vil loebe ud foran en bil end gamle damer i rullestol osv. Men gad vide hvor HAL's common knowledge kommer fra? Har vi allesammen sendt de UML diagrammer vi sidder med i det daglige ind til HAL? For saadan at kick starte hans viden om verden? Og lyder det ikke lidt maerkeligt, at han er foedt og blevet "operational" paa en bestemt dato? Skulle man ikke forvente, at han som et barn skulle have en lang indlaeringsperiode foer han kunne blive operational og kaptajn paa et rumskib? HAL's foelelser. ------------------- Maaske er HAL blevet saa stopfodret med facts, at det er gaaet ud over hans foelelsesliv? Hvis foelelseskolde mennesker skal kategoriseres som robotter maa man finde paa en ny betegnelse for HAL! Som bekendt draeber HAL 4 ud af 5 besaetnings medlemmer, men synes aerlig talt noget af en kold fisk efter mordene. Det er sikkert derfor man i the "Operating Manual for the HAL 9000 computer" anbefaler at der placeres smaa spraengladninger rundt omkring i Mainframen? Saadan "just in case". Maaske vidste BBC intervieweren noget da han talte med HAL? BBC interviewer: "HAL, despite your enormous intellect, are you ever frustrated by your dependence on people to carry out actions?" HAL: "Not in the slightest bit. I enjoy working with people. I have a stimulating relationship with Dr. Poole and Dr. Bowman." Hvordan ved HAL hvad det vil sige at vaere frustreret? Mennesker bliver frustrerede, naar de ikke faar hvad de oensker. Naar andre menneskers maal og handlinger laegger dem hindringer i vejen. Pointen er at det vel altid er ihvertfald lidt frustrerende at arbejde sammen med andre mennesker. Andre mennesker vil altid have lidt anderledes maal. Saa enten aner HAL ikke hvad "frustrerende" betyder eller ogsaa lyver han. Men den politiske korrekte besvarelse er jo selvfoelgelig af den type, som folk bliver forfremmet paa. Saa maaske er HAL bare meget klog? Under alle omstaendigheder er foelelser jo vigtige. De hjaelper os mennesker med at skabe en reaktion paa en (ofte kompliceret) situation. Saa selvfoelgelig skal et vaesen som HAL ogsaa have foelelser. Fornemmelsen af at taende for en morgensur computer skal vi nok laere at blive glade for her i de kommende aar. HAL som skakspiller. ------------------------ Selvom HAL's foelelsesliv ikke virker godt. Og det derved ikke kan stoette ham til at traeffe kloge beslutninger i denne komplekse verden. Saa er han alligevel ret god til at begaa sig. Hans planlaegningsevner er faenomenale. F.eks. spiller HAL skak ligesom et menneske. Istedet for at spille det optimale traek, ser man i filmen HAL spille et "faelde-traek". Det skaber en situation, hvor Franks foelgende mest oplagte traek giver en umiddelbar fordel, men paa lang sigt oedelaegger hans position og goer ham skak mat. Hvis Frank ikke var faldet i faelden ville han have faaet en bedre position end HAL. Men HAL ved hvor dygtig - eller rettere daarlig - Frank er. Og ved at han vil falde i faelden. Denne spille stil er jo selvfoelgelig helt modsat almindelige skakcomputere, som ikke paa den maade laegger faelder ud, de forventer istedet at deres modstander altid foretager det bedst mulige traek, og tilrettelaegger deres spil ud fra det. At lave et saadan faelde traek forudsaetter kendskab til modstanderens styrker og svagheder. Og at man kan laegge planer ud fra det. HAL's mordplaner. ---------------------- HAL kan altsaa skabe sine egne planer. Som publikum fil filmen "2001" er det da ihvertfald svaert tro, at HAL ligefrem skulle vaere hardcoded til at slaa besaetningen ihjel. Planlaegning kraever at man ser paa risici vs. gevinstchancer. Kigger paa usikre informationer og andre uklarheder. Ved at laegge en plan hierarkisk op kan man forhaabentlig dele en stor plan op i smaa delmaal. Som man saa kan udarbejde mindre planer for at opnaa. Men let er det ikke. Naar man taenker paa en aar 2002 computers planlaegningsevner kommer man let til at taenke paa en LEGO Mindstorm robot, der stabler byggeklodser oven paa hinanden efter stoerrelse, hvilket saa ioevrigt ikke noedvendigvis gaar godt. Skal vi ikke bare noejes med at konstatere at HAL er anderledes? Da astronauterne Dave Bowman og Frank Poole, mener at der er noget i vejen med HAL, beslutter de at slukke for ham. Som enhver fornuftig taenkende skabning er HAL ikke meget for saadan at blive "slukket" for. Saa i stedet goer HAL det af med Poole under en rumvandring. Bowman bliver sendt paa evig rumvandring og fornuftigt nok naegtet adgang til rumskibet igen ("I'm sorry Dave, I'm afraid I can't do that"). Og de oevrige 3 astronauter bliver termineret mens de sover - som et fornuftigt forebyggende traek. Dave Bowman: "Open the pod bay doors, HAL." HAL: "I'm sorry Dave, I'm afraid I can't do that." Dave Bowman: "What's the problem?" HAL: "I think you know what the problem is just as well as I do." Dave Bowman: "What are you talking about, HAL?" HAL: "This mission is too important for me to allow you to jeopardize it." [On Dave's return to the ship] HAL: "Look Dave, I can see you're really upset about this." HAL: "I know I've made some very poor decisions recently, but I can give you my complete assurance that my work will be back to normal." "Look Dave, I can see you're really upset about this...I honestly think you ought to sit down calmly, take a stress pill and think things over." HAL er altsaa en maskine, der siger "I'm afraid I can't do that". Men i virkeligeheden mener "det vil jeg ikke". Foerste gang HAL's skabere saa den slags adfaerd maa de i sandhed have vaeret stolte !? Ikke nok med at HAL ved alt om hvad en interesse konflikt er. Saa er han ogsaa istand til at haandtere den hoefligt. Virkelig cool. Lyve, det er jo naesten hoejdepunktet af menneskelig (social) intelligens. Det kraever at loegneren ved hvad den anden person vil vaere tilboejelig til at tro paa. Skabe en en historie som passer med til situationen og modificere den loebende som situationen kraever det. Noget de fleste mennesker i virkeligheden ikke kan. Men HAL goer det straalende. HAL's: "Look Dave, I can see you're really upset about this... I honestly think you ought to sit down calmly, take a stress pill and think things over." Er jeg dog ikke saa imponeret over. HAL har tydeligvis aflaest Dave foelelsesmaessige situation korrekt. Men hvis meningen er at faa Dave til at blive mindre ophidset er en saadan kommentar naeppe vejen. Men det er da et imponerende studie i maskin intelligens vi her er vidne til: "Jeg har slaaet Dave's kollegaer ihjel, og forsoegt at lukke ham ude i det ydre rum naer Jupitor ved at forhindre ham adgang til rumskibet. Jeg, HAL, deducerer hermed at Dave vil vaere ophidset". Sherlock Holmes kunne ikke have gjort det bedre. ErrorCorrection og HAL. -------------------------- Med disse faenomenale planlaegningsevner er det ikke underligt at HAL er stolt af sig selv: HAL: "Let me put it this way, Mr. Amer. The 9000 series is the most reliable computer ever made. No 9000 computer has ever made a mistake or distorted information. We are all, by any practical definition of the words, foolproof and incapable of error". Igen, hvis HAL var et menneske ville han selvfoelgelig straks blive forfremmet efter denne svada. Selvtillid er jo altid en god ting. Men udtalelsen rummer nu ogsaa elementer af rent vanvid, og bare af den grund burde man nu have overvejet om det var en god ide at lade HAL lede missionen. Sammenlignes Kubrick og Clarkes Discovery rumskib med rumfaergen, saa styres rumfaergen ikke af en, men af flere computere. Ved majority voting blandt flere HAL lignende computere (hvoraf nogle kunne staa paa Jorden), skulle man have raad til at en enkelt gik amok. Men selvfoelgelig ville skaden vaere det stoerre hvis de allesammen gik amok. At saette HAL sammen med andre computere er saa ioevrigt nok en naturlig tanke i 2002. Men 1968 var et aar foer internettets (ARPANET) foedsel. Og manuskriptet til filmen var ihvertfald ikke skrevet paa en computer med Windows. Maaske var fremtidstroen bare stoerre dengang? HAL's "jeg" --------------- Det helt store spoergsmaal for mig er imidlertid, hvordan man har bildt HAL ind, at han har et "jeg", som han kan laegge alle sine andre fantastiske egenskaber op ovenpaa. Det faar vi nok aldrig at vide, men Antonio Damasio har gjort sig overvejelser om "jeg'et", som HAL's konstruktoere ogsaa maa have vaeret omkring. Bevidsthed og "jeg". ------------------------ Antonio Damasio's overvejelser findes i bogen "The feeling of what happens". Her fortaeller han om hvordan krop, foelelser og bevidsthed haenger sammen. Og hvordan et menneskes "jeg" skabes. Damasios baggrund er, som andre hjerneforskeres, et stort materiale af patienter, som har haft laesioner forskellige steder i hjernen. Dette har man saa kunnet studerer effekten af. En patient har f.eks. skadet hjernecentret amygdala - og kun det - vedkommende fungerer saa egentligt ganske normalt bortset fra "smaa" sideeffekter, saasom en manglende evne til at forstaa frygt. En skade paa Broca centret giver alvorlige taleforstyrelse osv. En organisme skal kunne reagerer paa sine omgivelser. -------------------------------------------------------- At reagere paa omgivelsernes aendringer er selvsagt vigtigt for en organisme. Saa en mekanisme der kan hjaelpe med at behandle de billeder, som en organisme danner af sig selv og sine omgivelser vil givetvis vaere en fornuftig ting. Bevidsthed er netop en saadan mekanisme. Herunder ogsaa dannelsen af et "jeg". Men ogsaa foelelser kommer med i vaerktoejskassen, der skal bruges i overlevelseskampen. Vel er samspillet i en hjerne mellem krop, foelelser, bevidsthed, "jeg" mm. stadig i stor udstraekning ukendt land, men Damasio toer alligevel godt give sit bud paa hvordan det maaske haenger sammen. Ved at kigge lidt naermere paa en foelelse kan man faa et overblik: Foelelser (glaede, sorg, frygt, vrede, overraskelse, vaemmelse mm.) handler om en organismes liv, mere praecist dets krop, hvor meningen som sagt er at opretholde livet. Foelelserne skal skabe (i krop og hjerne) en reaktion til en bestemt situation. Reaktionen kan saa vaere vaere at flygte, slaas, spise, parre sig osv. Eller maaske skal der foerst skabes en regulering af den indre tilstand, saa der gives mulighed for en saadan senere reaktion. En fugleunge i en rede kan se et stort objekt flyve over reden. Ungen ved ikke at dette kunne vaere en fjendtlig oern, og er ikke bevidst om at situationen er farlig. Alligevel kan der formes et visuelt billede i fugleungens hjerne. Andre dele af dens hjerne kan lave en respons paa disse indre billeder, neuralt og motorisk, nemlig at krybe sammen i reden. Fugleungen behoever ikke at vaere bevidst om dens foelelse af frygt. Ungen behoever saagar ikke at have en at fornemmelse for et "jeg" der goer disse ting. I.e. man kan selvfoelgelig godt forestille sig en organisme med en krop og en hjerne, hvor hjernen indeholder en repraesentation af kroppen - uden at der er et "jeg" nogen steder. Det giver nok liv, og en repraesentation af liv. En organisme der kan reagerer paa sine omgivelser. Men (selvfoelgelig), uden et "jeg" vil man mangle en ejer af dette liv. Bevidsthed som hoejedepunktet af evolutionen? ----------------------------------------------- Ved mere avancerede adfaerdsmoenstre er det dog nok en god ide at have baade bevidsthed og et "jeg". Og her er der en del konkurrende teorier om hvordan vi danner bevidsthed og et "jeg". Damasio forkaster de fleste inden han naar frem til sin egen. En af de forkastede ideer gaar ud at det er sproget der giver os bevidsthed. Ikke en god ide ifoelge Damasio. Ifoelge Damasio refererer sprog til eksisterende ting. Hvis "jeg" og bevidsthed var frembragt af sproget ville det vaere et temmeligt enestaaende tilfaelde af ord uden bagvedliggende begreb? Derudover har han studeret patienter med alvorlige hjernelaesioner i sprogcentrene- uden at han har kunnet konstatere at de skulle vaere mindre bevidste end alle os andre. Hos Damasio er bevidsthed heller ikke det samme som vaagenhed, hukommelse, sprog eller raesoneringsevne. Bevidsthed er heller ikke hoejdepunktet paa den biologiske evolution. For ham er hoejdepunktet snarere det samlede menneskelige samfund med dets sociale-, religioese- og politiske organisationer. Og oven paa bevidsthed har han mange andre ligesaa vigetige byggesten: arbejdshukommelse, hukommelse, sprog, kreativitet, retfaerdighedssans, sociale faerdigheder mm. Men bevidsthed, en organismes bevidsthed om dets eget selv og dets omgivelser, er selvsagt en vigtig ingrediens i hvad det vil sige at vaere menneske. Den biologiske funktion der kan faa os til at kende glaede, lidelse mm. Uden fornemmelsen af et "jeg" fanget i at vaere bevidst om noget, ville de tanker en hjerne genererer vaere uden ejer. Organismen ville ikke vide hvem disse tanker tilhoerte. "Core consciousness" og "Extended conscoiusness". ------------------------------------------------ Som udgangspunkt mener Damasio at menneskelig bevidsthed ikke er en monolit. Istedet kan bevidsthed ifoelge Damasio inddeles i "core consciousness" (som giver en organisme en fornemmelse af et "jeg" paa et givet tidspunkt paa et bestemt sted) og "Extended consciousness" (som giver et mere udvidet "jeg". En identitet og en person. Og placerer "jeg'et" i en individuel historie, bevidst om liv levet og med forventninger om en fremtid - opmaerksom paa "jeg'ets" kontekst). De to typer bevidsthed skaber saa to slags "jeg". "Jeg'et" der skabes af "core consciousness" er en transient stoerrelse, som genskabes hele tiden for hvert objekt som hjernen interagerer med (et "core self"). Mens vores saedvanlige forstaaelse af et "jeg" haenger sammen med "extended consciousness" og er "core consciousness" udvidet med de mange facetter, som karakteriserer en person. Damasio kalder dette udvidede "jeg" det autobiografiske selv. I begge tilfaelde skal "jeg-et" have et uforanderligt referencepunkt. Og her kommer organismens legeme saa i betragtning - da en modstrid med denne antagelse jo nok betyder at organismen er doed. Et "proto-jeg" bestaar saa af de neurale moenstre der repraesenterer kroppens status i et givet oejeblik. Men "core self" er ikke identisk med dette "proto-jeg". I "core consciousness" er alt en relation - mellem enhver form for ydre objekt, og saa et "jeg". Dette er en konstant opdagelse. En ting og lige ved siden af en fornemmelse af et "jeg", der observerer denne ting. Der er to spillere, en organisme og et objekt, hvor "core-consciousness" dannes igennem forholdet mellem disse to. Naar man observerer en ting, faar man lavet en neural repraesentation af det. Men ikke nok med det - en saadan observation vil aendre organismens egen repraesentation (proto-jeg'et). Et nyt map repraesenterer saa denne aendring. Relationen mellem objekt og organisme. Altsaa, foerst mappes aendringerne i protoselvet (forudsaget af et ydre objekt). Dernaest mappes relationen mellem aendringer i protoselv og ydre objekt. Med andre ord - DENNE MAPNING ER SAA EN ORGANISME DER ER VED AT REPRAESENTERE SIN EGEN AENDREDE STATUS. Dette paagaar hele tiden, hvorved vi konstant har et vidende "jeg". Dette "jeg" er vi altsaa bevidste om, hvorimod vi ikke var bevidste om proto-jeg'et. Ud af den tomme luft er der skabt noget nyt - et "jeg" !!! En organisme der er igang med at repraesentere sine egne skiftende states skaber altsaa paa forbloeffende vis en vidende enhed inde i denne fremadloebende historie. Man ved at man eksisterer fordi man er midt i en historie med een selv som hovedperson placeret midt i handlingen at vide. Den fortloebende historie (der fortaelles om et protoselv, der aendres af ydre objekter) er det samme, som at foele at man er ved at vide, hvilket igen er starten paa bevidsthed. Naar man saa har faaet genereret et "jeg" kan alle de tanker, billeder mm., der ellers er i hjernen, blive "mine" tanker og billeder. Ifoelge Damasio er der sikkert ikke een, men flere saadanne bevidstheds-generatore i hjernen. At processen opleves glat, med en ejer og et objekt skyldes blanding og udglatning - men hvordan denne "udglatning" af disse processer saa laves udtaler Damasio sig ikke om. Et "jeg" er et svar paa et spoergsmaal der aldrig blev stillet. --------------------------------------------------------------- Organismen spurgte aldrig "hvad sker der", "hvad er relationen mellem disse billeder og denne krop" - Men foelelsen af et "jeg" der overvaager, er begyndelsen til svaret paa disse spoergsmaal. Hos mennesker kan denne historie saa hurtigt omsaettes til ord. Damasios vigtigste pointe er nok, at "jeg'et" hos ham ikke forklares ved et lille super kontrol center et eller sted inde i hjernen, som saa styrer resten af hjernen. Men at "jeg'et" frembringes via mekanismen beskrevet ovenfor. Psykologer mener saa ioevrigt, at mennesker danner det autobiografiske "jeg", omkring ved 18 maaneders alderen. Foer maa verden saa unaegtelig vaere noget forvirrende. Ethvert objekt holdes op mod proto-jeg'et og man har et "core self", men der er ingen relation mellem de forskellige objekter, der er ingen fortid og der er ingen fremtid. Nogle vil vel saa sige at det lyder dejligt. Det ligner da den totale uskyld, naar man saaledes ikke er tynget af fortiden eller af forventninger om fremtiden. Under alle omstaendigheder er "core consciousness" noget ganske andet end det "autobiographical self", hvori der indgaar traek der bl.a. er reultatet af opvaekst, kultur og et helt livs oplevelser. Noget der er ganske uden for "core consciousness" raekkevidde. "Jeg'et", foelelser og bevidsthed behoever en krop. ------------------------------------------------------ Hvis bevidstheden begynder at lyde noget mekanisk, saa faar Damasio det hurtigt til at lyde biologisk igen, ved at klarlaegge hvor taet et menneskes foelelser, bevidsthed og "jeg" er forbundet til kroppen. Det sker ved igen at kigge naermere paa foelelser. Hvordan er det lige vi bliver bevidste om en f.eks. en foelelse? Ifoelge Damasio kan man kigge paa et haendelsesforloeb, hvor et objekt kommer indenfor f.eks. synsfeltet. Det kan saa give anledning til en foelelse, som saa kan goeres bevidst paa samme maade som man kan blive bevidst om ydre objekter - her er der bare tale om et indre objekt. Men i princippet er foelelsen bare et objekt som alle de andre objekter, ihvertfald ifoelge Damasio. Mere praecist - et objekt processeres visuelt, og der dannes en repraesentation for dette objekt. Denne repraesentation kan saa maaske aktiverer en bestemt foelelse. Foelelsen udloeser saa forskellige aktiviteter i kroppen og i andre hjernecentre. Som man saa kan blive bevidst om ved at protoselv repraesentationen aendres p.g.a. disse foelelser (objekter). Paa sammen maade som der kan skabes bevidsthed om andre objekter. Her er der saa skabt bevidsthed om en foelelse. Det bemaerkelsesvaerdige i historien her er at baade foelelser og bevidsthed er relateret til en krop. Kroppen repraesenteres i proto selvet. Foelelser fortaeller en historie relateret til en krop. Ved hjaelp af Damasios "bevidsthedgenerator" kan protoselvet og foelelsen tilsammen give os bevidsthed om foelelsen. Bare ord? ------------- Men bevidsthed er stadig et uhyre subjektivt begreb. Man kan ikke opleve en andens bevidsthed. Hvordan? skulle man flytte sin egen core consciousness ind i en andens hjerne? det ville jo ikke goere nogen forskel, saa vil bevidstheden jo stadig bare vaere andens. Men tager man noget af sit eget autobiographical self med ind i en andens bevidsthed er det jo ikke laengere den andens bevidsthed man oplever. Til trods for dette mener Damasio nu godt at man kan tale om bevidsthed uden at blive indfanget i bevidsthedens subjektive natur. Men der er selvfoelgelig andre opfattelser af hvad bevidsthed er end Damasios. Mange vil sikkert vaere stoedt paa Daniel Dennetts "multiple draft model" (beskrevet i hans bog "Conscoiusness Explained") - her danner de forskellige hjernecentre parallelt deres egen forstaaelse af virkeligheden - og ovenpaa det har man saa noget, som Dennett sikkert ville kalde, software (koerende i hjernen). Denne software koerer saa serielt og giver derved et centrum og et fokus for disse mange forskellige parallelle historier. Det endelige billede af hvad der mere praecist sker, maa vi jo saa nok vente med lidt endnu. De forskellige udlaegninger nu konkurrerer snarere om at vaere den bedste metafor for hvad der virkelig sker. Men HAL er sikker i sin sag: HAL: "I am putting myself to the fullest possible use, which is all I think that any conscious entity can ever hope to do." Tror vi paa HAL? ------------------- Arthur C. Clarke er paa det seneste citeret for at sige "det altid vil vaere lettere at lave intelligente organiske menneske lignende hjerner ved hjaelp af ufaglaert arbejdskraft end ved at skabe computer baseret kunstig intelligens". Det er langt fra 1958 hvor Herbert Simon og Allen Newell skrev ("Heuristic Problem Solving"), at i 1985 vil maskiner vaere istand til at udfoere alle de funktioner et menneske kan. Nu er det god latin at vaere lidt mere opmaerksom paa de problemer man kan stoede ind i paa vejen mod maskin intelligens. For at finde nogen der tror paa HAL maa man gaa til boeger a la Ray Kurzweils populaere bestseller "the age of spiritual machines". Ray Kurzweils budskab er her at maskiner faktisk vil bliver ligesaa intelligente som mennesker. Og mere til. Laenge inden computere naar fuldt paa hoejde med menneskelig intelligens vil kunstige dele til mennesker vaere vidt udbredte. Kunstige arme, foedder, hofter osv. er allerede trivielt. Derefter foelger computere til behandling af f.eks. lyd data og plugget direkte ind til de rigtige neuroner i hjernen - saa doeve kan hoere. Ud fra en saadan Plug and Play tankegang kan alle centre i den menneskelige hjerne efterhaanden erstattes. Foerst vil man scanne de enkelte dele og saa forsoege at reverse engineer dem. Derefter foelger forbedringer til den menneskelige hjerne. Og i den modsatte lejr har man lyseslukkerne, der med stor selvfoelgelighed kan fremmane alverdens grunde til at HAL bare er fiktion. Jeg kommer i tanken om neurologen Susan Greenfield, der i har skrevet boeger fyldt med indvendinger mod denne "det er let nok" attitude Ifoelge hende vil problemet vaere denne een til een mapning mellem nogle neuroner og en bestemt bevidsthedstilstand eller hjerne funktion. Hjernen er mere holistisk, hvor mange forskellige centre tilsammen hjaelper til med at skabe en bestemt funktion. Som forskellige instrumenter spiller sammen i en symfoni. Der er ifoelge hende ikke noget "neuralt center", "gen" eller "kemisk stof" der alene styre eller bestemmer en bestemt adfaerd. Snarere kan man sige at disse ting kan bidrage i samspil med andet til en hoejere funktionalitet. At samspillet er vigtigt kan man se paa hvad diverse stoffer kan goere ved hjernen. Man hoerer ofte at nogle faar "bevidsthedsudvidende" oplevelser af at tage stoffer. Men stoffer er nu "bevidstheds- indskraenkende", ikke "bevidsthedsudvidende". Et rusmiddel gaar ud paa at haemme forbindelsen til personlige vaerdier, historie og saedvanlige maade at opfatte tingene paa. Kort sagt forstaaelse. Forstaaelse bliver haemmet og ved indtagelse glider man ned mod den tilstand, der kan efterlignes af computere - at genkende ting, men uden at kunne saette dem i en forstaaelses ramme. Det bliver svaerere efter indtagelse at finde relevante associationer til en given situation. Hvilket igen goer det svaerere at kunne tilfoeje mening til en given situation. Man bliver istedet dirigeret af ydre oplevelser. Praktisk hvis man ikke oensker at integrere oplevelser i fortid og fremtid! Endnu flere drugs begynder saa at slaa endnu flere ting fra. Saa man f.eks. ikke kan holde belancen mere, talen bliver sloeret, for til sidst at slaa bevidstheden fra. Svagere neural kommunikation. Restriktioner paa de individuelle personlige associationer. Fjernelse af foelelse af ens eget selv. Abstrakt logisk taenkning slaaes fra. Og der fokuseres paa her og nu af ydre input osv. Fodboldfolket ved hvad jeg taler om. At faa tingene til at virke er svaert. Til at gaa op i en hoejere enhed er rigtig svaert. Jubelaaret. =============== HAL jubelaaret havde selvfoelgelig sin del af katastrofer, selvom det helt store nedbrud vi har ventet paa siden aar 2000 stadig lader vente paa sig. D. 11 September var en saadan katastrofedag. D. 11 September var der ioevrigt ogsaa moede i datalogforeningen, hvor en af datalogiens grand old men, Kristen Nygaard, overbragte historier og visdom til os fremmoedte. En af de historier jeg bed maerke i var historien om nogle norske studerende, der ikke skulle nyde noget af (tilsyneladende uakademiske) praktiske projekter. Ihvertfald ikke noget der involverende noget saa jordnaert som bankkonti og den slags. Dvs. Altsaa, indtil de blev talt til rette, og fik forklaret at verden bestaar af netop praktiske ting saasom bankkonti og lign. Min fortolkning af historien er, at hvis man tror at man kan snyde et eller sted i konstruktionen, saa begynder tingene selvfoelgelig at gaa galt paa et eller andet tidspunkt. Arthur C. Clarke sammenfattede historien om HAL saaledes: "If you understand 2001 completely, we failed. We wanted to raise far more questions than we answered." Inspiration : ================= HAL's Legacy. 2001's computer as dream and reality. Edited by David Stork. MIT Press. 1997. ISBN 0-262-19378-7 Software Development. January 2001. "2001 - how close are we to creating HAL ?" The age of spiritual machines. When computers exceed human intelligence. Ray Kurzweil. Penguin books 2000. ISBN 0 14 02.8202 5 The feeling of what happens. Body, emotion and the making of consciousness. Antonio Damasio. Vintage. 2000. ISBN 0 09 928876 1