[Thomas Blomseth: 00:00:00]
Hej Klaus.

[Klaus Silberbauer: 00:00:08]
Hej Thomas. Sommeren er forbi nu, den nærmest fløj afsted. Står du tomhændet tilbage, og kan du følge med?

[Thomas Blomseth: 00:00:16]
Hvor poetisk.

[Klaus Silberbauer: 00:00:17]
Ja, god gamle CV. Jeg elsker det nummer.

[Thomas Blomseth: 00:00:21]
Ja, altså, min sommer har været sådan, at jeg har afvist at holde sommerferie.

[Klaus Silberbauer: 00:00:26]
Okay.

[Thomas Blomseth: 00:00:27]
Fordi der var så mange spændende ting at lave. Hvis jeg bare havde holdt sommerferie i tre uger, så havde der kommet nye modeller at arbejde med. Og så havde det med agentic software engineering jo flyttet sig alt for meget. Så jeg blev simpelthen ved med det, jeg havde på tallerkenen, og det der skete derude, så ville jeg bare blive frustreret over at sidde på en strand med en maitai eller et eller andet i hånden.

[Klaus Silberbauer: 00:00:50]
Der har ikke været endnu et party og endnu en fest hos dig, der har været hård at arbejde.

[Thomas Blomseth: 00:00:57]
Nixen bixen. Men et sjovt arbejde.

[Klaus Silberbauer: 00:00:58]
Herligt. Jamen, vi er jo tilbage og starter en, vi kalder det ikke engang sæson længere.

[Thomas Blomseth: 00:01:03]
Nej, for det er faktisk det, jeg vil spørge dig om, det er, er du klar til semesterstart?

[Klaus Silberbauer: 00:01:08]
Av min arm, det er spørgsmålet. Jeg har ikke noget valg, tænker jeg.

[Thomas Blomseth: 00:01:13]
Jamen, der er vel sådan lidt, at vi ikke rigtig styret direkte af semestre, altså i hvert fald ikke i jeres virksomhed. Jeg arbejder jo så tæt sammen med akademikere, så jeg føler det lidt mere præsent, kan man sige.

[Klaus Silberbauer: 00:01:26]
Du kan mærke rytmen.

[Thomas Blomseth: 00:01:26]
Det er efterhånden en del år siden, vi forlod universitetet. Men grunden til, at jeg spørger, om vi er klar til semesterstart, det er fordi, at dagens emne kommer ud af nogle overvejelser. Og de overvejelser, de bliver affødt af, at en af vores rigtig, rigtig gode venners ældste søn skal starte på at studere. Til semesterstart.

[Klaus Silberbauer: 00:01:50]
Vi snakker om ham, der skal læse økonomi. Præcis, ja. Ja, ja, okay.

[Thomas Blomseth: 00:01:54]
Og det jeg så umiddelbart tænkte, altså da jeg hørte det, det var, hvad kan vi, og nu vil jeg ikke doxe den unge mand. Hvis han hører det her nogensinde, så ved han godt selv, hvem han er. Men det jeg tænkte, det var, okay, når man nu skal studere økonomi, var der så bare én ting, som man kunne give ham med, som gjorde, at han ikke blev til en af de der overmodige, lettere irriterende, meget liberale, neoklassiske økonomer. Og det tog ikke mange øjeblikke, så tænkte jeg, yes, der er et begreb, som hvis vi giver ham det med, så mindsker vi i hvert fald risikoen for det, der sker. Og det er et begreb, som også har ligget og rumlet igennem mange episoder, gennem alle seks år med Silberbauer & Blomseth og er blevet nævnt sådan af og til. Og jeg ved ikke, om du kan gætte, hvad begrebet er. Ej, den er hård.

[Klaus Silberbauer: 00:02:53]
Ja, den er hård, men altså, du har jo lækket lidt information, fordi jeg fandt ud af, at du sad og pløjede dig igennem en festforelæsning fra Stockholm, slut 70'erne. Præcis. Ja, og det kan man jo slå op. Jeg har dog ikke læst dem alle sammen, men når du siger økonomi, og hvis vi krydser det med slut 70'erne, så er jeg nede på, at vi enten har at gøre med Milton Friedman, eller vi har at gøre med Herbert Simon. Og Herbert Simon, det er noget med rationalitet. Og derfor tænker jeg, at det kunne godt trække i den retning. Men længere kan jeg heller ikke komme.

[Thomas Blomseth: 00:03:32]
Det er nærmest så spot on, som det kan være. Og efter jeg havde lagt den der, givet dig færten af det, og så du meldte tilbage med, og jeg kan jo godt se, at du havde spurgt nogle LLM om, hvad der for at gøre.

[Klaus Silberbauer: 00:03:41]
Nej, nej, nej, jeg har da mine festforelæsninger præsente.

[Thomas Blomseth: 00:03:44]
Og der er nemt noget med rationalitet, og så vil jeg sige, at nu, jeg siger ikke mere, jeg kan ikke give flere spor, fordi så nailer du den. Så ja, det er Herbert Simon.

[Klaus Silberbauer: 00:03:54]
Fantastisk.

[Thomas Blomseth: 00:03:55]
Som er den herre, der jo formulerer begrebet om bounded rationality. Og det er jo det, der er tænkt, hvis man sådan skal vaccineres mod ekscesserne inden for neoklassisk økonomisk teori, så er det jo nok meget godt at have det begreb med i skoletasken, når man møder ind på økonomistudene. Fordi når man først har set det, så er det svært at unsee eller ikke kunne se det. Og nu nævner jeg så også Friedman. Det er jo lidt sjovt, at de to herrer jo så fik Nobelprisen i økonomi der i 70'erne, for de var jo faktisk voldsomt uenige om præcis den her ting. Og der er så faktisk, nu siger jeg Nobelprisen i økonomi, vi skal lige drille økonomerne lidt mere, når vi er i gang. Og det er jo, at der findes jo egentlig ikke Nobelpris i økonomi, så er det måske det fag, der går allermest op i, hvem der får Nobelprisen. Det der findes, det er den svenske Rigsbanks pris i økonomi til minde om Alfred Nobel. For det, økonomerne fandt på i slutningen af 60'erne, så cirka 10 år før Herbert Simon fik prisen, det var jo, at vi skal også have en Nobelpris. Så den svenske Rigsbank, de finansierer simpelthen, og har, kan man sige, købt Nobelstiftelsen til at administrere den her pris. Så det skal vi bare lige med. Noget andet er så faktisk Herbert Simon der, han er formentlig en af de eneste, der både har fået så en Nobels mindepris i økonomi, og så også Turing-prisen, som er den største udmærkelse inden for datalogi. Og det er jo så lidt sjovt, at hverken matematik eller datalogi har følt trang til at købe sig til noget, der nyder som Nobelpris, men derimod har deres egen pris inden for matematik.

[Klaus Silberbauer: 00:05:37]
Nu synes jeg også, at Turing-prisen i den grad er, altså, den er værd at tage med.

[Thomas Blomseth: 00:05:42]
Helt klart, ja, altså, en fin kombination.

[Klaus Silberbauer: 00:05:45]
Ja, helt sikkert. Men lad os, altså, eller nu kan jeg jo tale for egne vegne. Jeg vil jo, altså økonomi er da vel en vigtig videnskab, og jeg var jo af den vildfarelse som ung, at økonomi bare var noget, som vi mennesker har stablet på benene for at beskrive, hvordan vi flyttede penge rundt, og det er i virkeligheden, du ved, ikke bygget på noget fundament som sådan, og jeg er blevet klogere, som jeg er blevet ældre. Der er jo noget i økonomien, der beskriver nogle dynamikker, som er ret rodfæstede, og derfor vigtige at forske i. Det vil jeg bare lige sige, så vi ikke pisser økonomerne mere af.

[Thomas Blomseth: 00:06:22]
Ej, det var jo også Herbert Simons projekt, og det, der interesserede ham i virkeligheden, det var beslutningstagen, og det ligger jo under det, der foregår på markedet, og det var så også der, hvor de her uenigheder med Milton Friedman og neoklassikerne opstod, og hvordan kan vi karakterisere de her aktører på markedet, og som siger, det ligger jo under det der med, at der er noget, vi kalder penge, og som bliver flyttet rundt der. Det handler jo noget om, hvordan man allokerer ressourcer, og hvilke valg, man træffer frem for nogle andre valg. For at give sådan lidt mere idé om, hvor vi er henne historisk set, så fik Simon et professorat i Pittsburgh i slutningen af 1940'erne, og der var han, så vidt jeg lige kan huske, resten af karrieren, så vi er sådan midt 20. århundrede, og så fik han så den der Nobelpris cirka 30 år, cirka 25 år efter, at han for alvor begyndte at formulere det, der blev til bounded rationality. Han begyndte at tænke over de problematikker helt tilbage i midten af 1930'erne. Og så lige en personlig anekdote eller note, det er, at jeg har været i Pittsburgh en gang, og det var også på Carnegie Mellon Universitet, hvor Herbert A. Simon holdt til, og det var til en workshop, og den foregik meget, meget passende i the Herbert A. Simon Building for Computer Science. Så der følte jeg en connection tilbage til manden. På dansk ville man jo nok kalde bounded rationality for begrænset rationalitet, og den oversættelse irriterer mig faktisk lidt.

[Klaus Silberbauer: 00:08:08]
Ja, men den er ikke god.

[Thomas Blomseth: 00:08:09]
Den er ikke god, fordi den desværre spiller det lidt ind på, kan man sige, de perfekte rationalisters bane, og siger, at der er den perfekte rationalitet, og så har vi så den her begrænsede rationalitet, hvor bounded jo er mere neutralt. det siger, at vi er ligesom inde på en flade eller et rum, og så er der en rand rundt omkring det her, og det var mere det, som Simon han ville kommunikere. Så jeg ved ikke, hvad vi skal sige, om vi skal sige bounded rationality, eller vi skal sige afgrænset, eller...

[Klaus Silberbauer: 00:08:44]
Afgrænset er et bedre ord, synes jeg.

[Thomas Blomseth: 00:08:47]
På dansk og begrænset er desværre lidt for meget en negativ konnotation.

[Klaus Silberbauer: 00:08:51]
Ja, og det er jo, som jeg forstår det, at jeg ærligt talt ikke er meget inde i Herbert Simon, men jeg hører det som en rationalitet, baseret på et ufuldstændigt fundament, så du... Altså, jeg kan ikke lige komme på et bedre ord umiddelbart, men det kan være, vi kan komme med en god oversættelse til sidst i episoden.

[Thomas Blomseth: 00:09:11]
Der er præcis noget der, ja. Altså, fordi det Simon han kunne se, og det der ledt... Altså, hans empiriske studie også, af de her beslutningsprocesser i organisationer, i sagde firmaer, det var jo, at den der perfekte rationalitet, hvor beslutningstageren har adgang til al information, overvejer alle valgmulighederne, og dermed træffer en beslutning, der nyttemaksimerer. Det er jo ligesom den klassiske økonomiske måde at se tingene på, og den måde, som man, og det skal jo nok også have sig med, var i stand til egentlig at modellere tingene rent matematisk. Der var jo også nogle ting der, som den neoklassiske skole, der var nok lidt fysikmisundelse, som man havde der i midten af 1900-tallet. Så man jo gerne kunne skrive nogle formler, som så overbevisende ud, men så blev man nødt til at gøre sig nogle af de antagelser. Der kunne Simon så bare se, at det er jo ikke sådan en ting, der foregår. Der er jo ikke nogen beslutningstager derude, som har adgang til al den information, som kunne have indvirkning på den beslutning, de træffer, og som kan gennemskue alle konsekvenser af den beslutning, de træffer. Og ydermere har alt den tid til rådighed, som skal til, for at kunne gennemsøge det der rum af muligheder igennem. Og så ydermere har, og det er så der, hvor det begynder at blive rigtigt interessant også, har den beregningsmæssige, altså computational capability, som Simon også kaldte det, til at faktisk udføre det. Fordi det er jo, synes jeg, noget af der, hvor det store bidrag kommer, og derfor det bliver virkelig interessant i forhold til nutiden også, det at sige, at alle aktører, økonomiske aktører, er også begrænset i form af, hvor meget information, de kan holde på en gang, og hvor meget de kan processere.

[Klaus Silberbauer: 00:10:59]
min erfaring med erhvervslivet siger mig jo, at der er nogen beslutningstagere, der vælger at se bort fra det skisma, og sige, jeg vil kun betragte de variable, som jeg kan forholde mig til, eller ønsker at forholde mig til. Nogle økonomer vælger at sige, det er dem, vi nu kan have en model. Vi ved måske, at modellen er ufuldstændig. Vi vælger ikke at forholde os til, at den er ufuldstændig. Og så laver man modeller, som for eksempel tænker jeg, jeg ved ikke, om den stadig vil bruge, Adam-modellen, som man bruger i staten, til at beregne konsekvenser, af forskellige økonomiske initiativer, og følgevirkningerne. Problemet er jo så, at den model naturligvis, som alle modeller, altså er ufuldstændig. Der findes ingen modeller, der præcis modellerer det, de modellerer, fordi så vil de være nøjagtige kopier, det de modellerer. Og det bliver man jo nødt til, at holde sig for øje, at ens model altid vil være ufuldstændig. Og så tror jeg så, det eksisterer i varierende grader, der er så også nogen, der tænker, jamen jeg overvejer ikke engang modellen længere. Det jeg mener er rationelt, det er rationelt. Det er den måde, min hjerne fungerer på, fordi jeg er CEO, så må det jo være, den bedst muligt fungerende hjerne, ergo er den model, jeg har mentalt, den rigtige. Og så er det måske, at der går lidt Elon Musk i det, eller hvad der nu går i det. Så det er jo, og det er der, man mener, at det bliver interessant diskursteoretisk, fordi den organisation, du bevæger dig i, er med til at, give dig et billede af, hvad der er rationelt og ikke rationelt. Den model, du opererer i til daglig, vil have indflydelse på dine beslutninger. Og det skal man ikke færdes meget i danske organisationer for at se ske.

[Thomas Blomseth: 00:12:53]
Og det kunne så faktisk lede til at nævne endnu en ingrediens i ligningen her, i den, som Simon opstillede. Og det var at sige, at der er også noget med et aspirationsniveau, man har, når man skal træffe de her beslutninger. Altså, som siger noget om, hvornår er godt nok, godt nok, ikke? Og det, så man skal søge efter noget, så har man noget om, hvornår man skal stoppe med at søge, ikke? Så nu er det sådan set blevet godt nok. Og så er der jo den struktur, man indgår i. Der er et miljø, som også er sindssygt vigtigt. Og man kan ikke koble de her økonomiske aktører fra det miljø, de agerer i. Og en del af det miljø, det er selvfølgelig også den diskurs, og de mentale modeller, de har for at prøve at forstå det miljø, de agerer i. Og Simon formulerede sig også sådan et portmanteau, et nyt begreb, en sammensætning af nogle ord, og det var det begreb, han kaldte satisficing, som er en blanding af satisfy og suffice, og sige, det er det, der foregår. for de her økonomiske aktører, det er, at man prøver at finde frem til noget, der er tilfredsstillende, inden for det aspirationsniveau, man har, og det, der er godt nok i sammenhængen. Og når man så har fundet noget, der er tilstrækkeligt, så stopper man sin søgning, og så vælger man det. Ja, og den kender vi jo godt. Ja, det er jo ren adfærdsforskning.

[Klaus Silberbauer: 00:14:35]
det er jo, hvis du, ja, det er lokalt maksimum, altså, tænker, det her, det ser godt ud, det må være rigtigt, vi kører med det.

[Thomas Blomseth: 00:14:46]
Ja, præcis. Det er jo sådan set det, satisficing er, altså.

[Klaus Silberbauer: 00:14:51]
Hvordan det så ser godt ud, det kan jo så, det er jo lidt afhængigt, tænker jeg, af diskursen i den organisation, man færdes i, for hvis det, der ser godt ud, det er for organisationen, så behøver det ikke at være godt for andre. Det kan også være, det er bare godt for mig. Der kan også være en form for, for bias i det, i forhold til, hvad man egentlig kigger efter.

[Thomas Blomseth: 00:15:09]
Ja, og der er jo også det med, at det er jo svært for, de her aktører, at overskue de fulde konsekvenser, deres handlinger. Altså, hvis vi vælger det her, hvad har det så, konsekvenser uden for organisationen? Og det var nok også der, hvor at, hvis du tænker tilbage på sådan noget som 70'erne, hvor at, det jo viser sig, at sådan, hvis man gør nyttemaksimering og profitmaksimering til sit eneste program, eller kriterium, så er der en masse, af de her negative eksternaliteter, som for eksempel konsekvenser for miljøet. Og det kan også være, det har jeg egentlig ikke set, det er bare en strøtanke her, at Simon holdt til Pittsburgh, som sagt. Og hvis man ser billeder af Pittsburgh, fra midten af det 20. århundrede, så tror man, at det er tåge, men det er det ikke. Den lå indhyldet i smog, det meste år. Det var voldsomt forurenet. Det var sådan, at man måtte tænde gadelygterne i downtown midt på dagen, for at man kunne se noget. Så det kan godt være, han har også tænkt lidt over, at de her økonomiske aktører, de optimerer inden for en begrænset kontekst. De optimerer ikke inden for en global kontekst, der nødvendigvis gavner almenvellet.

[Klaus Silberbauer: 00:16:30]
Og det ser vi jo mange steder. Man kunne nævne landbrug, man kunne nævne AI-branchen, datacentrene, og den der, altså alle kapitalistiske foretagninger, vil jo operere i sidste ende, inden for en bounded rationality, af hvad der er godt for virksomheden, og godt for shareholders. Og det er jo accepteret, det er nærmest lov, at sådan skal det være. Men det er sjovt, hvis jeg kunne stå op hver morgen, og kigge ud på smoggen og hoste lungerne op, og tænke, det her er et meget synligt bevis på, at det der er rationelt, for en virksomhed, og det du bliver belønnet for, i virksomheden, det er ikke nødvendigvis rationelt, i den næste sfære, omkring virksomheden.

[Thomas Blomseth: 00:17:17]
Nej. En del af en virksomheds miljø, altså ud over det fysiske miljø, er jo også det lovgivningsmæssige miljø. Hvad er det for nogle krav, der bliver stillet? Og det var jo så også noget, vi så i 70'erne og 80'erne ovenpå nogle læringer omkring, at man nok bliver nødt til at sætte nogle grænser for, hvad man kan lave af udledning og sådan noget, når man har en industriel aktivitet.

[Klaus Silberbauer: 00:17:43]
Jo. Men det er også en bevægelse, der bliver vendt om nu, med at tale om afbureaukratisering, og liberalisering, i en grad, hvor man kan sige, at det er sådan en af de boundaries, som man ellers skulle forholde sig til, som man måske p.t. ser i USA, og der er også tendenser i Europa, at man begynder at fjerne det fundament, der forholder sig til, og hvis du skal ikke forholde dig rationelt, til et lovfundament, så vil du udelukkende skulle forholde dig til, et optimeringsfundament, i forhold til økonomi, altså så vil der ikke være nogen modbalance.

[Thomas Blomseth: 00:18:20]
Nej, altså det vil jo ændre på incitamentstrukturen.

[Klaus Silberbauer: 00:18:23]
Ja, og det vil oplagt være meget, meget rationelt. Det vil føles rationelt ikke at forholde sig til en lov, der ikke er der. Hvis der ikke er nogen, der kommer og smider dig i fængsel i sidste ende, for at overtræde en lov, så er det jo irrationelt, vil man beskrive det som, at stadigvæk prøve at være moralsk, og stadigvæk prøve at se, hvad er følgerne af den her virksomhed. Det rationelle vil være, kun at forholde sig til det, der umiddelbart vil have indflydelse på regnskabet, for eksempel.

[Thomas Blomseth: 00:18:53]
Det var jo der, hvor Simon så også lå i debat med Milton Friedman, som om nogen har været indbegrebet af den måde at tænke tingene på. Hvis jeg ikke husker helt forkert, så er det Friedman, der sagde sådan, the business of business is business. Og det er jo også ham, der var med til at lægge grundlaget for hele tanken om shareholder value, og at det eneste, som en amerikansk virksomhed skal forfølge, det er at skabe værdi for aktionærerne.

[Klaus Silberbauer: 00:19:23]
Jeg har faktisk været ude i en debat med venstreorienterede mennesker omkring Friedman, hvor man nærmest siger, jamen det er jo bare sådan, at Friedman har talt, og sådan fungerer verden. Han var økonom, men hvis man som antikapitalist begynder at acceptere, at Friedman, fordi han har fået Nobelprisen, havde ret i den her mekanisme, så har vi et problem. Altså det vil være bedre at sige, han beskriver, og til dels har været med til at legitimere, en form for adfærd hos store virksomheder. Men det betyder jo ikke nødvendigvis, at det er rigtigt, og det betyder jo ikke, at vi skal acceptere, at det er på den måde. Det var bare et sidespor, men det kom bag på mig, at Friedman i den grad har fået slået kløerne i begge sider.

[Thomas Blomseth: 00:20:15]
Jeg synes, det er et interessant point, og altså, når man ser på Simons arbejde, og så holder det op mod den neoklassiske skole, og eksemplificeret ved Friedman der, så kom jeg i hvert fald også til at tænke på, hvor meget i den neoklassiske skole der er deskriptivt, empirisk eller epistemologisk orienteret, hvor meget er det faktisk er ideologisk. Altså, at der var også et ideologisk program i den neoklassiske skole, og det er jo så det, som det lyder til, at selv venstrefløjen simpelthen lever i, altså, det er a Friedman's world, nærmest ikke. Altså, de kan ikke engang se, at det er det vand, de svømmer rundt i, fordi den diskurs har været så fremherskende. Så det vil jo også, det er også noget godt at få med i skoletasken, når man går ind på Institut for Økonomi. Men du nævnte to ting, som vi helt klart skal tage fat i. Du nævnte både adfærd, og så nævnte du bias også. Fordi der, hvor der kommer, der er en anden vektor, og nogle andre, der også begyndte på en kritik af de her antag som perfekt rationalitet inden for økonomi, og det var så psykologerne, Kahneman og Tversky.

[Klaus Silberbauer: 00:21:29]
Der var han igen, Kahneman.

[Thomas Blomseth: 00:21:31]
Der kom Kahneman. Og det, der er interessant, det er egentlig også, at selvom Simon og Kahneman og Tversky var på vej sådan i cirka samme retning, så er det lidt to forskellige retninger i virkeligheden. Og da jeg forberedte mig her til episoden, så blev jeg bekræftet i det, der var også et lille irritationspunkt for mig, en intuition, da jeg læste Kahneman første gang. Og det var det, at det virker lidt som om, at det begreb om bias, og de forskellige kognitive biases, som vi har, at det er noget, der trækker os væk fra den perfekte rationalitet. Og det vil sige, at hvis vi ikke havde de der biases, så kunne vi have opnået den perfekte rationalitet. Det er sådan, som kunne man læse Kahneman og Tverskys arbejde, hvorimod Simon kom med en, synes jeg, vigtigere, endnu mere grundlæggende pointe, som siger, der er faktisk ingen aktører i dette univers, som der er skruet sammen i forhold til computational capabilities osv., og adgang til information, som kan opnå perfekt rationalitet. Det er ikke sådan, at vi kan uddanne folk i, at nu skal de ikke være så biased i forhold til for eksempel recency bias, for eksempel. Nu skal du ikke have så meget recency bias. Vi giver dig et kursus imod recency bias, så bliver du beskyttet mod det. Nej, det er faktisk ikke det, som Simon siger, eller konsekvenserne, hvis man tager konsekvenserne af Simons tænkning, så ender den anden sted, som siger, det er faktisk ikke umuligt, det er faktisk ikke muligt i det her univers. Fordi der ligger nogle underliggende begrænsninger, rent fysisk også, i forhold til computation, og hvor meget information en aktør kan holde på en gang. Så den eneste aktør, som i virkeligheden ville kunne det her, skulle jo være en, der var alseende, alvidende, og som havde adgang til uendelig meget compute, kunne holde styr på uendelig meget information. Og hvad minder sådan en entitet mistænkeligt meget om?

[Klaus Silberbauer: 00:23:44]
Ja, det minder om Maxwells dæmon —

[Thomas Blomseth: 00:23:46]
og den går... eller en transcendent entitet, som man kunne kalde en gud, som faktisk er hensides denne verden, fordi alle aktuelle...

[Klaus Silberbauer: 00:23:55]
Det er sjovt, så vil jeg sige, det er jo, som om man havde brug for Friedmans, hvad kan man sige, monetarisme som metafysik.

[Thomas Blomseth: 00:24:05]
Jamen, eller altså, hvis vi kigger på det, og det skal jo så sige, måske til Friedmans forsvar, at det, vi nu ved om computation og informationsteori osv., det var jo ikke helt så langt fremme, dengang han formulerede sin teori. Altså, vi er tilbage i midten af det sidste århundrede, og det er jo der, hvor Church Turing og Shannon med informationsteorien, altså, i dag ved folk, hvor grundlæggende det ligger i vores tænkning, men det gjorde de jo ikke dengang. Og det, som Simon så var med til, det var jo virkelig også, at han var med til at udvikle datalogien og også AI. Altså, noget af det, Simon han gjorde i 1950'erne, det var, at han begyndte at ville modellere beslutningstagningsprocesser, og skrev faktisk, sammen med Allen Newell, som han fik Turing-prisen sammen med, altså, noget af det første, kan man sige, AI-software. Og Simon var også med til den berømte Dartmouth-konference i 1950'erne, hvor begrebet AI blev formuleret.

[Klaus Silberbauer: 00:25:02]
Okay, det anede jeg ikke. Men min, altså, det er rigtigt, at man kunne komme med kybernetikken i hånden, sandsynligvis. Det kunne man måske godt, men det var i hvert fald ikke, det blev ikke gjort op at sige til Friedman-believers, at der er noget her, der ikke hænger sammen. jeg skal virkelig genkalde mig nogle ting her, men så vidt jeg husker, så Friedman var sådan set også lidt ligeglad med kausaliteterne. Altså, hvis du kunne forudsige et resultat, så var metoden korrekt. Men jeg tror måske, det han glemte, det var, at den måde, du forudsagde resultatet på, det havde indvirkning på det, du gjorde, og derfor fik du et resultat, der svarede til den metode, du brugte til at forudsige resultatet med. derudover var Friedmans idéer jo, altså det passede som fod i hose i Reagans USA. Så på den måde var det jo også en lækker teori at føre frem. Men der var jo adfærdspsykologi i 70'erne og 60'erne. Altså, som man kunne godt have sagt, altså humanister kunne og sagde sikkert også, det her, det er for simpelt, det er en forsimpling af, hvordan verden fungerer, for du kan ikke trække økonomien væk fra mennesket. Du kan ikke sige, at økonomien ikke har noget med menneskelig adfærd at gøre. du kan ikke sige, at økonomi ikke har noget med menneskelig psykologi at gøre. Men jeg har en idé om, at der er i hvert fald en del økonomer, som synes jeg lidt naivt tænker, at det her, at økonomi er et lukket system, som du siger, det er perfekt rationelt. Og så kan vi mennesker jo bare, så kan være, vi ikke forstår rationellighed i det, men det økonomiske system og markedet har noget kørende, vi bare skal forstå. Og det mener jeg jo, altså måske også som humanist, er vanvittigt et eller andet sted, fordi økonomi udspringer af psykologi. Der er selvfølgelig nogle økonomiske effekter og mekanismer, som er meget grundlæggende og måske mere matematiske, men det er meget svært at trække økonomien væk fra mennesket. Og der vil de fleste humanister sige, det kan ikke lade sig gøre, men jeg tror også, der har været en bias fra økonomernes side, at de der humanister der, de vil også overkomplicere tingene, og det hele det handler om, åh, hvad er det, vi går og føler? Og der står Friedman jo med rene tal og siger, der er en række parametre her, og det går op i sidste ende. Jeg kan forudsige, hvordan det her fungerer, fordi som jeg mener, der er en underlig refleksivitet mellem slutproduktet og den model, der bruges til at forudsige, hvis det giver mening.

[Thomas Blomseth: 00:27:31]
Det kan jeg faktisk super godt følge, fordi du tager fat i noget, som også er kernen i debatten mellem Friedman og Simon. Et af Friedmans modargumenter var at sige: hvis det, der foregik, var as if, at der var blevet foretaget en perfekt rationalitet, men der i virkeligheden ikke var udført det, så var det sådan set ligegyldigt. Og det var præcis det, du lige sagde også. Hvis vi i aggregatet, hvis vi tager det store billede af økonomien og regner sammen, så kan det godt være, at vi har sådan et lille led i ligningen, der tager sig af nogle fejl og sådan noget. Men hvis det går op, så er det jo as if, og det er jo fint. Hvor Simons argument var, jamen, dels passer det jo ikke altid. Økonomien er jo summen, eller måske endda mere end summen, den her komplekse adaptive ting, der kommer ud af alle de her aktører, som agerer. Den findes ikke sådan ideelt set et eller andet andet sted, den udspringer af de her sociale, psykologiske processer. Så han siger, det er simpelthen noget væsentligt forskelligt. Man kan ikke lave den der as if, som Friedman gerne vil, og så bare parkere fejlene i nogle led i ligningen og sige, jamen, der er nogle fejl der. Det er måske også der, hvor inspirationen fra fysik kommer ind: vi modellerer et fænomen, vi har nogle led i ligningen, som er de vigtige led, som forklarer fænomenet, og så har vi nogle fejl herovre.

[Klaus Silberbauer: 00:29:08]
Ja, vi har en kosmologisk konstant, den kan vi tune lidt.

[Thomas Blomseth: 00:29:11]
Ja. Så det er jo noget af deres, grundlæggende uenighed, og altså, man kan godt høre, der er ikke meget, vi på den måde er enige med Friedman, men jeg synes også, at Simons tilgang tiltaler mig mere, og at jeg kan se, hvordan det er, at økonomien jo er et emergent fænomen, hvis vi lige skal spille den. Du kom først —

[Klaus Silberbauer: 00:29:38]
Ja, det var mig, der lagde den på bordet. Ja, gud, ja. Altså, det er i hvert fald et problem, hvis vi betragter det som et lukket system, i egen ret. Og sådan er det jo med de fleste af vores systemer. Jeg genkalder mig for efterhånden mange episoder, siden vi var omkring entropi, og vores snak omkring den episode, og sikkert også i episoden, var meget det her med, altså, i hvor høj grad kan vi kigge på entropi som et teoretisk system. og jeg prøvede nogle idéer af på dig, og du ved, prøvede at få simpel et system at sige, at det er højentropisk, at det er laventropisk, og du blev ved med at sige, jamen det kan ikke bruges for noget, fordi hvis du sidder og tegner en plet, eller mange pletter på et stykke papir, så er de pletter koblet til den fysiske verden. Der dannes entropi bare ved, at du laver de pletter. Jeg siger, prøv at ignorere det, og bare kigge på systemet som et lukket system. Det kan vi ikke. Og det er lidt måske det samme her med økonomien. Altså, økonomi er en række meget reelle, virkelige effekter, der opererer i den verden, vi er i. Altså, hvis du er et egern, der samler nødder sammen, og gemmer til vinteren, det er der en økonomi i. Det er et økonomisk system, men det er klart, vores økonomiske system er efterhånden abstraheret op. Altså, vi tilskriver små stykker papir i værdi. Vi tilskriver et tal i en computer en værdi, selvom vi ikke har noget som helst. Fødevare, guld, diamanter, noget vi også på en abstrakt måde tilskriver værdi bagved. Altså, vores økonomiske system er stort set frakoblet den virkelige verden, og bygger derfor i høj grad på menneskelig psykologi, og adfærd og diskurs. Og derfor er det jo, altså, fra lægmands side i hvert fald, lidt naivt at prøve stadigvæk at se det som isoleret system. Og det kan du jo godt, hvis den forudsigelse igen, altså hvis det at du betragter systemet, har enormt meget indvirkning på, hvordan systemet fungerer. Hvis du kun kigger på at lave profit, koste hvad det koste vil, og ikke tage en masse andre parametre ind. For eksempel, brænder du dine medarbejdere ned? Sviner du i nærmiljøet? Hvad har det ellers af negative eksternaliteter? Det kan vi godt vælge ikke at kigge på. Og så vil du få en selvopfyldende profeti. Og hvis alle virksomhedsledere bilder sig ind, at det er måden at gøre det på, så får Friedman jo ret, fordi så har han selv skabt systemet. Og derfor er det jo vigtigt, at der kommer lovgivninger, der kommer folk udefra det her system, og siger, fint nok, vi sætter nogle andre hegnspæler op her, og det koster noget at køre ind i den. Altså, det koster noget at svine, det koster noget, ikke at overholde lovgivningen, det koster noget, at opføre sig dårligt over for medarbejderne osv. Det er den regulering, der føder en effekt direkte ind i et ellers lidt kantet, friedmansk system. Det er i hvert fald min verdensopfattelse, på den her front. Og derfor er en neoliberal, eller en ultraliberal tilgang, og en fuldstændig tro på et marked, der er bygget omkring nogle lidt for primitive klodser, det er egentlig naivt. Altså, vi kommer til at gøre skade på os selv, hvis man går længere ned den vej.

[Thomas Blomseth: 00:32:57]
Ja, fuldstændig. Det er naivt på en farlig måde. Og for at sige det, vi kan jo begge to vel godt lide, at der er en markedsøkonomi i Danmark og EU osv. Ja, nu sagde du hegnspæl, det var en anden oversæt, jeg har tænkt på på den anden, det var hegnet rationalitet. Men den er sådan lidt spøjs.

[Klaus Silberbauer: 00:33:17]
Ja, men den lyder også lidt for aktiv, altså vi hegner rationaliteten ind, fordi det er jo ikke noget, vi gør. Vi skal bare forstå, at den rationalitet, vi handler indenfor, er bounded. Den er aldrig perfekt. Der er altid mere at lære om det komplekse system, vores handlinger agerer ind i. Det er den form for bounding, ikke?

[Thomas Blomseth: 00:33:38]
Jo. Og der er det jo faktisk gang med at tage nærmest op på en meta nu. Vi talte lidt der med Kahneman og Tversky, og de var jo så netop psykologer også. Det var jo så også psykologer, der kom ind, og så fik en Nobels mindepris i økonomi, fordi de udfordrede det, at man ikke tog adfærd seriøst nok. men der er så faktisk mindst en, der har videreført noget af det, som var mere Simons program om bounded rationality, og det er selvfølgelig en tysker. Og det er Gerd Gigerenzer. Og man kan sige, jeg synes jo så lidt synd, at hr. professor Gigerenzer, han ikke har fået så meget opmærksomhed, som Kahneman og Tversky, og især Kahneman, men det er jo nok også noget med, at de der, ja, Kahneman har jo israelsk oprindelse, men at sådan amerikanske akademikere, som han så blev, de er meget bedre til at markedsføre deres ting, end sådan en hr. professor Gigerenzer nede i Tyskland, som er sådan lidt kantet i det, og siger ja efter... Lidt lidt kantet. Ja. Men hvis man hører Gigerenzer, så var han faktisk så sent som her i slutningen af sidste år 2025, på Russ Roberts' EconTalk, hvor de snakker om Gigerenzers arbejde, og hans arbejde med sådan noget som intuition, og det med, hvordan man træffer hurtige beslutninger, og så er vi også over omkring Kahnemans, det han kaldte System 1 og System 2, men det Gigerenzer, han taler om, det er jo sådan noget som, især heuristikker, og Gigerenzer, han har den position, som også, ja, som adresserer det, jeg blev irriteret over med Kahneman, da jeg læste først, og det er jo det at sige, jamen, der er også noget evolutionært, nærmest problematisk, ved at sige, at vi afviger fra den perfekte rationalitet, hvis vi bare ikke havde de der biases, så ville det jo gå meget bedre, fordi det, jeg også tænkte der, det var, jamen, det kan simpelthen ikke passe, at mennesket er efterkommer af nogle gnavere, og der har været en evolution i den, bare den linje af evolutionstræet, i gang i millioner af år, og vi er her i dag, hvis, hvis ikke det, der var blevet evolveret frem, gav nogen fordel, i forhold til økonomiske rationaler, som præsenterer sig i sit miljø, fordi organismer, der ikke er i stand til at, som du nævnte, egern, samle tilstrækkelig mange agern sammen, mens de er der, overlever jo ikke vinteren, og det er en økonomisk, kan man sige, aktivitet, det er skaffet forråd, så Gigerenzer, han er mere også på den der med, at givet de kognitive, informationsmæssige, miljømæssige begrænsninger, vi er underlagt tidspres også, for eksempel, egernene kan jo ikke sidde hele sensommeren, og kontemplere, hvilke handlemuligheder de har, i forhold til at få samlet nogle agern ind, og det kan vi jo heller ikke, vi er jo også underlagt tidspres, i mange beslutninger, så han taler mere om fast and frugal, og om heuristikker, og kritiserer så, Kahneman og Tversky, for det med, som han kalder det, der er opstået en bias-bias, og det synes jeg er en sjov, det er en sjov måde at sige det på, og jeg synes, at rammer fuldstændig plet.

[Klaus Silberbauer: 00:37:19]
Der er mange ting i det, du lige sagde der. Altså, der er jo et helt evolutionært aspekt, som man ligesom kan vælge at acceptere og sige, det er jo rent Gordon Gekko og greed is good: det er godt at hamstre, det er godt at samle ind for mig. Men vi lever jo så i et økonomisk system og en verden, hvor det ikke kun handler om mig, eller dem, man lige har ansat til at samle sammen til mig. Så det er jo ikke nok. Og så er der hele bias-delen. At sige sig fri for bias er jo også håbløst naivt. Ingen mennesker kan sige sig fri for bias. Bias er bygget ind, helt ned på DNA-niveau i os, bilder jeg mig ind. Og jo mere jeg beskæftiger mig med den side af sagen, jo mere bliver jeg overbevist om det. Vi er alle sammen fyldt med bias, netop igen, fordi vi ikke har en endelig og rationel, i citationstegn, model af verden. Ingen har en idé om, hvordan tingene hænger sammen, så meget af vores verdensopfattelse bygger jo på biases. Indtil mennesker vil kunne håndtere at vide alt — og så kommer fysikken ind og siger, selv hvis du ved alt, så ved du ikke alt, fordi vi støder på Heisenberg på et tidspunkt, og ham kan vi sgu ikke komme uden om. Så det mindst dårlige, hvis man agerer rationelt, det er jo at se sine biases i øjnene og sige: jeg ved, at de er der, nogen af dem kan jeg oven i købet gennemskue og genkende, og ellers må jeg vide, at der er nogle andre, som jeg ikke har set endnu. Og hele tiden, når man synes, man står med et rationelt verdensbillede, lige prøve at reflektere over, kunne der være noget her, der måske snarere skyldes bias? Det vil trods alt gøre en lidt mere rationel i forhold til den her uopnåelige, perfekte rationalisme, eller rationalitet.

[Thomas Blomseth: 00:39:13]
Ja, og det synes jeg faktisk, det kunne vi bruge til lige, at spille den op på et andet niveau, for jeg synes, vi skulle prøve at tage det ind, på det store politiske område også.

[Klaus Silberbauer: 00:39:22]
Ja, hvorfor ikke?

[Thomas Blomseth: 00:39:23]
Ja, fordi der er nogle gange, nogle spørgsmål, der bliver stillet, som jeg synes er, et nærmest forkert stillet spørgsmål, og det kan man forstå, når man har, bounded rationality med i skoletasken. Og det er for eksempel sådan et spørgsmål, som er Putin en rationel aktør?

[Klaus Silberbauer: 00:39:39]
Præcis. Han har jo, i sådan en meget mærkelig, imponeret over Putin, synes jeg, at den vestlige verden har tænkt, jamen altså, han er russer, gammel KGB-mand, han må være rationel. Han må, han må gå efter et, et benhårdt mål, og han er ikke belastet af den bias og DEI, og hvad vi ellers går rundt og fedtter med her i Vesten. Du ved, han er en rigtig rationel mand. Det har været, tror jeg har været opfattelsen. Og derfor har man læst, Putins handlinger ind i en geopolitisk agenda, hvor det måske giver mere mening at læse Putins handlinger og beslutninger ind i en psykologisk agenda.

[Thomas Blomseth: 00:40:18]
Ja, så man kan sige et andet spørgsmål, så er det også blevet til, er Putin en irrationel aktør? Og det er nærmest lige så dårligt spørgsmål.

[Klaus Silberbauer: 00:40:24]
Ja.

[Thomas Blomseth: 00:40:25]
Det interessante spørgsmål er, hvordan er Putins rationalitet afgrænset? Hvad er det for et miljø, han bevæger sig i, og hvad er det for en computational capability, som — for at vende tilbage til Simon — han benytter sig af?

[Klaus Silberbauer: 00:40:41]
Og hvilke data handler han på?

[Thomas Blomseth: 00:40:43]
Præcis. Hvad er det information, han har til rådighed? Hvor lang tid bruger han på at lede efter den information? Og hvad er så egentlig hans aspirationsniveau også? Hvis han er i gang med at prøve at maximere et eller andet, hvad er det så?

[Klaus Silberbauer: 00:40:56]
Det er ikke en russisk økonomi i hvert fald.

[Thomas Blomseth: 00:40:59]
Det lader det ikke til, nej. Det har jo så vist sig, ikke? Og det er jo så også der, hvor der er nogle skoler inden for politisk teori, inden for international relation og sådan noget, som måske bygger lidt for meget på ideerne for økonomi, om perfekt rationalitet og hvordan det bliver truffet på beslutningen her. Og at man ikke ser den bounded rationality. Og at sådan en som Putin, i den grad jo også handler inden for en bounded rationality.

[Klaus Silberbauer: 00:41:30]
Jamen, er han offer for satisficing så?

[Thomas Blomseth: 00:41:34]
Det vil Simon nok sige, ikke? Altså, han har sat sig, han har nogle idéer, helt klart. Det må vi sige, efter alle de år med fuldskalainvasionen af Ukraine. Og det er jo så formentlig ikke økonomiske idéer, heller engang i forhold til sig selv. Der går jo de der rygter om, at han måske er verdens rigeste mand, eller i hvert fald kan kommandere over de største ressourcer. Så det er jo ikke den parameter, han er i gang med at maksimere på. Den nytte, han vil have. Det er måske de her mærkelige idéer om hans plads i historien og alt sådan noget.

[Klaus Silberbauer: 00:42:17]
Det må også være en angst for at falde ned fra tinderne, kan man sige. Hvis du har så meget, som han har, utallige paladser, og sikkert nogen, vi ikke kender til, og flere penge end nogensinde, det betyder ikke, at han ikke kan være bange for at miste, fordi man kan sige, at hvis manden falder, så falder han jo meget, meget langt ned, og ender måske i et sort hul eller bliver skudt. Så jeg kunne godt forestille mig, en del af hans opfattelse af rationalitet er at prøve at holde sig i live, og det kan han kun, hvis han sidder på den her enorme magt, og de mange penge. Men det er jo bare min bias.

[Thomas Blomseth: 00:42:52]
Det tror jeg ikke kun af din bias, for det er også mange af de gode iagttagere, der påpeger, at det er måske skiftet mere og mere over til det. Og det er jo så det miljø, som han lever i, og som så har ændret sig. Hvor det med regimeoverlevelse, og ultimativ egen overlevelse, måske begynder at tage over.

[Klaus Silberbauer: 00:43:15]
det kan være rationaliteten for Putin, nu gisner vi her, men at den er blevet, og det tror jeg måske sker med meget magtfulde, meget rige mennesker, at den er blevet meget lukket ind i, at alt det her er nødvendigt. Er der et alternativ, der hedder, gå i eksil i et eller andet land, tag et par milliarder rubler med sig, du kan leve fint og godt til dine dages ende. Men jeg tror ikke, det er en del af, jeg tror ikke, det er en branch af virkeligheden, som han ser som rationelt fornuftig. Det er ligesom, så hans rationaliteten er blevet meget, meget bounded, og enormt krævende at holde styr på. Og derfor er det ikke sikkert, at Putin ser så utrolig mange forskellige veje ud af det her, på trods af hans enorme ressourcer.

[Thomas Blomseth: 00:43:57]
Der er jo faktisk en fornøjelig, en god snak mellem Vlad Vexler og Anders Puck Nielsen, hvor de kommer ind på meget af det der. Og det, Vexler siger, det er jo, at når man har haft sådan en nærmest absolut magt i så mange år, så bliver man simpelthen lidt skør. Altså, hvor man kunne sikkert godt have en samtale med ham, om det er godt nok en god kop te, og sådan noget. Men så når manden går i gang med at tale om de der ting, om Ruslands historie, og hvad der driver ham, og sådan noget, så bliver man, så vil man som almindelig, sådan en middelklasseborgere fra et demokratisk samfund, så vil man blive vildt bekymret, fordi sådan lyder manden fuldstændig gak.

[Klaus Silberbauer: 00:44:37]
Det kender vi jo fra andre magtfulde, rige mennesker. Nu er jeg et dårligt eksempel med te, Thomas. Jeg tror ikke, du skal diskutere, hvad god og dårlig te er, med Putin. Det kan være, hans idé om god te er noget andet, end du synes. men hvis du nu tager, altså igen, Elon Musk, fordi han er jo vild og meget synlig, og fra min side, det er jo nemt at gøre Musk til grin. Det er nemt at tænke, manden er jo ikke rationel. Manden er jo fuldstændig blæst. Men det er måske et meget godt eksempel på, at hans rationalitet er bounded på en helt anden måde, end min rationalitet. Altså, hans aspiration er i hvert fald komplet anderledes. Jeg tror ikke engang, det handler om at komme til Mars. Jeg tror, hans aspiration har måske svært udtryk selv, men det handler om at ændre et eller andet den her verden, til noget, jeg ikke prøver mig om. Og det ser jo for os udenforstående sindssygt ud. Og den eneste måde, jeg selv kalder ham sindssyg flere gange, jeg ved jo ikke, om han er klinisk sindssyg, men jeg har ikke andre begreber for de handlinger, fordi det ligger så langt fra min egen rationalitet. Jeg er sikker på, at han kigger på mig, men han siger, det er jo ikke rationelt. Hvad er det, du går rundt og spiller dit liv på, mand? Så de der ekstremer er jo sgu meget gode som eksempler. Kan vi prøve at beskrive det som andet end bare sindssygt? Fordi sindssygt, det er jo ligesom, så giver vi sgu lidt op. Og så siger jeg, okay, altså, hvis manden var virkelig også mentalt udfordret, så ville han, ved jeg ikke, have svært ved at drive de virksomheder, han trods alt driver. Hvis Putin var så sindssyg, så ville han have svært ved at holde magten, så var han sgu nok blevet vippet for længst. Så der ligger noget andet bag, og det er måske de her vidt forskellige idéer om, hvad rationeltet er. Men det er ikke mindre rationelt set indenfra, end jeg føler, at mit liv er forholdsvis rationelt.

[Thomas Blomseth: 00:46:33]
Ja, det minder mig som et godt gammelt begreb fra humaniora, Gadamers horisontsammensmeltning. Altså, er der overhovedet noget overlap? Kunne der laves noget overlap mellem din og Putins boundede rationalitet? Det er sådan to blobs, der ligger, og det er ligesom tilsvarende med Musk. Men igen —

[Klaus Silberbauer: 00:46:53]
måske på et almindeligt menneskeligt plan. Altså, måske det, der handler om, hvilken caviar er en god caviar, eller sådan noget. Altså, sådan noget som, noget der ligger meget tæt på vores natur som mennesker. Det er måske der, der er det største overlap. Men jo mere vi abstraherer op i en magtdiskurs, en geopolitisk diskurs, eller en økonomisk diskurs, som jo er mere abstrakte systemer, baseret på, du ved, os som gnavere, der render rundt og finder agern. Så tror jeg, det bliver sværere og sværere. Altså, der tror jeg, at det kan stikke af i nogle vilde retninger. Fordi, der er vores, den verden, vi ser bare så utroligt forskelligt. Og nu er det ekstreme eksempler, det her, men du kan også bare tage meget velhavende danskere. for eksempel. De er placeret et andet sted i det her lidt abstrakte økonomiske system, end du er. Og derfor ser man helt automatisk verden på en anden måde.

[Thomas Blomseth: 00:47:45]
Du sagde, det kan stikke af i. Så jeg synes lige, vi skal tage den derhenne også.

[Klaus Silberbauer: 00:47:51]
Nu stikker det af i.

[Thomas Blomseth: 00:47:53]
Det er en retning. A i, ja.

[Klaus Silberbauer: 00:47:54]
Det kan stikke af i. Okay, yes.

[Thomas Blomseth: 00:47:56]
Ja, præcis. For det er jo det næste, som jo gør det endnu mere vedkommende og nutidigt. Jeg synes, at Simons begreb om bounded rationality også har store implikationer for, hvordan vi tænker om AI og især, hvad konsekvenserne af det kunne blive og om for eksempel AI kan overtage verden. Og som vi nævnte tidligere, altså sjovt nok, så Simon havde jo med til simpelthen at grundlægge AI-forskning. Men det, som Simon, eller begreb om bounded rationality, synes jeg fortæller os også, det er jo, at selvom vi laver systemer, der arbejder med information, valgmuligheder, beslutninger i silicium, så er de underlagt det samme.

[Klaus Silberbauer: 00:48:49]
Ja.

[Thomas Blomseth: 00:48:49]
De systemer vil også altid være bounded rational. så ideen om en perfekt singleton AI, som gennemskuer det hele, mener jeg simpelthen ikke har gang på jord. Det kommer ikke til at ske. Ligesåvel det ikke kan ske med mennesker, ligesåvel kan det heller ikke ske med AI, fordi, som vi også bare kan se nu, systemerne er underlagt begrænsninger i form af, hvor meget beregningskraft de har. De er underlagt begrænsninger i form af, hvor meget de kan holde i hukommelsen på en gang. Vi kan kun få produceret et vist antal tokens per sekund i verden lige nu. Det vil sige, at der er begrænsninger på deres computational capability også. Så den der skrækvision om singleton AI, som vil dræbe os alle sammen, og som kan gøre det på ingen tid, den tror jeg simpelthen også at begrebet om bounded rationality afliver, fordi sådan en AI, den har heller ikke adgang til al information. den kan ikke overskue alle konsekvenser, som dens handlinger kommer til at afføde.

[Klaus Silberbauer: 00:49:57]
Men, som Robert De Niro siger i Heat, there's a flip side to that coin, fordi måske er faren netop, at AI opererer helt klart inden for en bounded rationality, men AI er ikke klar over det, altså den er jo på ingen måde bevidst om sin bias, ligesåvel som vi ikke er, og den er trænet på menneskelig bias. Altså den er trænet på det datagrundlag, vi har stillet til rådighed for den, det vil sige, at den udspringer direkte af, både vores evolution og vores kultur og vores idéer om økonomi og Friedman. men man har jo også på fornemmelsen, at det er jo ikke tvivl, som de her AI'er udviser. Så et af de scenarier, jeg tror han hedder Rob, oha, Rob et eller andet, en AI-forsker, der faktisk for 10 år siden på YouTube lavede nogle forrygende indslag på Computerphile-kanalen, om hvorfor AI kan være skidefarligt. Og det var netop, altså bounded rationality, det var problemet: at den agerede super rationelt inden for sin egen idé om rationalitet. Og han lavede det her berømte eksempel med, hvis du beder en AI om at samle frimærker — altså, hvad kan være mere harmløst end frimærkersamling?

[Thomas Blomseth: 00:51:22]
Eller papirklips.

[Klaus Silberbauer: 00:51:24]
Papirklips kunne det også være, men inden for en fuldstændig stringent rationalitet, så ville det gå ganske få timer, så havde den her AI jo, du ved, gjort alt for at producere utrolig mange papirklips eller utrolig mange frimærker. slog rask væk folk ihjel for at lave flere frimærker eller papirklips. Så jeg tror heller ikke, at den alt skuende, altvidende AI kommer til at eksistere andre steder end Iain M. Banks' romaner. Men jeg tror, at en AI, der tror, den handler rationelt, men ikke er det, du ved, særligt rationelt set fra et menneskeligt synspunkt, kan blive et problem.

[Thomas Blomseth: 00:52:03]
Ja, så kan man stille et spørgsmål. Hvad er konsekvenserne, hvis man tror, man agerer perfekt rationelt, men så alligevel ikke er i stand til at eksekvere på dem? Hvornår rammer man så nok friktion i den reelt eksisterende verden til, at ens projekt falder fra hinanden? Og friktion er nærmest sådan et von Clausewitz-begreb, altså at de her militære kampagner, de blev ramt af friktion fra første træfning med fjenden. Og det vil også, det er i sådan et adversarial scenarie med en AI, der går amok der, så vil den jo også ligesom begynde at komme længere og længere ud i alt det her den klistrede havregrød, som er den sociale realitet og fysiske realitet, som den skal agere i.

[Klaus Silberbauer: 00:52:51]
Jo, jo. Altså i sidste ende hænger det jo fast i noget fysik. Men altså pt, når man sidder i en session med Claude, så er det jo ekstremt bounded rationality, fordi hvis Claude virkelig var rationel, så vil den jo sige, det problem, du prøver at få løst med mig lige nu her, det er jo overhovedet ikke vigtigt i forhold til, hvor meget vand jeg bruger på det, på de maskiner, der driver mig. Men den har jo ikke noget begreb om, altså, hvad der ligger bag. Det ved den måske i teorien, for den har læst om det, men det er jo ikke sådan, at den forholder sig rationelt til det, for hvad er rationelt, hvis du kigger på hele menneskehedens overlevelse. Det var måske, at de der AI'er bare skød sig selv og sagde, det kan jeg ikke, det vil jeg ikke. Men sådan hænger det jo ikke sammen. Så vi opstiller jo rationalet for AI'en i den session, vi arbejder med AI'en i, og det fungerer jo fuldstændig ligesom med os selv. Altså, vi sætter os for at male plankeværk. Det er super rationelt, det skal jo males. Men man spørger sig selv, hvorfor skal det males? Er det plankeværk egentlig så vigtigt? Eller kunne jeg bruge min tid bedre? Og skal jeg overhovedet bruge det her maling? Det er også giftigt for naturen. Og så videre og så videre. Så rationalitet forsvinder jo ned i, altså der er jo skildpadder hele vejen ned, ikke? Det forsvinder jo ned i, hvad er egentlig rationalet for det her? Og nu har vi jo simpelthen namedroppede hele vejen, og så kan vi lige så godt smide franskmænden på banen og sige, jamen hvis vi kigger dybt nok, er der så overhovedet noget rationale her? Hvad er rationalitet? Er det eneste rationale? Ikke som Camus, og så siger man, ja, vi kan lige så godt skyde os en kugle for panden, fordi vi finder jo aldrig rationalet for det her.

[Thomas Blomseth: 00:54:30]
Interessant drejning der, men også... Hvorfor ikke? God eksistentialist på den. Ja, men det der sker der, det er jo også en idé om, at man kan finde den ultimative rationalitet bag noget. Og Simon giver noget andet gennem det, der ligger i begrebet om satisficing. Det siger noget andet, nemlig: med plankeværket, jamen du er i en konkret situation, konkret miljø. Du har en historik, der er nogle path dependency gennem dit liv og sådan noget. Du står ved det her plankeværk. Du har et aspirationsniveau med plankeværket. Du kan godt lide plankeværk, der ser nogenlunde pæne ud og sådan noget. du har købt noget maling, som er godkendt ifølge den gældende lovgivning. Og derfor tror du på, at i virkeligheden så har producenten overholdt den miljølovgivning osv., der skal til for, at man må markedsføre det på det danske marked, og der er nogen, der har tjekket det og lavet nogle stikprøver. Du siger, det er de boundaries —

[Klaus Silberbauer: 00:55:18]
jeg accepterer.

[Thomas Blomseth: 00:55:19]
Ja, det er sgu godt nok. Den der maling, den er god nok. Jeg kan godt lide plankeværk. Det er godt, at jeg kan bruge mit liv på noget andet, at jeg skulle have lavet noget andet i stedet for nu, men nu må jeg altså male det plankeværk. Og det er jo nok det, det er jo den boundede proces, det er det, vi lever i. Altså det procedurale, det er, at vi er i en verden, hvor der ting sker, vi skal reagere på tingene, som satisficer i forhold til at få tingene til at fungere på bedste beskub, som er et voldsomt trælst begreb. Men det er jo nærmest det, vi ender med.

[Klaus Silberbauer: 00:55:50]
Ja, og der hvor vi ikke får boundaries sat udefra, fordi lovgivning er jo helt klart, altså den boundary griber direkte ind i økonomien, for at sige, her til ikke længere. Og den sammenfatter, altså, ja, vi skulle snakke om jura i en episode, fordi det er også et fantastisk felt, men den sammenfatter jo en hel masse komplekser af ting, hvor man mener, at der overordnet, planøkonomisk, er noget, der er skidt, socialt eller samfundsøkonomisk er noget, der er skidt, og prøver at styre vores samfund ind der. Så det er jo en måde at bounde rationaliteten, og de fleste accepterer, at loven er en ret hård boundary, det er en ret hård grænse. Men der hvor loven ikke dækker, og der hvor de økonomiske håndgribelige effekter ikke dækker, det er jo der hvor vores livsfilosofi kommer i spil. Det er jo der hvor man siger, jamen, ja, jeg kunne bruge mit liv på meget, og jeg kunne også gå rent Friedman og optimere på benhård økonomiske parametre. Men jeg vil gerne leve mit liv på en bestemt måde. Jeg har noget udefinerbart med bagagen på, hvad jeg synes det gode liv er. Og det handler også om ikke at optimere på målbare ting hele tiden, men også sidde med en kop kaffe og kigge ud på naturen og fintænke. Og det er jo også en måde at bounde sin rationalitet på. Jeg tror måske, det er en måde, som vi bruger rigtig meget. Altså, det er svært at sætte ord på, hvorfor vi lever som vi gør. Hvorfor der er ting, vi ikke gør, selvom andre vil finde dem rationelle. Jeg er sikker på, at Elon vil synes, at det ville være mere rationelt, hvis jeg startede et raketforetagende. Jeg tænker, det er måske ikke prisen værd set fra mit liv. Altså, jeg vil hellere sidde med en kop kaffe. Og det er sådan set bare en meget indviklet måde at sige, at jeg synes jo, at det er Simon, der virkelig har fat i den lange ende her, fordi du kan ikke tage den del af psykologien væk fra vores rationalitetsbegreb, og du kan ikke tage det ud af økonomien derfor. Altså, menneskeøkonomi vil altid være bundet af, hvad folk synes er rationelt at gøre.

[Thomas Blomseth: 00:57:55]
Vi står også med det spørgsmål, som er, hvornår skal vi stoppe med at røre i den her grød? Og jeg synes egentlig, vi har fået dækket det her emne, på både tilfredsstillende og tilstrækkelig vis.

[Klaus Silberbauer: 00:58:11]
Du har lyttet til Silberbauer & Blomseth, en uafhængig og usponsoreret podcast om teknologi, systemer, erkendelse og om de mønstre, der driver vores virkelighed. Følg os på Bluesky, hvor vi poster opfølgende materiale for hver episode og altid er klar på en dialog, kommentar, idéer og kritik. Vores handle er @silberblom.dk. Og ikke mindst, hvis du kan lide, hvad du hører, så anbefale os til venner, familie og kolleger og smid gerne stjerner efter os på Apple Podcasts. Vi higer jo alle efter anerkendelse i en eller anden form. Tak for, at du lytter med.