Klaus Silberbauer: 0:00

Hej Thomas.

Thomas Blomseth: 0:07

Hej Klaus. Jeg sidder med en tom skærm nærmest og et åbent sind.

Klaus Silberbauer: 0:14

Okay, det kan godt være en tom skærm. Så skal vi hælde noget ind i den. Nej, men vi har jo, altså jeg tror i 126 afsnit, der har jeg efter hvert afsnit sagt, at det her er en podcast om erkendelse, blandt andet. Så nu tænker jeg, at nu skal vi i saftsuset, som vi taler om erkendelse.

Thomas Blomseth: 0:32

Okay, så det var ikke nok med metafysik til husbehov sidst.

Klaus Silberbauer: 0:35

Nej, jeg synes, vi skruer op. Vi skruer op. Jeg er gået så langt, at jeg vil starte med at citere Hegel.

Thomas Blomseth: 0:41

Wow.

Klaus Silberbauer: 0:42

"Das nackte Resultat ist der Leichnam", sagde han. Det er et hint om, hvor vi skal hen ad. Et nøgent resultat er et lig.

Thomas Blomseth: 0:58

Det er jo mørkt, må man sige.

Klaus Silberbauer: 1:00

Ja, men det var Hegel jo også.

Thomas Blomseth: 1:02

Ja, og nu er vi gået ind i vintertiden, så det passer meget godt.

Klaus Silberbauer: 1:06

Ja. Nej, men vi skal tage fat i en... Vi har faktisk lige rørt ved den her debat for ganske kort tid siden, men jeg tænker, der er rigeligt i den til, at vi kan få den ud til en hel episode. Der er jo sket det, at de her såkaldte sprogmodeller, de er blevet forbandet gode til at regne. Eller i hvert fald bedrive matematik. Og det har jo taget det matematiske samfund på sengen i en grad, så der var historier her i de forgangne uger om en matematiker, der simpelthen havde kastet op, da han fik at vide, at det seneste store problem var løst af OpenAI-modeller. Det har været et chok, og DR tog også debatten op i Genstart, hvor, hvad hedder hun, Anna Ingrich havde en matematiker, der hedder Nikolaj Thams, i studiet, et utrolig sympatisk menneske, som heldigvis snakkede relativt nuanceret omkring den her udfordring, som matematikerne står overfor. Hvor de kan se, at det, de er gode til og har brugt livsværker på, det er der måske i deres øjne en forvokset regnemaskine, der så bare overtager. Der er så meget at folde ud her, og jeg er spændt på, hvor vi tager det hen, men der er helt klart noget omkring erkendelse. Og det er der, Hegels citat kommer ind. Hegel sagde jo, at et resultat, bare et outcome, det er bare et lig. Det er ikke det, det handler om. Det er processen med at komme derhen. Det er der, erkendelsen ligger. Og det er der faktisk mange filosoffer, der har udtalt sig om igennem tiden. Det kan vi jo vende tilbage til, hvis vi vil. Men jeg vil godt lige skyde den over til dig og sige, hvad ligger dig på sinde, når jeg åbner for den der?

Thomas Blomseth: 3:02

Først en metakommentar, det passer jo til det der emne, og det er, at jeg tror, jeg skal begynde at spille på de her prediction markets om, hvad emnet bliver. Fordi hvis jeg skulle have spillet på, hvad jeg troede, du ville vælge, så var det det her.

Klaus Silberbauer: 3:13

Er det rigtigt?

Thomas Blomseth: 3:14

Ja, så det kunne ikke være bedre.

Klaus Silberbauer: 3:15

Nej, hvor godt. Det er ikke, fordi ugen ikke har budt på ting, man kunne tale om. Altså lige fra fredsforhandlinger, var det paven, var det Melania, hvad sker der rundt omkring i verden? Men igen, det kommer der ikke noget godt ud af at tale om. Her synes jeg, at vi kan gå dybere og alligevel måske få blodtrykket en smule op.

Thomas Blomseth: 3:34

Ja, det lader i hvert fald til, at der er nogen, der har fået det op, selv blandt de her ellers meget rolige matematikere. Og så skal jeg også sige, at selvom jeg troede, at det er jo det her emne, som du vil tage fat i, så har jeg faktisk undladt at kigge for meget på de klip, der har været med de her matematikere. Måske også nærmest undgået lidt at læse omkring det. Så jeg tænkte, at du får lov til at lægge den op med fakta og hvad der er blevet sagt og sådan noget. Og så kan jeg få lov til bare at reflektere over den. Fordi du ved godt, og det har vi jo skrevet om på vores Slack, altså jeg har måske sådan en lidt hård tilgang til det i forhold til det her med matematikerne. Jeg har ikke så ondt af dem. Så det kan være, at jeg kan få lov til at spille den lidt mere onde rolle i dag.

Klaus Silberbauer: 4:15

Det er det, jeg håbede, at vi måske kunne vende. Du må gerne rante, hvis du vil det. Jamen altså fakta, der er meget fakta. Der er udtalelser på kryds og tværs. Og ingen grund til at citere en hel masse matematikere. Jeg synes faktisk, at Thams, han var sgu meget nuanceret. Han nåede frem til konklusionen, at han skal revurdere sit fag. Han skal rekvalificere, hvad det er, han arbejder med. Og så er der jo eksempler med folk, der er blevet decideret fysisk syge. Og der er en sjov... Midt i alt det her, eller da de første store resultater kom ud, så ansatte OpenAIs sikkerhedsteam jo en af de helt store matematikere, der hedder Jacob Tsimerman, eller Zimmermann, jeg ved ikke, hvordan det udtales, i sikkerhedsteamet, for at have en matematiker på den side. Og han er ikke... Altså han er skeptisk over for LLM'er i det her felt. Så det er jo måske meget godt. Så der sker altså nogle ting derude. Men det, jeg synes er mest interessant, det er jo... Er det et problem? Altså der synes jeg, vi skal starte. Er det et problem, at vi nu meget simplificeret kan få svaret på de her matematiske problemer serveret for os? Det er problemer, som man har arbejdet med ikke i årtier, men i århundreder i nogle tilfælde, som generationer af matematikere har studeret og har leveret videre til næste generation. Så man har prøvet at løse et problem og er død, før man kunne løse det. Nogle problemer er meget abstrakte, måske ikke nemme at applicere på noget specifikt, men nogle kunne tænkes, og jeg er i parentes bemærket på ingen måde matematisk begavet, nogle af de her problemer og løsninger på dem kan måske appliceres på teknologi. Men det, der er blevet sagt, blandt andet, det er, at fint nok, vi har fået serveret et svar, men vi forstår det ikke. Altså svaret er lige så komplekst som problemet, og frem for alt, indtil mennesker har været igennem processen med at erkende naturen af det her problem. Og så er der matematikere, der vil sige, så er det ikke meget værd. Hvis ikke man har været igennem erkendelsen og den friktion, det er at sidde måneder, år, årtier og bakse med det her, så er det sådan set bare tomt. Så er det, som Hegel ville sige, et lig. Er du enig i det, Thomas?

Thomas Blomseth: 7:04

Det er sådan, at jeg prøver at undgå at svare med ja eller nej. Så bliver det en meget kort episode.

Klaus Silberbauer: 7:10

Nej, tak for i dag.

Thomas Blomseth: 7:13

Det er sjovt, for jeg tænkte faktisk i brusebadet i morges på aspekter af netop det her omkring, hvad er medegjernet. Så det er virkelig sjovt, at der har været noget synkronicitet på spil mellem os, tror jeg. Men hvis vi prøver at sætte sådan et spektrum op af nogle aspekter, så er der noget fra det helt tekniske til det, man kan kalde den politiske økonomi i matematik. Altså, hvem får ressourcer, hvorfor får de ressourcer, hvem har magt og alt sådan noget. Og det lader til, at der er nærmest en hel masse ting, der er blevet blandet sammen der, også fra matematikernes side. Men hvis vi nu starter i den tekniske ende af det, så kan vi arbejde os hen imod politisk økonomi og erkendelser og sådan noget, og jeg vil tilpasse mig også, hvad du har tænkt. Men i forhold til for eksempel det der med, at der kommer resultater, som vi ikke kan forstå, det har jeg tænkt lidt over i softwareudviklingstermer også. Det, som både OpenAI og Infrabrick har leveret her, det er jo nogle eksistensbeviser på, at der er nogle veje igennem det her formelle system, de her formelle landskaber, på at man kan komme fra nogle antagelser, matematiske formelle antagelser, til at man faktisk kan bevise dem. Og noget af det, vi jo kender fra softwareudvikling, det er, at vi laver det, man kalder refactoring, at man har et system, det er blevet noget rodet, det er noget overkomplekst. Der er en af de store dataloger, Fred Brooks, han taler om accidental complexity og essential complexity i et system. Altså, hvor essential complexity, det er den kompleksitet, der skal til, for at man faktisk kan adressere det her domæne, og man faktisk kan bygge systemet. Og så accidental complexity, det er alt det der andet rod, vi kommer til at lave rundt omkring det, bare for at kunne bygge selve systemet. Og sådan som jeg ser det, der sker med de her matematiske resultater, det er egentlig, at der bliver lavet nogle eksistensbeviser med temmelig meget accidental complexity, fordi de her agentiske modeller, de arbejder sig igennem det her landskab, og så finder de en vej, men det er sådan en rodet vej. Og der, hvor jeg så kunne se en rolle for mennesker, det er jo at prøve at tænke igennem, hvordan kan vi prøve at uddrage noget mere essentielt i det, vi nu har fået et eksistensbevis for. Og så vil man sige, med de komponenter, som LLM'en har skabt for os, kan vi så prøve at omorganisere dem på en måde, så vi når på en mere, måske lige, mere elegant og måske potentielt også brugbar måde, i forhold til andre resultater eller andre udestående problemer, fra de her matematiske antagelser til beviset. Og det vil jo så gøre, at noget af det menneskelige arbejde, det rykker sig op på et andet abstraktionsniveau, og det har virkelig undret mig i forhold til det, man hører fra nogle matematikere, at de ikke har kunnet se det, at de skal simpelthen op og arbejde på et andet abstraktionsniveau. Nu har I fået de her maskiner, som kan lave det her brute force-arbejde nærmest fra A til B, altså fra antagelserne til beviserne. Og så er jeres arbejde at arbejde på et andet niveau, hvor man gør det mere elegant, man gør det mere tight, man gør det mere til nogle komponenter, som måske kan bruges i andre sammenhænge. Og jeg ved ikke, om du har set nogle af dem formulere det, men det er sådan, jeg tænker, at det er deres potentiale, det er der, de skal hen, det er der, det matematiske arbejde kommer til at være, og det er jo ikke mindre komplekst overhovedet, altså det bliver endnu vildere, hvad man skal arbejde med som matematiker.

Klaus Silberbauer: 10:50

Det lyder som niveautænkning.

Thomas Blomseth: 10:52

Det kunne det godt være.

Klaus Silberbauer: 10:53

Det var der nogen, der talte om i en podcast her for nylig.

Thomas Blomseth: 10:55

Det kan godt være, at der netop er et nyt emergent niveau inden for matematik, hvor man kan arbejde, som det her, og så er min kæphest i arenaen igen. Og det er jo det med at tænke det mere som, i stedet for agenter, der tager arbejde fra jer, så tænk det som et nyt medie, I har fået stillet til rådighed. Og der kan man sige, sådan rent pragmatisk også, i forhold til hvor mange matematikere vi har i verden, Der er temmelig få, men nogle af de matematiske resultater kan bruges til temmelig meget, for eksempel talteori, der bliver brugt til public-private key-kryptering og sådan noget, som har kæmpe økonomisk værdi. Men man kan sige, der er for få matematikere i virkeligheden til, hvor mange store udestående matematiske problemer der er, som vi kender, og så er der alle dem, vi ikke kender endnu. Men for eksempel det, OpenAI lavede i august med en endnu ikke udgivet eller offentligt tilgængelig model, hvor de efter sigende satte 10.000 agenter, eller i hvert fald noget i den stil, i gang med at arbejde med Navier-Stokes-problemet. Der vil jo aldrig nogensinde blive allokeret 10.000 ph.d.-forløb på det problem inden for så kort tid. Og noget andet, det er jo, at mange af de her agenter, de kørte jo op imod en mur og fandt ud af, hvad der ikke kunne lade sig gøre. Det er meget, meget svært for mennesker at motivere sig til at bruge flere år af deres liv på noget, som så ikke bliver til noget. Hvor det, der kunne ske, det de gjorde der, det var måske forskellige idéer, som har ligget rundt omkring, som man ikke har afprøvet, fordi hvor stor er chancen for, at der kommer noget ud af det? Det kan man bare sætte agenter til at afprøve, og så kan man finde ud af, om der er en farbar vej eller ej. Noget, som, ja, som sagt, vi aldrig vil kunne få mennesker til at gøre, fordi det ser for udsigtsløst ud.

Klaus Silberbauer: 12:47

Jeg prøvede at forstå Navier-Stokes, og hvad det egentlig var, man havde løst. Jeg gav op. Det er matematik på et plan, hvor jeg, selv med Claudes hjælp, ikke havde en chance. Men det, jeg kan forstå på de problemer, eller min fornemmelse er, at de her problemer, man er begyndt i høj grad at modbevise, men sikkert også bevise i nogle tilfælde, de har vel det tilfælles, at det, det kræver, er en blanding af brute force. Altså ikke forstået som, at det er rent number crunching, fordi det er det ikke. Det er ikke bare at afsøge et mulighedsrum. Det kunne en kvantecomputer gøre, men det er en LLM måske ikke så god til. Men det er kombinationen af det, men så også at læse op på alle de, som du siger, andre forsøg, finde kilder derude, forstå dem og applicere det. Altså en form for, lad os kalde det ræsonnement, i hvilken retning man prøver at søge en løsning, og så applicere benhård matematik. Så det ligger i sådan et, altså det er virkelig bare på mavefornemmelsen, det her, det ligger i et spænd mellem number crunching og logisk tænkning og research, altså god gammeldags research. Og det er jo et rum, som nok har været forbeholdt mennesker indtil videre, fordi selvfølgelig kunne man applicere computere på tal-delen, number crunching-delen, og det har matematikere gjort længe. Altså, der er jo ikke nogen, der får point for at sidde og multiplicere tisifrede tal længere. Det er jo ikke en del af research-delen. Det har du maskiner til. Så vi er vel allerede på et andet abstraktionslag, end Pythagoras var.

Thomas Blomseth: 14:24

Ja, altså man kan sige, måske er det her bare et nyt abstraktionslag i forhold til algebra eller sådan noget. Altså, først regnede vi med egentlige tal, så fandt vi ud af, at man kunne repræsentere tallene ved nogle andre symboler, og så kunne man arbejde mere abstrakt på det. Og det er jo det, man kunne kalde algebra, og det kan man også kalde et nyt slags medie oven på den matematik, der var i forvejen. Og LLM'erne giver så yderligere det her niveau, og som du siger i forhold til det med beregninger, det er jo der, hvor vi nok først så det inden for software, men så rammer det andre steder. Det med agenterne, det der er sket inden for det sidste års tid, det er, at de er så gode til at skrive brug og smid væk-software, kan man kalde det. Og det bruger de jo også, altså de der 10.000 agenter, som OpenAI havde i gang i forhold til Navier-Stokes, der er blevet skrevet millioner af linjer kode meget, meget hurtigt, som formentlig også bare er blevet smidt væk, som bare er blevet skrevet for lige at få afprøvet en enkelt ting, og så videre til det næste. Bare tænk på, hvor mange menneskelige softwareudviklingsteams der ville have været brug for, hvis det var noget af det, der var nødvendigt som en del af den matematiske proces for at komme videre.

Klaus Silberbauer: 15:41

Men det er jo maskinens ækvivalent til vores billede af den gamle matematiker, der står foran en klassisk tavle og skriver med kridt, og hele tiden som arbejdsredskab fylder tavlen ud for at finde frem til det næste og prøve nogle ting af, bare i et tempo, som er så astronomisk meget højere. Men når det så er sagt, er der ikke et eller andet i det her med, at erkendelse, som vi jo grundlæggende set nok synes er en god ting, ikke kommer ved at kigge på resultatet, men at erkendelsen kommer ved at arbejde sig frem mod resultatet? Det er der, vi lærer som mennesker. Det er jo ikke en ny diskussion. Platon skrev, sjovt nok, meget om og diskuterede med sig selv, via en rammefortælling i en rammefortælling, om nogle gamle myter, om skriftsproget var et problem. Fordi skriftsproget holdt jo viden fast og serverede den for kommende generationer, i stedet for at man skulle huske den. Altså lære ting og huske det og kunne gengive det. Hvad hedder det, han skrev en dialog mellem Sokrates og Faidros, som så handlede om, at de gamle talte om, at dengang skriftsproget blev opfundet, efter sigende i Egypten, der havde man en snak om, hvorvidt det overhovedet var en god idé. Platon tager ikke selv stilling til det, men hælder nok til, at skrift i sig selv ikke bare er godt. Han kalder det et pharmakon. Og det betyder både medicin og gift på græsk, så der er sådan en herlig dialektik der. Men er det så lidt en gift for erkendelsen, det her? Det er fint, vi kan nå frem til resultater, de kan sikkert appliceres på et eller andet. Men hvor er erkendelsen i det?

Thomas Blomseth: 17:37

Altså, hvis jeg lige skal kommentere på det der, så var det vel Derrida, der kom til at kommentere og især repræsentere den der kritik af skriftsproget. Altså, selvfølgelig sker der reduktioner. Der er en reduktivitet i skriftsproget, men vi må også erkende, at det jo har muliggjort den civilisation, vi har nu. Så på den måde er skriftsproget jo også en teknologi, ligesåvel som LLM'er er en teknologi, der er bygget oven på skriftsproget. Og teknologier, de muliggør ting, og så samtidig er der nogle ting, der nok visner væk, og som vi ikke får gjort så meget med. Og der kan jo så også være hele den dekonstruktivistiske kritik af logocentrismen i den vestlige tænkning, altså skriftsproget osv., men der er jo ingen tvivl om, at det har muliggjort en masse ting. Hvis vi bare havde rendt rundt og talt sammen, så var der ikke blevet overleveret viden mellem generationer over hundreder af år og så videre, som jo har givet os noget. Og jeg vil sige, det er nok det samme her, ikke? Altså, det er så at finde ud af, hvor flytter erkendelsesarbejdet hen? Hvis ikke det er at lave det, som du sagde, med en matematiker, der står og skriver med kridt på en tavle, der er jo faktisk meget mekaniske operationer i det. Og hvis det mere mekaniske arbejde forsvinder, hvor er så erkendelsesarbejdet? Og det, der kunne tyde på en tese her omkring, det er, at det, LLM'erne muliggør, det er jo, at det handler mere om at sætte ingredienserne op på bordet, gøre klar til, at du så sætter dine agenter i gang med at arbejde på problemet. Altså, det er mere at forme, hvad er det for nogle ting, der bliver kigget på? Hvilke retninger kigger vi i? Og det er også derfor, at det er nærmest som om, og jeg ved, at det er en for hård måde at sige det på, men det er som om, at man virkelig nærmest synes, at der er en endelig mængde matematiske problemer, og at vi kender de store problemer allerede. Altså, det, jeg tænker, det er jo, at ved at begynde at arbejde på det her nye abstraktionsniveau, så finder vi ud af, at der er typer eller klasser af matematiske problemer, som vi overhovedet ikke vidste fandtes før, som vi ikke kunne udtrykke med de medier og den tilgang, som vi havde før. Og det er der, jeg ser potentialet. Og så kan det godt være, at vi bliver mindre gode til sådan noget mere grundlæggende algebraisk tænkning eller et eller andet. Men vi kommer videre.

Klaus Silberbauer: 20:18

Men der er jo også nogle af de her... Jeg er ikke uenig med dig, det ved du også godt, men der er jo også nogle af de problemer, der udspringer af en form for kreativitet, eller en ren kreativitet. Hvis man som matematiker har arbejdet i årevis dybt, dybt nede i materien på nogle problemer, så mens man bevæger sig hen mod det, der måske er en løsning eller en mur, så er der en turbulens af spin-offs, af spændende idéer, der dukker op, som jeg jo bilder mig ind, at måske kun en menneskelig hjerne kan, og som ikke nødvendigvis udspringer af en LLM, der går målrettet efter at løse et problem. Og lad os så sige, at vi får færre og færre mennesker, der har tiden. Og som du sagde, vi kommer tilbage til det politiske og økonomiske i det her, men hvorfor betale dem for at gå og tænke, hvis vi kan få de svar, vi vil have, i automaten? Og vil vi så ikke gå glip af nogle spin-offs, altså noget interessant turbulens, nogle gode idéer, der bare dukker op?

Thomas Blomseth: 21:21

Jeg vil vende tilbage til et argument fra før. Jeg tror, at der faktisk kunne komme endnu mere spændende spin-offs ud af det. Altså, de tænker det simpelthen for begrænset. Altså, at de ligesom låser sig fast på det abstraktionsniveau og den måde, de har været vant til at arbejde på indtil videre. Og at der i den proces med at prøve at forme tingene på et højere abstraktionsniveau, der vil du se nye muligheder, nye problemer, der skal arbejdes med. Og altså, det har vi jo selv set de senere år, hvor du og jeg har taget LLM'erne i brug i vores arbejde. Altså, det er jo ikke, fordi der kommer færre problemer eller færre idéer ud af at arbejde på det niveau. Men de har en anden karakter, og der er også andre måder at gå til dem på. Og det er der, hvis jeg skulle give matematikerne en peptalk, det er det der med, altså, I skal ud af jeres kokon. Og det føles mærkeligt, og det er måske også at træde ud i noget dybere vand. Men det er derude, det er spændende. Det nytter ikke at afvise det her. Med de resultater, der er kommet nu, er det simpelthen umuligt for dem at blive ved med at arbejde på den måde, som de har været vant til. Det er ligesom det, der er sket inden for softwareudviklingen inden for det seneste års tid. Der er ligesom nogle ting, hvor der er ingen vej tilbage. Det er at prøve at omfavne de nye muligheder og så tage den derfra.

Klaus Silberbauer: 22:49

Jeg kan godt forstå chokket. Jeg kan godt forstå, hvis man... Det kan jeg sådan set også for softwareudviklere, men jeg synes måske, at det er... Jeg opfatter det som lidt nemmere for softwareudviklere at forstå, at det her er en compiler på et helt andet abstraktionslag end det, vi er vant til. I parentes bemærket, så du den her mail, som Linus, altså ham med Linux...

Thomas Blomseth: 23:11

Torvalds.

Klaus Silberbauer: 23:12

Torvalds, ja, Linus Torvalds har sendt til en medarbejder, der syntes, der skulle laves regler for, hvordan man har brugt AI i kodearbejdet. Han fik da godt nok en sviner. Det ville han ikke finde sig i. Så har han ikke fattet en skid. Fordi så sagde han, okay, det er i orden, så er der også regler for dig, min ven. Så arbejder du direkte med maskinkode fra nu af. Jeg vil ikke se en compiler, jeg vil ikke se en assembler, fordi ellers så forstår du jo ikke, hvad det er, du sidder og laver. Kan du ikke se, hvor dumt argumentet er, skriver han. Men altså, han rammer jo lidt hovedet på sømmet her. Jeg kan så godt forstå, når vi snakker om matematik på forskningsplan, jamen så er det jo et arbejde, hvor vi har ansat mennesker til at bruge det meste af deres liv, sandsynligvis, hvis man skal sætte det lidt hårdt op, på at gå og gruble. Sidde og nusse med nogle problemer, som måske eller måske ikke kan løses. Dykke ned i det, dykke ned i sig selv måske også, ikke? Og virkelig internalisere det. Det tror jeg, man vil gøre som forsker. Altså, det er en form for teoretisk forskning, ikke? Altså, man skal leve det. Og lige pludselig siger man, det har jeg ikke brug for længere. Eller i hvert fald, du skal arbejde på en helt, helt anden måde. Og det, du har brugt så lang tid på, det er løst. Det kan du godt glemme. Jeg kan godt forstå chokket, det må jeg sige. Man kan så også sige, har et samfund brug for at betale den her flok mennesker nu, når vi har fundet en anden vej? Ironisk nok en anden vej, som bygger på noget af deres arbejde, kunne jeg forestille mig.

Thomas Blomseth: 24:57

Ja, altså, der er jo i den grad matematik i den måde, man laver LLM'er på. Jeg har jo set de der bekymrede argumenter om, hvordan matematik som fag har fået overbevist om, at for at få de her udkomme for samfundet, så bliver vi nødt til at arbejde på den her måde, som vi er gode til. Og der er jo argumenter og bekymringer omkring, hvordan får man yngre generationer? Altså, det her med, at der er en overlevering i faget.

Klaus Silberbauer: 25:28

Det var min næste note, ikke? Altså, hvad skal de lære?

Thomas Blomseth: 25:32

Ja, men stadigvæk, de må simpelthen komme op og arbejde på det andet abstraktionsniveau. Det er der, de yngre generationer skal lære at arbejde, ikke? Altså, der var matematiklærere i, jeg tror, det var Massachusetts i 70'erne, de demonstrerede, altså med skilte, og gik rundt udenfor mod lommeregneren, ikke?

Klaus Silberbauer: 25:51

Er det rigtigt?

Thomas Blomseth: 25:52

Ja, det findes der billeder af.

Klaus Silberbauer: 25:55

Det fandt jeg ikke i min research.

Thomas Blomseth: 25:57

Nej, men det har jo fandtes, den der ting, altså, og der er selvfølgelig det med ludditter, hvis vi skal bruge det mere generelle begreb for det, ikke? Men det er der, jeg ser, at fremtiden for faget ligger, ikke? Altså, så kan man måske være mere bekymret for, om forskere ansat på universiteter som matematikere har adgang til den teknologi, der gør, at de kan gøre de store fremskridt. Altså, fordi tokens er jo ikke gratis, og adgang til frontiermodellerne, den er jo også begrænset til nogle få tusind mennesker i verden, der arbejder på nogle labs, ikke? Så der kunne være noget med access, som kunne være et problem for faget. Fordi det er jo så faren ved teknologi også, det er, at man bliver så afhængig af en ting, altså, hvor hvis du først har lært at arbejde på nye abstraktionsniveauer i forhold til matematik, og hvis de her hjælpemidler så bliver taget fra dig, så føles det jo nærmest, som om det ikke gav mening overhovedet at arbejde. Altså, hvis du er vant til, at hver gang du får en idé, så kan du sætte, altså i dag titusindvis af agenter på problemet, altså i fremtiden kan du forestille dig hundredtusinder eller millioner af agenter, altså, det er jo endda måske lavt sat, eller et helt andet, altså, hvor det ikke engang giver mening at tale om enkelte agenter, der kører, men det er mere sådan et kæmpe substrat, du sætter i gang. Men så bliver problemet jo, altså, hvis du fjerner den der måde at arbejde på, så giver det jo nærmest ikke mening at sidde og skrible løs på et stykke papir, fordi den leverage, du har ved at arbejde med det her nye substrat, er så stor, at det der med at sidde dag for dag og skrible på papir, det virker jo, som om, altså, du sidder i quicksand, ikke? Og det har vi jo set, altså, det har jeg jo selv også kunnet mærke med software, der er ingen vej tilbage, altså, det med selv at skulle sidde og skrive kode, det virker jo, som om man kravler afsted, mens man ved, at man kan køre afsted med 130 på motorvejen.

Klaus Silberbauer: 28:01

Og det er jo spændende, Kan vi sammenligne det at skrive kode med at få den dybe, dybe forståelse af de matematiske strukturer i vores univers? Fordi vi er jo meget enige, når det handler om kode, altså, det er måske også, fordi du er bedre til at skrive kode, end jeg er, men jeg kan jo lave ting nu, som jeg aldrig kunne før, fordi det at skrive kode for mig var en kæmpe friktion, altså, jeg gav jo bare op, ikke? Og nu har jeg jo programmeret sjove ting og redskaber, jeg bruger i det daglige. Og jeg kan knap nok huske, hvilket sprog det er skrevet i, hvilken syntaks jeg bruger, men det er måske også lige meget. Ej, det er vigtigt lige at huske, om det er PHP for tiden, men det er da sejt.

Thomas Blomseth: 28:42

Det er sikkerhedsmæssigt relevant.

Klaus Silberbauer: 28:45

Ja, præcis. Men, men igen, er det det samme her, ikke? Altså, eller er vi et andet sted, hvor det er vigtigt, at vi har nogen gående rundt, der forstår de dybere strukturer? At det er mennesker, der erkender det her, at det ikke er en maskine, der i citationstegn erkender det her, hvis en maskine overhovedet kan erkende noget? Lad os spørge helt åbent, for jeg ved det ikke, jeg har bare en fornemmelse af, at der er noget andet på spil her end blot det at drøne kode ud.

Thomas Blomseth: 29:16

Ja, lige en teknisk pointe, folk mener sådan set, at en grund til, at matematik bliver ramt nærmest som det andet, det er jo, at det er det, man kalder et verificerbart domæne, ikke?

Klaus Silberbauer: 29:28

Jo.

Thomas Blomseth: 29:28

Og måske i endnu højere grad end kode, som handler om nogle systemer, der skal eksekveres, og der er nogle specifikationer og idéer om, hvad de skal kunne. Med matematik kan man jo simpelthen følge kæden fra beviset og så tilbage til antagelserne.

Klaus Silberbauer: 29:43

Kode kan være god eller dårlig. Virker den, så virker den i en eller anden udstrækning, den kan være sikker eller usikker, den kan være langsom eller hurtig. Du kan ikke tage kode og lave en Lean-test, men du kan tage et matematisk bevis —

Thomas Blomseth: 29:53

Det kan du faktisk godt.

Klaus Silberbauer: 29:54

Det kan du? Okay.

Thomas Blomseth: 29:56

Så er du klogere. Det er faktisk noget, jeg er i gang med at kigge på, altså at begynde at bruge de mere formelle metoder, for det har man gerne villet med software i mange år, hvor du simpelthen udtrykker i hvert fald dele af systemet i en mere formel specifikation, hvor du, altså Lean er faktisk et programmeringssprog, du kan i virkeligheden implementere systemer i. Altså hvis Lean fik, og det ved jeg ikke, om nogen har lavet, hvis den fik for eksempel databasedrivere og sådan noget adgang, så kunne du egentlig bygge websystemer i Lean, hvis du ville.

Klaus Silberbauer: 30:24

Okay, så er jeg klogere, så er jeg oplyst. Men jeg håber, du forstår, hvad jeg mener. Hvis man løser, lad os sige, Navier-Stokes-problemet ved at modbevise det i det her tilfælde, så er det ligesom et tjekmærke. Altså, det er sandt, det kan bevises, det her er sandt, og så er der måske, som du siger, en ting mindre at forstå ved det store univers. Vi burde jo alle sammen gerne skynde os hen til svarene. Det ville jo være fornuftigt for hele menneskeheden at skynde sig hen til at få så meget viden inden for en generation, som vi overhovedet kan, fordi noget af det kan vi applicere, så vi alle sammen kan få det bedre, lad os lige sige det på den måde. Men det virker lidt, som om nogle matematikere måske ikke har så travlt med at komme derhen. Altså, det er ikke så meget det at sige "wow, jeg har løst den her", selvom du kan få en Fields-medalje, og du kan få alt muligt. Men det er en proces, der åbenbart er rar at være i, eller noget. Altså, modsat det at skrive software, hvor man sikkert gerne vil komme i mål og komme videre, så er det måske ikke det der med at finde en løsning, der trækker i faget.

Thomas Blomseth: 31:39

Der er to ting her, som jeg faktisk ikke har tænkt på i den her sammenhæng med matematik. Altså, vi havde en episode tidligere i år, tror jeg, eller sidste år, der handlede om, hvordan LLM'er muliggjorde en mere subtraktiv tilgang til for eksempel noget, som producerer tekst, i forhold til at det har været additivt hidtil, hvor man skulle skrive hvert eneste bogstav, som så blev til ord. Men nu kan man ud fra nogle ret ordentlige instruktioner få LLM'er til at generere et udkast, og så kan man ligesom stenhuggeren begynde at fjerne det, der ikke skal være der, og ændre på det. Og det kan jo faktisk godt være, at det er sådan, matematik ændrer sig også. At matematik går fra et additivt fag, hvor der er nogle folk, der går og tænker og prøver at finde det næste skridt fra antagelserne, de her matematiske antagelser, videre mod beviset, og så går du videre og finder de næste skridt. Men det, LLM'er gør, det er den subtraktive tilgang. Du får nærmest brute force gennem det her medie vejen fra antagelserne til beviset, og så kan du som matematiker begynde på den der subtraktive proces, som jeg også skitserede før. Så begynder du at refaktorere det, og i den proces er det, at erkendelserne også opstår, hvor du siger, Okay, Navier-Stokes, nu har vi det her resultat. Hvorfor tager den her vej fra antagelserne til resultatet lige den her drejning her? Hvad er det, der —

Klaus Silberbauer: 33:10

Er der en mere elegant måde? Er der en stor klump, der er blevet spyttet ud af LLM'en, hvor der er en meget mere elegant måde, den umiddelbart peger på? Altså nu siger nogen her, at de løsninger, der så kommer, er nærmest umulige at forstå for mennesker. Der ligger selvfølgelig et stykke erkendelsesarbejde i at sige, okay, testen viser, at det her er svaret på en eller anden måde, men hvordan er det det? Og er det et hyperkomplekst svar, som kan gøres meget, meget simplere? Så der er jo noget at tage fat i, selvfølgelig.

Thomas Blomseth: 33:41

Ja, og så den anden ting, det er noget, jeg tænkte på i forhold til kvantecomputere, som jeg mener, Feynman tog fat i allerede dengang, han begyndte at tænke over at opfinde dem. Og det var jo det der med, hvis man nu laver en kvantecomputer, og der er jo qubits i den, der er kvantechips, hvis man så bruger den til det, der er den mest oplagte brug, nemlig at simulere kvantesystemer, hvad lærer vi så egentlig om virkeligheden? Fordi vi simulerer de systemer, vi gerne vil lære noget om, i det samme substrat. Det var der bekymringer om allerede dengang. Altså, nu begynder det så rent teknisk måske at kunne lade sig gøre med kvantecomputere, hvor man kan få nok qubits til, at man begynder at simulere nogle endnu mere interessante systemer, men stadigvæk, bare i den proces er der også kommet erkendelse. Der har vi jo lært noget om virkeligheden ved bare at skulle bygge kvantecomputere. Og det er måske lidt, det kunne være lidt en analogi til det her også, altså at det at bygge værktøjet faktisk også er en erkendende proces.

Klaus Silberbauer: 34:56

Og jeg er helt med på, at hele præmissen om, du ved, er der erkendelse, eller mister vi erkendelse på det her, den skyder du lidt til hjørne eller afviser nærmest. Men det bringer, hvis vi sådan skal gå et spadestik dybere, så må vi se, hvad er det, når vi erkender noget? Altså, det er det her klassiske citat om, at mennesket er universets vej til at forstå sig selv. Altså, universet skaber et intelligent, bevidst væsen, der kan kigge på universet. Men vi er en del af universet, og derfor kan universet nu begynde at erkende sin egen eksistens. Det er jo en utrolig smuk, du ved, vi er skabt af stjernestøv-tanke, og jeg kan godt lide den. Men jo mere erkendelse vi flytter over til en maskine, lad os bare reducere det til en LLM, hvem er det så, der erkender? Sker der erkendelse her? Eller er det lidt mere ligegyldigt? Forsvinder hele poesien i erkendelsen? Det er måske det, jeg vil sige.

Thomas Blomseth: 36:05

Lad os tage den sproglige vinkel på den, fordi det her minder mig om noget, som jeg egentlig har kæmpet med gennem mange år i mit arbejde med self-tracking og personal science. Og det er, at på engelsk har man egentlig ikke et ord for erkendelse, som svarer til det, der er bagt ind i, kan man sige, den tyskinspirerede måde, vi tænker det på. Nemlig både det, at det kan være en opdagelse eller et resultat, men så er det også, som du siger, vejen derhen. Altså, man kommer fra en tilstand, hvor man ikke har erkendt noget, og så erkender man noget, og det er en bevægelse. Man går igennem noget for at nå frem til, at man så har erkendt noget. Og det bruger vi nærmest også i dagligsproget. Det viser sig også, at det har de faktisk ikke på svensk, hvilket virkelig undrer mig meget.

Klaus Silberbauer: 36:51

Men det er også kun tyskere, der har skrevet om det, ikke? Det var Wittgenstein, der sagde"Jetzt weiß ich weiter". Altså, nu kan jeg... ikke bare, jeg forstår det.

Thomas Blomseth: 37:01

Så det kommer også ud fra grænsen. Ja, så det kunne være, en metapointe kunne jo også være, altså erkendelse, er det i virkeligheden kun noget, der er muligt for os gennem sproget også? Fordi sproget er jo også den her teknologi, det her medie. Nu taler vi om skriftsproget, men selv det talte sprog, Kan andre dyr, uden de her symbolgenererende medier, lave erkendelser? Det tror jeg faktisk ikke. Jeg tror faktisk, at erkendelse er noget, som vi måske bilder os ind er sådan en meget personlig ting, men som, hvis vi begynder at pille ved det, nok er muliggjort af det her medie, som er sproget, og vores andre symbolske medier, som for eksempel de medier, der er udviklet i forhold til matematik. Altså, man kan tænke symbolsk og sætte dem sammen på en bestemt måde. Hvis ikke vi havde dem, så tror jeg ikke, vi kunne lave erkendelse.

Klaus Silberbauer: 38:01

Men erkendelse i den tyske forstand, er det en illusion? Fordi vi bilder os jo ind, at vi erkender ting, men vi vil jo altid erkende ting på det abstraktionsniveau, hvor vi nu er, altså rent udviklingsmæssigt, og hvor vi er i det videnskabelige paradigme. Altså, hvis egentlig erkendelse kræver, at man rækker hele vejen ned gennem de emergente lag, kan vi så overhovedet erkende noget? Fordi vi gør det jo på skuldrene af giganter og efter mange, mange års evolution og kulturel udvikling, på baggrund af skriften, nu for at gå tilbage til Platon, på baggrund af matematik, som jo er en abstrakt beskrivelse af en virkelighed, vi må tro på er derude. Så idéen om erkendelse, og det som både Hegel og Wittgenstein og utrolig mange andre filosoffer, Kant også, altså, det var jo ligesom filosoffens privilegium, at man kunne sætte sig ned og virkelig føle, at man erkendte og tænkte ting. Men er det bare noget, vi bilder os ind, tror du? Altså, er det bare en fed fornemmelse?

Thomas Blomseth: 39:14

Man skal virkelig passe på med at lægge sig ud med Hegel, men hvis vi nu griber tilbage til endnu en nylig episode, den om Herbert Simon og bounded rationality, så kan man jo måske undskylde de gamle tyskere med, at de jo ikke havde adgang til informationsteori. De havde ikke nogen teori om computation og derfor heller ikke teorier om kompleksitet. Det, jeg vil give dem som livline, eller give dem mulighed for at komme ud af det hjørne, de har malet sig op i, det er jo simpelthen at sige, den der idé om at kunne række hele vejen ned, den er ikke mulig for mennesker. Vi har en bounded rationality, altså vi er begrænsede i, hvor meget information vi har adgang til, vi er begrænsede i, hvor meget vi kan holde i hovedet på en gang, vi er begrænsede i, hvor meget vi ligesom kan crunche ting. Så det kan vi ikke, vi kan ikke rumme universets samlede kompleksitet på en gang, så vi må, som du siger, afgrænse os og vælge ligesom, hvor er det, vi arbejder henne, og så kan vi skabe nogle fremskridt der, inden for de begrænsninger, vi har. Det er simpelthen det, vi har arbejdet med, og der havde de nok måske nogle mere principielle idéer om, hvad der kunne lade sig gøre, men der har vi jo så senere lært, gennem især de sidste 100 år, at vi er altså begrænsede på nogle andre måder, som de ikke kunne se dengang.

Klaus Silberbauer: 40:46

Er det lidt for nemt at være filosof, fordi du sidder der og udtaler dig på vegne af alle mulige andre fag, som er en blanding af, lad os bare kalde det erkendelses- og redskabsfag? Matematik kræver nogle redskaber. Altså, du kan ikke arbejde med matematik, medmindre du er dygtig til redskabet. Det kan så være, at man kan det fremover, men det er stadigvæk et formelt system, som du skal forstå indefra. Og du kan vel også sammenligne det med at være en dygtig snedker. Altså, det er jo ikke alle snedkere, der starter med at fælde et træ og begynde at snitte det til. Altså, man har maskinhøvle, man har CNC-fræsere, man har lasere til at måle med. Og det gør jo nok ikke snedkerfaget mindre interessant, at du har en hel masse redskaber, der er bygget op over tid. Der er stadigvæk masser af meget, meget dygtige håndværkere, men de sidder jo ikke og bygger tingene op fra, som sagt, en pind eller to. Så kan man jo godt sidde og filosofere og sige, hvad med hele læringsprocessen, hvad med al friktionen? Hvis du startede helt fra atomet hver gang, så ville du måske forstå hele sammenhængen bedre. Jo, men vi løber ind i et tidsperspektiv her. Du kan jo ikke inden for et menneskeliv komme særlig langt, så vi er dybt afhængige af at bygge ovenpå og bygge ovenpå og bygge ovenpå. Og så er jeg også med på, altså de filosoffer, vi så i dag, dem jeg her prøver at citere, ja, altså Wittgenstein var jo den seneste af dem, og han døde i 1951, det vil sige, at han har måske snuset til kybernetikken, men har jo ikke set computation udfoldet sådan for alvor på maskinel vis. Det synes jeg er en god pointe. Der er sikkert mere moderne filosoffer derude, der har en anden tilgang. Det er ikke nogen, jeg kender.

Thomas Blomseth: 42:35

Nej, altså, den rolle, som filosofien spiller, synes jeg, hvor den er virkelig konstruktiv, det er jo at gå ud til kanten af, hvordan vi tænker ting, og identificere problemer for os. Altså, det er der, den virkelig kom med store bidrag, og ikke nødvendigvis kunne komme med løsninger. Og det er jo måske også lidt et problem, at man gerne ville bygge de her store totaliserende systemer. Og det kørte vi så også videre med Marx, og vi har jo talt om teknologi og alt det.

Klaus Silberbauer: 43:08

Problemet med Marx, det var, at man prøvede at operationalisere ham.

Thomas Blomseth: 43:11

Ja, så det er måske også derfor, at filosofi i dag virker mere interessant, i stedet for at prøve at være totaliserende, når den prøver at udpege, hvad det er, vi ikke har tænkt ordentligt igennem endnu. Hvor er de rå, skarpe kanter? Og der er virkelig en positiv rolle at spille —

Klaus Silberbauer: 43:32

Man kan jo også sige, at matematikere også må være vant til at stole på eksisterende resultater uden at forstå dem til bunds. Jeg kan ikke forestille mig en matematiker, uanset hvilket felt man arbejder inden for, der grundlæggende forstår alle de beviser, der er leveret til dato. Fordi så skulle du bruge et liv på bare at forstå det, før du kunne bygge ovenpå. Så man bliver jo nødt til at stole på, at ens forgængere i faget har gjort det godt. Og derfor er der lavet en byggesten, som du kan bruge i det næste skridt i erkendelsen af det matematiske i så fald. Hvad er forskellen på at stole på en nu afdød kollega fra Cambridge eller en LLM?

Thomas Blomseth: 44:24

Ja, så det er jo derfor, at jeg synes, det er så analogt til softwareudvikling også. Altså, man bruger jo komponenter og underliggende sprog og maskiner, der står og kører, som man ikke selv ved præcis, hvordan er skruet sammen i detaljen. Men som du siger, så pakker vi tingene ind i nogle komponenter. Det kan man jo sige, det er jo det, matematikken har bygget op gennem årtusinder. Alle de her små og store resultater, som andre så kan bygge videre på, uden som du siger at skulle forholde sig til hele den kompleksitet, der er inde i den kasse, hver gang man bruger den. Og skal vi simpelthen have Adam Smith med på banen?

Klaus Silberbauer: 45:10

Hvorfor ikke? Vi er i gang.

Thomas Blomseth: 45:11

Nu er vi på vej over i det økonomiske. Men han kunne jo også se, at det giver mening i en produktionsproces i virkeligheden at kunne arbejde med komponenter. Og han talte om, der var noget med en urmager, det der med, at urmageren bliver nødt til at kunne samle uret i dele. Han kan jo ikke på én gang få et ur til at springe ind i eksistens. Han bliver nødt til at dele et ur op i dele, sådan at han kan samle det skridt for skridt. Og det giver så også mulighed for, at du kan lave arbejdsdeling. Sådan at ikke alle folk skal lave det hele. Det er den gamle, kan man sige, håndværksagtige tilgang. Så bliver der mulighed for en mere industriel tilgang. Og det er jo, at der kommer komponenter ind i den her fabrik, også fra underleverandører. Og du står ikke og åbner alle de her, altså på en bilfabrik, så står du ikke og åbner alle de her komponenter fra underleverandører. Nej, der er defineret et eller andet interface, en specifikation for, hvordan den her ting skal virke. Og hvordan den passer, det er fysisk produktion, hvordan de fysiske dimensioner passer ind det sted, hvor den skal bruges. Og der har jeg svært ved at se, at matematik er principielt meget anderledes. Altså, det er bare et andet substrat, men man bliver simpelthen nødt til at dele op i komponenter, hvor man kan lave en arbejdsdeling. Og så er der nogen, der arbejder på nogle visse problemer, hvor de så hiver nogle komponenter ind, som andre har udviklet i andre dele. Og det er jo så der, hvor det viser sig, at LLM'erne er så sindssygt gode til at prøve at finde ud af, om der er et eller andet, som nogle andre har lavet for 100 år siden herovre eller et andet sted, nogle komponenter, som kunne appliceres på det aktuelle problem, som er under behandling.

Klaus Silberbauer: 46:57

Jo, og jeg synes, at eksemplet med urværket er meget bedre end eksemplet med håndværkerne, fordi et moderne, lad os bare sige mekanisk ur, som jo i sit væsen ikke adskiller sig fra et mekanisk ur for mange år siden. Det er helt de samme principper. Men du vil aldrig kunne lave så komplekse ting, hvis du var en urmager, der skulle stå hele livet og bygge et moderne Rolex, selvom det er 100 % mekanisk. Det trækker ikke på noget teknologi, der er opfundet siden, du ved, 1700 eller et eller andet. Men fremstillingen og kompleksiteten i hele den stack, der skal til, kræver bare, at du bygger ovenpå, kan man sige. Du skal ikke opfinde tandhjulet igen. Du skal ikke engang stå og file det til. Hvorfor skulle man ikke bruge maskinel fremstilling til det? Og så er det at designe et moderne ur jo ikke mindre spændende, tror jeg, fordi du kan gøre det endnu mere præcist. Du kan få endnu flere, ja, hvad hedder det? Kompleksiteter. Er det ikke det, man kalder det i et ur?

Thomas Blomseth: 47:58

Complications.

Klaus Silberbauer: 47:59

Complications, ja. Præcis. Komplikationer. Tak skal du have. Men lige for, jeg synes, vi kommer lidt hurtigt rundt om den der med, at universet erkender sig selv. Den kan man ikke bare, det er en stor ting, den skal vi lige have fat i. Fordi jeg kan jo ikke lade være med at hive en gammel ven ind på banen her og sige, vi havde idéen om, at mennesket, fordi vi er organiske, og vi har bevidsthed, kan forstå universet, vi kan forstå os selv i universet og dermed helheden. Nu, uanset hvordan vi vender og drejer det, kommer en del af den, i citationstegn, forståelse og erkendelse til at ske inde i den black box, vi kalder et neuralt netværk, en LLM. Så kender vi jo en, som vil sige, jamen det er fint nok. Fordi Technium er en evolutionær fortsættelse af os selv og det biologiske liv. Universet erkender ikke sig selv mindre, fordi det er en LLM, der gør det. LLM'en er også en del af universet. Den er skabt af atomer i universet. Den er bygget af nogle bevidste væsener. Den er måske selv på et tidspunkt bevidst. Så det er jo fint. Der er ikke nogen problemer der, hvis man spørger Kevin Kelly.

Thomas Blomseth: 49:05

Og vil du høre, jeg har faktisk lyttet til ham næsten lige inden, vi gik i gang. Det var Kevin Kelly i en helt ny episode af Freakonomics, der handler om AI og kreativitet.

Klaus Silberbauer: 49:14

Jamen altså, sikke en synkronicitet. Der er i hvert fald nogen, der prøver at fortælle os noget her.

Thomas Blomseth: 49:19

Men jeg synes faktisk, at man i den opremsning glemmer noget meget vigtigt. Det er jo, at i LLM'erne, ud over alle de andre tekniske aspekter, indgår der jo også det her kæmpe korpus af menneskelig viden og menneskelige udtryk i forskellige medier. Og det er jo ikke kun tekstuelle medier, det er jo også visuelle medier og, kan man sige, formelle medier. Det indgår jo også i LLM'erne. Og det er jo derfor, at, ja, bare for at køre min kæphest igen, det med, at vores erkendelse af universet altid har været medieret. Det tror jeg, det er mit udgangspunkt. Der findes ikke nogen, altså, der bilder vi os noget ind, der findes ikke nogen ikke-medieret erkendelse af universet. Det tror jeg simpelthen ikke på.

Klaus Silberbauer: 50:06

Og det bringer os jo lidt tilbage til, altså, jeg vil ikke sige en konklusion, men nok den stemning, vi begge to er i omkring det her, når vi snakker LLM'er i det hele taget. Der er jo mange, jeg kan godt sige, der er jo rigtig mange foruroligende ting. Det er jo foruroligende, hvis nogle meget, meget store virksomheder, ejet af meget få mennesker med utrolig mange penge, er med til at definere, hvordan erkendelsen skabes fra nu af og frem. Jeg tænker ikke, at jeg gerne vil overlade de næste 500 års erkendelsesskabelse til Grok, inficeret af indfald fra Musk. I det omfang han kan påvirke Grok, fordi det lader til, at Grok måske ikke lytter så meget til Musk. Men det er en anden ting. Så det handler jo om, lad os kalde det erkendelsesskabelse via LLM'er, den skal demokratiseres i det omfang. Den må ikke være biased i forhold til det, den er trænet på. Ikke mere, end den enkelte forsker i så fald også er. Og det er de måske også. Hvis vi forestiller os, at den ideelle LLM trænede på et unbiased korpus af menneskelig viden, hvis sådan et findes. Det er en lang historie. En anden episode.

Thomas Blomseth: 51:20

Jeg tror faktisk ikke, at du behøver at gøre det til en forudsætning. Der må godt være alle mulige biases i det korpus.

Klaus Silberbauer: 51:30

Ja, og det er en meget følsom debat jo. Altså, kan vi... Men lad os bare sige, jeg tror ikke, de er specielt meget mere biased, end hvide, vestlige, mandlige forskere har været igennem mange år. Altså, så det er måske ikke så meget værre, men det kan være, at vi kan gøre det bedre. Anyway, that aside, altså, lad os sige, det er ideelt. Så er det måske bare der, hvor vi er. Altså, at det er, igen, Techniums naturlige fortsættelse af vores evolution og dermed erkendelse af universet omkring os. Og min pointe er, at det behøver vi måske ikke at være så utroligt bange for. Der er en grundlæggende angst for, at nu er al menneskelig vidensskabelse og erkendelsesskabelse slut. Nu bliver det låst i en pose, der bliver genbrugt og genbrugt, fordi sådan er det reduktionistiske syn på LLM'erne. Det er, at det bare er et sammenkog af et gennemsnit, som man så bruger igen og igen, og alt bliver skide generisk. Det mener jeg er en reduktionistisk og stor misforståelse af, hvordan LLM'er fungerer. Der kommer, og det synes jeg måske, de her resultater siger, der kommer ny erkendelse ud, hvis man kan kalde det det. Der kommer noget nyt, ikke-gennemsnitligt ud. De problemer, der er blevet løst på den matematiske side, er noget nyt i forhold til, hvad vi havde før. Det kan godt være, at de er skabt ud af alle de der tusinder og tusinder af puslespilsbrikker, der er blevet leveret over tiden. Men faktum er, at det ikke var noget, der var der før. Og det synes jeg er en ret væsentlig ting.

Thomas Blomseth: 53:27

For lige at blive teknisk igen, så er der jo nogen, der har nogle opfattelser af sprogmodellerne, som egentlig er for længst forældede og er blevet meget hurtigt forældede inden for de sidste par år. Den første forældede tanke, det er den der med det, man kalder stokastiske papegøjer. Altså det med, at man stiller et spørgsmål, og så kommer der det der gennemsnitlige svar ud. Det er ligesom to-tre år gammelt i forhold til, hvor teknikken er, fordi det, der er sket derefter, er det, man nok hellere skulle kalde Large Reasoning Models. Der er en, der hedder François Chollet, en kendt AI-forsker, som har været involveret i at lave noget, der hedder ARC Challenge, hvor man prøver at stille AI-modeller typer af opgaver, som kunne være karakteristiske for vores menneskelige måder at løse problemer på. Nå, men han siger det, altså, det er ikke LLM'er længere, inden for de sidste par år er det blevet til Large Reasoning Models, og det kunne vi jo også se. Altså, da jeg første gang prøvede OpenAIs o1-model, og især o3, kunne jeg rigtig godt lide, det er jo der, hvor de begyndte at bruge tokens på, altså i stedet for bare at spytte et svar ud, at sige, der kommer en prompt, og så kører vi noget igennem netværket, og så kommer der et svar ud, så begyndte de at bruge tokens på at overveje deres svar. Så det var det næste store gennembrud, som jo gør, at man faktisk kan instruere dem i at undgå det gennemsnit, altså sende dem ud i de der andre dele af latent space, hvor der kan ligge nogle meget mere interessante ting. Men den tredje store ting, som også gør stochastic parrot til en forældet måde at se på det, det er jo det, der skete sidste år inden for det agentiske. Er det ikke nok, at du kan sætte dem til at bruge tokens på at overveje, hvad deres svar er? Du kan også give dem værktøjer, som de kan bruge til at undersøge, hvad et godt svar kunne være. Præcis. Og derfor er vi et helt andet sted end dem, der måske prøvede en gratis ChatGPT for to år siden og stadigvæk taler om stokastiske papegøjer. Så er man simpelthen fuldstændig ude af trit med vores teknologi og det her.

Klaus Silberbauer: 55:39

Men Thomas, det er en historie, der stadigvæk reitereres af selv professorer i datalogi, der siger, altså i bund og grund er det jo bare stokastisk, i bund og grund kan den ikke en skid. Så det er jo en myte, der hænger ved, også hos folk, der faktisk burde vide noget om det her felt. Uden for hele det matematiske paradigme, men jeg mener faktisk, der er en direkte tråd over i hele diskussionen omkring generativ AI og kunst i det her tilfælde. Der var i ugen her en meget interessant debat i P1 Debat. En af vores venner, forlæggeren, deltog og gjorde det jo skide godt og var balanceret. Men der var en spændende, ophidset diskussion omkring AI's rolle i litteraturen, og det er, fordi en forfatter, der hedder Andrea Hejlskov, tror jeg, har skrevet en brevveksling, en samtalebog mellem hende og Claude. Jeg har ikke læst den, jeg tror ikke, jeg kommer til at læse den. Jeg synes, at hele konceptet lyder uendelig uinteressant. Men hun forsvarede sådan set eksperimentet. Hun forsvarede det ud fra sin egen animistiske baggrund og tro, og det havde de svært ved at håndtere. Men fair nok, det er ikke en bog skrevet af AI, det er en samtalebog med en AI. Hendes primære modstander var en forfatter, en lyriker, der hedder Jonas Eriksson, tror jeg, Janus Eriksson eller Jonas Eriksson, som blev vred. Fordi han, og det var med hånden i bordet, insisterede på, at en LLM er og altid vil være bare en række tal. Bare nogle tal. Det er bare en algoritme. Den kan narre os, men den kan ikke andet end det. Og det er jo et eksempel på den her utrolig, altså naivt reduktionistiske tankegang. Altså, den mand skulle læse noget om niveauforståelse, fordi, og det var faktisk der, jeg synes, Andrea gjorde det godt, det var, da hun sagde, Et, det ved vi jo faktisk ikke. To, der er nogle andre lag i det her. Den opererer på et andet abstraktionsniveau end blot, du ved, at servere et eller andet sammenkog af, hvad den nu er trænet på. Det kan godt være, at det dybt nede i abstraktionslagene er sådan, det fungerer, men faktum er, at når du tilføjer kompleksiteten, så kommer der noget andet ud, der er mere værd end blot sammenkoget og gennemsnittet. Jeg tror, at mange først kommer til at respektere, vil jeg sige, eller altså tage den her teknologi alvorligt, hvad man i den grad bør gøre, fordi den ændrer hele vores liv, hvis de forstår, at det nytter ikke noget bare at ironisere og på sarkastisk vis sige, at det er bare en stor JPEG af virkeligheden, fordi vi er forbi det der. Stokastisk papegøje, det synes jeg er et godt udtryk, fordi det er en forældet opfattelse. Men jeg tror, at manges teknologiforståelse altid har nogle år på bagen, uanset om vi snakker om biler og køkkenmaskiner eller LLM'er. Altså, det, vi ved, det ved vi fra noget, vi læste for 3-4-5 år siden. Og jo ældre vi bliver, jo kortere tid føles de der 3-4-5 år, og så bliver man endnu mere bagud af dansen, hvis man ikke følger med.

Thomas Blomseth: 58:52

"Henry bukker og takker og går ind i landskabet igen." Jamen, den kan du sikkert godt genkende.

Klaus Silberbauer: 59:01

Det kan jeg godt. Fra gymnasiet og en, var det ikke en skolekomedie?

Thomas Blomseth: 59:08

Nej, det er Per Højholt.

Klaus Silberbauer: 59:10

Jeg tror faktisk, at en fælles ven stod og læste op fra scenen i en meget mærkelig skolekomedie engang.

Thomas Blomseth: 59:17

Ja, men pointen var, at Højholt lavede eksperimenter, og det er jo ikke andet, end at man har haft automatisk skrift og sådan nogle ting. Altså, formelle eksperimenter med skrift, tilbage i 60'erne. Så jeg har sådan et, so what's new? Altså, det er en anden måde at eksperimentere med det medie på, som hun som forfatter gør.

Klaus Silberbauer: 59:40

Det er det. Og så er der hele diskussionen omkring, hvad er så kunst og så videre, og jeg bliver pludselig en gammel konservativ skid at høre på, fordi jeg synes jo, at kunst er noget mellem mennesker. Men den må vi tage en anden gang, fordi den når vi ikke i dag. Men det kunne være en fin fortsættelse af, at vi snakker om erkendelse.

Thomas Blomseth: 59:58

Der er i hvert fald lagt flere tokens i kakkelovnen, ikke?

Klaus Silberbauer: 1:00:02

Jo, således erkendt. Du har lyttet til Silberbauer & Blomseth, en uafhængig og usponsoreret podcast om teknologi, systemer, erkendelse og om de mønstre, der driver vores virkelighed. Følg os på Bluesky, hvor vi poster opfølgende materiale for hver episode, og altid er klar på en dialog, kommentar, idéer og kritik. Vores handle er@silberblom.dk. Og ikke mindst, hvis du kan lide, hvad du hører, så anbefal os til venner, familie og kolleger, og smid gerne stjerner efter os på Apple Podcasts. Vi higer jo alle efter anerkendelse i en eller anden form. Tak for, at du lytter med.