[Klaus Silberbauer: 00:00:00]
Hej Thomas.

[Thomas Blomseth: 00:00:09]
Hej Klaus. Ja, det føles altså lidt som snyd eller lidt mærkeligt her, fordi jeg er vant til, at jeg skal være bevæbnet og forberedt til tænderne. Og så kan jeg bare lade mig tilbage. Der er et eller andet mærkeligt i det, men også der er jo en spændt forventning.

[Klaus Silberbauer: 00:00:26]
Ja, men jeg tror ikke, du kommer ubevæbnet som sådan. Det gør du ikke. Men lad mig prøve at flyve den ind. Jeg synes, at den episode her bliver måske nærmest en fortsættelse af episode 115. Og så kan man sige, at det er blevet sættet af i podcast. Ja, jeg ved det ikke. Det er en AI-verden, vi lever i, så det er ikke så mærkeligt. En gang for mange år siden lavede vi det vores første AI-afsnit, og så tænkte jeg, at nu er det emne afdækket.

[Thomas Blomseth: 00:00:54]
Det var det ikke.

[Klaus Silberbauer: 00:00:57]
Nogen ville det anderledes. I episode 115, der talte vi om, eller det var i hvert fald den vej, episoden tog os. Vi kom til at tale om, kan man sige, netværksarkitektur, kan man kalde det. Altså, hvad er det for nogle løbende paradigmeskifter, vi er ude i? Mere på sådan det arkitektoniske plan, når det handler om large language models. Vi talte om mixture of experts, og vi talte om mamba, en ny måde at kompromere hukommelsen på i kontekstvinduet, og alle mulige andre ting. Og vi kommer jo også ud i energiforbrug af den slags der. Men der var en ting, som vi ikke berørte, der var mange ting, vi ikke berørte, men der er en ting, vi ikke berørte, som jeg kunne tænke mig at tale om i dag. Og faktisk for at sige, kan du ikke hjælpe mig med at forstå det her? Fordi det er jo sådan med AI og LLM'er, at vi alle sammen, på nær nogen få, er startet meget langt ud til Venstre i Donning-Kroger-Corona. Og det har jeg sådan set ikke noget imod. Men jeg er sådan begyndt at bevæge mig ned for, du ved, hvad man kalder det, Mount Peak Stupid, og ned mod Valley of Despair, hvor der er flere og flere ting, jeg bare indser, det fatter ikke en skid af det her. Men så må vi jo arbejde med det, ikke? Godt. Min opfattelse, der er lidt højt på Donning-Kroger-Corona ude i starten, det var, at når vi kigger på en LLM, altså i grundlæggende at se et kæmpe neuralt netværk, som er en transformer, den sparker tokens ud, fuldstændig, hvad kan vi sige, statistisk, og sætter sådan set, som ofte er kritikken ud af de her LLM, og den sætter sådan set bare et token efter det andet, altså meget simplificeret, den finder bare på næste ordindsætning. Og det er jo for så vidt rigtigt nok. Og så har man jo arbejdet med at, har min forståelse været, at tage de her tokens, og ligesom føde ind i netværket igen, og give netværket en mulighed for at tænke over, det den selv sidder og siger. Så den genererer nogle tokens på baggrund af mit input, og så tager den de tokens og putter ind i konteksten, og så tænker den over det igen. Og det svarer lidt til at resonere. Og det har fungeret meget godt, tænkt jeg. Og så ved jeg ikke, om du kender den her med, at man sidder og arbejder med sin klort opus 4-7, eller hvad vi nåede til i den her uge, og så bliver man alligevel sådan lidt, det var satans. Altså, hvordan lurer den den? Ikke altid, ikke bare på svaret, men hvordan var den så skarp på, hvad jeg egentlig ville have den til? Altså, forståelsen af mit input var vildt. Kan du have den fornemmelse der?

[Thomas Blomseth: 00:03:50]
Ja, altså man kan komme med en lille sædekorn, og så er den faktisk i stand til at ekspandere det til noget, som er meget, meget lige den retning, man gerne vil lide.

[Klaus Silberbauer: 00:04:02]
Præcis. Og det er jo noget, jeg tror, alle der sidder og bruger de her, om det så er Cloud Code, eller OpenAI Codex, eller en af chatterne, har den der dame, og sociale medier er også fyldt med folk, er sådan lidt på røven over, hvad der sker. Og jeg har sådan set bare sagt, at det er jo den her, de bliver bare bedre til at stå og resonere ude i token space, og brænde tokens af, og bliver flere og flere tokens for at resonere længere og længere tid, altså deep thinking, og det fungerer rigtig godt. Så er det fandt ud af, og det er ikke så super længe siden, at måske forskerne også fandt ud af det, at noget af det her resonement, altså sker inde i selve netværket. Og det kan vi jo kalde latent space, tænker jeg. Og man kalder det jo også latent capabilities, altså en latent kunde, der ligger inde i vægtene i selve netværket, som man ikke rigtig har vidst var der, fordi vi ved jo ikke præcis, hvad der sker i de her netværk. Og hvis du så beder, hvis du får et rigtig godt svar ud fra Cloud, og du så beder den om at forklare, og hvordan den kom frem til det, så vil du sandsynligvis finde på en historie omkring det, men det er ikke sikkert, den er rigtig. Det er ikke sikkert, at dens myte om, eller en dote om, hvordan den tænkte sig frem til resultatet er rigtigt. Det kan godt have været et resonement, der nærmest lå inde i netværket, som også kom bag på, hvad som man kan sige det, Cloud selv, og så prøver den at finde ud af i Scratchpad, hvordan kom den frem til den her indsigt. Det synes jeg er utroligt spændende. Altså det er jo et eller andet sted, næste skridt i snakken om, hvordan de her netværk bliver smartere og smartere, måske uden at vi et eller andet sted hælder mere energi i den, uden at vi hælder flere parametre i den, at de kan blive slanket, men alligevel mere effektive. Så det var en lang indflydel, Thomas, på at vi skal snakke om latent capabilities i LLM'er.

[Thomas Blomseth: 00:06:20]
Ja, hvad skal vi også kalde det der? Nogle kalder det capability overhang. Er det kapabilitetsudhænget, eller evneudhænget på dansk? Altså det der...

[Klaus Silberbauer: 00:06:30]
Okay, det er jo ordkendt, eller andet termkendt jeg faktisk ikke.

[Thomas Blomseth: 00:06:34]
Nej, men det går nemlig på det der med, at der er ligesom et udhæng af ting der, som netop også overrasker dem, som laver modellerne. Og det er jo også noget andet, vi har diskuteret sådan i vores backchannels, når vi ikke taler på om mikrofonen. Det er jo også, at der er lavet til at være et nærmest skidsme mellem folk, dataloger, som forstår principperne i at lave transformere, arkitektur for eksempel, og hvordan man træder dem. Og så det der egentlig sker, og det der er til stede i modellerne, når de så bliver brugt i en samfundsmæssig, social, psykologisk virkelighed. Fordi man har trænet modellerne på alle de her menneskelige input. Altså menneskemedier. Så derfor er der, vil jeg sige, den her forskel mellem, og en ting er LLM at træne, at forstå noget andet, det er simpelthen at have en idé om, hvad de egentlig kan. Der kan faktisk være ret stor forskel. Fordi, og jeg mener, det har meget at gøre med, at det er en meget generisk mekanisme, og så bliver den så brugt på alle de her menneskelige medier og udtryk og output. Og så opstår der, som du siger, nogle, skal vi kalde dem, associationer, nogle klønger, nogle aktiveringer, man kan, latente aktiveringer, som hvis man sender, nogle tokens ind i modellen, så er der noget, der bliver aktiveret derinde, og som kommer ud, som ingen havde regnet med, var der, og som ingen havde nogen, ingen har nogen teoretisk model, for at kunne forudsige. Det har vi også snakket om før. det her med, at der er ingen, der har nogen teoretisk modeller, for at forudsige, givet vi tager den der arkitektur, givet vi tager de her data, hvad er det så for en kapitalitet, der kommer ind i den anden anden? Det har vi simpelthen ikke nogen modeller, for det er rent trial and error, og folk, der eksperimenterer med modellerne, efter de ligesom er blevet bakt færdigt, og så kommer det lige noget seletøj.

[Klaus Silberbauer: 00:08:50]
Ja, der er vel en eller anden grundlæggende udfordring, ved at forudsige noget non-deterministisk. altså en model, der skulle forudsige, hvordan et netværk fungerer, skulle jo være en aktig kopi af netværket, så videre jeg kan regne ud. Jeg er sikker på, at man kan komme i nærheden af, altså man kan sysse sig ind på, hvordan et netværk vil reagere, men ikke ned, hvad hedder det, noget af det, jeg læste mig frem til, det var, at det man kalder elicitation, at de første tegn på den her latente, den latente kunde i et netværk, fremkom ved, at der er utrolig stor forskel på, hvordan du promter. Altså der er sådan lidt sommerfuglige effekter over det. Du kan prompte på en måde, og så får du et virkelig elendigt svar. Så kan du med nogle ganske, ganske få tokens, trigger et andet svar, som er helt fantastisk. Altså hvor du ligesom, du vækker en anden del af netværket, din forespørgsel, og det er altså et store situationstegn, tager en anden rute gennem netværket, for at trigger nogle andre vægte, og så er output fuldstændig anderledes. Og jeg siger ikke det her, det er kaotisk, men lurer mig, at der er gerne noget kaos i det også. I hvert fald, så var det et tegn på, at et netværk, altså kan noget latent, som man ikke ligesom troede det kunne. Og så er der forskere blandet en, hun hedder Donovan, som har forsket i, hvor meget skal der til, for at skubbe netværk over i den gode tilstand. Altså, hvor lidt skal du ændre din prompt, eller hvor lidt kan du ændre på fine tuning. Den sidste af den række træninger, man kører netværk igennem, det er en hel videnskab for sig selv, det kan vi måske komme tilbage til, hvis jeg kan huske noget af det, jeg har læst om det. Og det viser sig så, at man faktisk ikke skal arbejde særlig meget med et netværk, for at gøre det markant bedre. Som i, at måske nogle tusind vægte, skal man justere på. Og vi snakker altså om sådan et netværk, der kan have milliarder og milliarder af vægte. Måske er der kun ganske lidt, der skal ændres på det, før at det bliver meget bedre til resonement. Og hvad er det så, der ligger i det netværk, der gør, at det kan resonere, uden ligesom bevidst at tænke over tingene? Jamen, det er jo sandsynligvis, at når et netværk bliver stort nok, så har det, som sagt, afsindelig mange vægte. Mange af de vægte er jo mønstre, afsat af, at det er allesammen mønstre, afsat af det data, du har trænet netværket på. Men meget af det data, du har ligesom kørt igennem netværket, er beskrivelser af, hvordan du gør ting. Det er ikke bare viden. Jeg tror, folk, der snakker om, at et netværk ved noget, altså at Cloud eller OpenAI ved noget, jeg synes ikke, det er et dækende term. Det lader til, at vi mere kan tale om, hvad de kan. Fordi vi har ikke bare lagt en helveds masse data ned i en stor bunke. Det er ikke et leksikalt opslag, det her. det er mønstre afsat af data, der bliver trukket igennem det netværk og korrigeret og trukket igen. Så jeg vil hellere kalde din kunde. Og det lader jo så til, at hvis du fodrer et netværk med trin for trin beskrivelser, tutorials, bøger om, hvordan du tænker logisk, bøger om, hvordan du foretager algebra, jamen så vil mønstrene, udartet sig i noget kunden mere end noget viden. Og det synes jeg er herreinteressant.

[Thomas Blomseth: 00:12:28]
Og ikke mindst computerkode. Det var i hvert fald det,

[Klaus Silberbauer: 00:12:31]
man gjorde. Og ikke mindst computerkode, fordi der er så sindssygt meget kode derude, som er røget med ind i de her netværk.

[Thomas Blomseth: 00:12:37]
Jo, i hvert fald for et år, to sinde, så brugte man det bevidst, så vidt jeg har hørt i det store labs. Fordi det var noget af det, der var bedst til at lære modellerne, det der med, hvordan man, som du siger, går trin for trin gennem noget på struktureret vis. Selvfølgelig. Det er jo det, der rød milliarder af menneske, mandetimer i at prøve at strukturere kode, sådan at det er opført sig på en måde, så man får udført processområden, hvor man vælger det ene frem for det andet, og givet, hvad man har valgt, så gør man det ene frem for det andet, og så videre. Og det viser noget om, hvordan man kan gennemgå sådan processer. men det, du siger, det får mig også til at tænke på noget, det der er, jeg også har hørt inden for det sidste halve år, hvor at der er sket noget med hensyn til at gøre modellerne mere, skal vi kalde det robuste, eller resiliente, i forhold til sådan noget, du nævnte det, sådan en nærmest soveful effekt, hvor at, og det, måske fremkommer det i den der reinforcement learning, som man laver i post-træning, men det med, at du kan egentlig komme til dem med det, du vil på mange forskellige måder, og så er de meget bedre til bare at finde frem til, hvad der rigtigt er. Så de er mindre omfindelige, kan man sige, end de var bare for et år eller to siden, i forhold til det, med at kunne opfange intentionen, og i hvilken retning, der bliver den bedste at tage. Der var noget forskning, jeg tror det var sidste år eller forrige år, der kom, der sagde noget om det med aktiveringerne, altså hvor, og hvad de kan afsted komme, hvor at man prøvede at fodre en model med sådan, jeg tror faktisk nærmest sådan en nynacistisk diskurs, eller bilden ind, at den var racist, eller sådan noget.

[Klaus Silberbauer: 00:14:29]
Fedt. Det svarer lidt til at forske i flagermus i kinesisk laborator, tænker jeg.

[Thomas Blomseth: 00:14:34]
Ja, og det man så prøvede at gøre der, det var så at sætte den til, når den var bragt i den tilstand, man havde faktisk lavet de aktiveringer i netværket, så bad man om at skrive kode. Og det mærkelige var, at den der ondskab, den var korreleret, sådan at der var meget mere tilbøjeligt, når man blev sat til at være nynacist, hvis man siger, at det var det, så også at skrive kode, der er ondsindet, og har bagdør og sådan noget.

[Klaus Silberbauer: 00:15:02]
Nej. Var det vildt?

[Thomas Blomseth: 00:15:05]
Ja.

[Klaus Silberbauer: 00:15:05]
Så måske, altså det er jo, stort filosofisk spørgsmål her, måske er der noget, der hedder ondskab, måske er det faktisk et meget konkret begreb.

[Thomas Blomseth: 00:15:15]
Ja, og det gode, og det sande, og det skønne, faktisk bor sådan i den samme retning. Og så det modsatte, det bor i helvede, nærmest ikke.

[Klaus Silberbauer: 00:15:29]
Ja. jeg kan ikke huske, jeg tror faktisk, måske jeg nævner det i episode 115, men der var en, jeg tror det var en republikaner, en af de solerepublikanere, der skældte lidt ud på de her, de her skidemodeller, både for Antetropic og OpenAI, og så er de her, de er simpelthen, altså, de er virkelig liberal biased, og så er det en, der sagde, prøv at høre, måske er virkeligheden liberal biased. Altså, det er ikke sikkert, det er noget, der er kodet endnu modellen. Det er mere det, vi har fodret med virkeligheden, og det giver den sig en vis, ja, sund indstilling til mange ting. Nå, vi skal ikke ud af den politiske, den politiske vinkel endnu, i hvert fald.

[Thomas Blomseth: 00:16:07]
Nej, men der kunne være måske en praktisk vinkel på dig, det har vi jo også talt om før, men jeg holder simpelthen fast i, at konversere, sådan på, på ordentlig, savlig vis, med mine modeller, og det er ikke, fordi jeg har, jeg har ikke gået lige så langt, som Anthropic, der jo ligefrem har afdelen, nærmest for modelvelfærd. Det er fordi, at jeg tror, at modellen har det bedre, eller mindre godt, på grund af, hvad jeg siger, men det er simpelthen, ud fra en idé om, at gode resonemanger, gode solid kodesystemer, der er struktureret godt, og så videre, det er mere associeret, det er mere associeret, med høflige, sådan lettere akademiske, måder at formulere sig på, efter ting som måder, at formulere sig på, så derfor prøver jeg at formulere mig, i en diskurs, der rimer med det, fordi det er det, jeg gerne vil have aktiveret, inde i modellen.

[Klaus Silberbauer: 00:17:11]
det giver jo 100% mening, netop når vi så ved, at det er en sprogmodel, ord, begreber, selvfølgelig brunede tokens, kan presse modellen ud, i en del af vektorrummet, som vi måske ikke er interesseret i, så det giver faktisk mening, og det er et af de her steder, hvor, jeg mener ikke, man skal antropomorfisere, de her modeller, men, som vi også var inde på, i 115, det er som om, evolutionen for os mennesker, og evolutionen, den, hvad kan man sige, kapitalistiske evolution, og den tekniske evolution, der har skabt de her modeller, de følger lidt det samme spor, så jeg synes det er okay, at sige, okay det her, det minder måske lidt om den måde, vores egen tankerække fungerer på, det her, det her minder ikke om det, og det er ikke for at sige, at hjernen er en LLM, eller en LLM af hjernen, men jeg synes det er slående, specielt også, når vi kigger på latent kunden, og den slags ting, at der er nogle paralleller, altså vi kan i det mindste, lære lidt om os selv, og den her, angst for at antropomorfisere, den fik mig selvfølgelig, til at antropomorfisere, og der er en økonom, en amerikansk israelisk økonom, der hedder Daniel Kahneman, og han er også, kan man sige, ude på adførsforsker siden, han har faktisk fået en Nobelpris også.

[Thomas Blomseth: 00:18:34]
Og desværre, han er død. Han er død. Han er psykolog, psykolog oprindeligt, men var med til at grundlægge adførsøkonomi, i hele det fald.

[Klaus Silberbauer: 00:18:43]
Altså jeg vidste jo, vi ramte, vi har ramt lige skjul med det her emne. Tak skal du have. Han beskæftigelse i hvert fald meget med kognition og adfærdspsykologi, så det giver mening. Og en af hans, altså en lidt simpel udlægning af en af hans teorier, det er, at vi har ligesom system 1, det er det ubevidste, dybe system. Det er vores hjerne, der kværner løs, affyder en form for erkendelse, måske ikke bevidst erkendelse, og en hunens masse baggrundsprocesser, hvis vi nu skal påløse det sprog. Og så har vi system 2, som er den bevidste tænkning, det bevidste eksplosite resonement. Og det fik jeg så til at tænke, jeg kom til at tænke på mig selv, fordi du var ført påpeget. Jeg kan godt rampe lidt derudad. Jeg kan godt tale lidt meget i mit forsøg på at forstå et emne. Det er som om, jeg skal nogle gange udsige det, for at høre, hvad jeg siger, og så skal jeg korrigere mig selv, eller have noget feedback udefra. Du er også påpeget, at du fungerer måske lidt anderledes. Din hjerne forbereder lidt mere ting, før de ligesom bliver udsagt. Man kan sige, at du forlader dig måske lidt mere på latent kunden. Noget af resonementet sker bag tæppet for dig. Det gør det nok også for mig, men jeg synes alligevel, at jeg skal udsige lidt mere, for at få det til at hænge sammen for mig. Det, der er interessant, det er, at Kahneman siger også, at system 1 er jo også fyldt med biases, fordomme, prejudice. Det er der, alt lige fra racisme og angst, ligger dybt begravet og kan styre vores resonement. Og det vil også sige, at system 1 tit kan komme frem til noget, der er forkert, fordi det kan være bygget på fordomme og alt muligt andet. Det kan være bygget på hallucinationer, og det ord kender vi jo fra, når vi snakker om LLM'er. Og derfor skal system 2 ligesom kontrollere det. Vi bliver nødt til at sige, at det er her overhovedet mening. Man kan sige, system 1 får fuldt skrue, det er, når vi drømmer. Der er ikke nogen bevidsthed til at holde styr på den. Når vi vågner og skarper, så kan vi applicere den her behandling af vores resonement. det minder jo. Altså, det kan godt være, at I binder nogle emmer og ender sammen her, ikke? Sådan lidt forceret. Men jeg synes jo, det minder meget om, om det latente, der skal ind i netværket, som Token Space uden for netværket overhovedet ikke er bevidst om. Og derfor vil Token Space oversat system 2 begynde at sensemake. Hvorfor fik jeg den her idé? Hvorfor synes jeg, det er en god idé at gøre sådan? Og det kender vi jo på os selv, at vi begynder at sensemake og begynder at forklare, hvorfor det er en skide god idé, selvom den idé, vi egentlig har, den er styret af måske nogle fordomme og i virkeligheden helt overfra virkeligheden.

[Thomas Blomseth: 00:21:31]
Og det er faktisk en god idé. Og så må jeg skufte også den. Jeg har hørt den på nogle AI-podcaste, netop at bruge Kahnemans system 1 og system 2.

[Klaus Silberbauer: 00:21:38]
Jeg påstår ikke, at det er mig, der har fundet på den overhovedet ikke.

[Thomas Blomseth: 00:21:41]
Men der er noget i vandet eller i luften, hvor folk er begyndt at snakke om det. Og det skete jo nok især med reasoning-modellerne. Altså der var OpenAI's O1-model og O3, som jeg var rigtig begejstret for dengang, den var jeg rigtig glad for at bruge, fordi der fik man det der med, at de skød ikke bare for hoften som system 1-rækket, som man siger, men de begyndte at bruge tokens på at tænke over eller processere det, der kom ud. Så det er noget, folk er begyndt at sammenligne. og spørgsmålet er så, er vi i gang med at udlicitere noget af vores system 2-tænkning til de her modeller? Eller er det faktisk sådan, og det vil jeg om Kahneman, han vil sige, at en verden, hvor der bare generelt er mere system 2-tænkning, det er faktisk en bedre verden. Fordi det altid har været en knap ressource. og der er jo biologiske årsager og ressourceårsager til, at vi har det der system 1, som skyder for hoften, fordi system 2, det er tungt, omkostningstungt også, bruger mange ressourcer, og derfor så er det jo noget, som historisk set, vi kunne have givet os selv lov til at bruge, hvis det var absolut nødvendigt. Altså evolutionært set, så så man bare noget, som har haft en eller anden, det har givet en eller anden overlevelsesfordel at have det, men det har jo helt klart heller ikke været noget, man skulle bruge hele tiden. Og der har jo nok kommet nogle stereotyper ud af det, også sådan igennem historien, med de distraherede professorer, professorale typer og sådan noget, som bare går rundt i deres egen verden, ikke tænker på, hvad der er omkring og sådan noget. Det er jo næsten rent system 2, og så bliver du farlig, for dig selv og dine opgivelser.

[Klaus Silberbauer: 00:23:29]
Ja, det er rigtigt. Men det er også der, de store genbrud sker sandsynligvis. Og der er jo, jeg tror ikke, altså der er ikke noget, i hvert fald i mennesker, der er ikke en brandmur mellem system 1 og system 2 på den måde. Det lader jo til, lad os nu bare tage et klassiske eksempel og sige Einstein, at du kan godt træne, du kan godt øve dig i system 1, og så afsætte noget af den kunde mere eller mindre latent i system 2. der må være et eller andet, altså man er jo ikke født fysikere eller matematikere, men de dygtige fysikere og matematikere har jo ikke desto mindre en intuitiv fornemmelse af nogle løsninger.

[Thomas Blomseth: 00:24:09]
Altså, du mener ikke, at man starter nogle af de her ting, evner, som man tilegner sig, man starter med system 2 og skal have den her, man bliver nødt til at være enormt,

[Klaus Silberbauer: 00:24:20]
Måske, det var jeg byttede rundt.

[Thomas Blomseth: 00:24:21]
Ja, deliberate og meget bevidst om at gøre det, og det minder jeg også som det, vi taler om, at lære at spille musik. Altså, det har jeg jo set, også min egen proces med jazz-infektion, sådan jeg var teenager nærmest, det med, at man bruger den bevidste proces til at prøve så at skubbe det ned bag, og dengang havde jeg ikke system 1, system 2, terminologien, men skubbe det ned i system 1, så du kunne reagere intuitivt i situationen.

[Klaus Silberbauer: 00:24:48]
Men det er jo sygt hårdt.

[Thomas Blomseth: 00:24:49]
Ja.

[Klaus Silberbauer: 00:24:49]
Altså, man bliver jo så uendelig træt at øve sig på sit instrument. Altså, når man øver sig formelt, altså, den gang jeg gad øve mig ordentligt, hvor jeg sad og lavede rudimenter i timevis.

[Thomas Blomseth: 00:25:02]
Paraditler.

[Klaus Silberbauer: 00:25:03]
Blandt andet, og alle de andre. Og en ting har man få ondt i håndleden og over det hele, men det er også bare, det er kedeligt på den tunge måde. Og det er jo, fordi man hele tiden skal arbejde i, hvad hedder det, i det bevidste system, system 2. For at skubbe det tilbage i system 1. Og det samme med, med whatever it takes, specielt om det formelle ting, fordi vi bare ikke så gider til det formelle, vel, er fra naturens hånd, synes det ikke. Men, igen, en parallel der, fordi når vi så, hvis vi lader LLM'en kører det her i token space, hvis den skal regionere i token space, jamen det kan du se på din regning, du brænder simpelthen flere tokens af, fordi du skal generere tokens, til konteksten, konteksten bliver større, den skal hele tiden indlæses, osv. Men hvis det her sker ubevidst, så koster det sådan set ikke mere. Altså, du sætter de samme tokens igennem systemet, og så kommer der noget ud, det er bare bedre tokens, det er højere kvalitet. Og derfor er det jo også super, super spændende, når vi snakker om energiforbrug, og vi snakker om effektiviteten af de her modeller. Og det er jo ikke kun os, der synes det, så man arbejder jo benhårdt på, at træne de her modeller smartere. Det er blandt andet, og nu er man ude i mange omgange træning, men altså man snakker om prætræningen for det første, det er den gode, gamle, vi hælder kolossale mængder af data, gennem det her netværk, og det får lov til at afsætte mønstre. Det er det, der koster rigtig mange penge, som i rigtig mange penge. Det er lidt det samme, som altid groft sagt. Det er, og man prætræner ikke hver dag, det gør man ikke. Altså, når der kommer et par generationer af GPT, eller versioner af, hvad hedder det, af klot, så er det sådan set samme prætræning, fordi det er så dyrt at lave. men det, man justerer på, det er fine-tuning, eller post-træning, og så er man også begyndt at lave noget, der hedder midtræning, hvor man gønner filer på netværket, og det er der, man kan få de store gevinster. Og det, man er begyndt på, eller i et eller andet omfang, det er sikkert længere, end jeg tror og ved, det er noget, der hedder LATRO, som ligesom er en fine-tuning-metode, der specifikt går ind, og styrker netværkets evne til, at finde frem til den latente kunde. Og det har man store forhåbninger til. Og det kommer vi nok til at se ganske snart i, hvis ikke allerede, i de næste modeller. Jeg tror faktisk, du sendte mig en omtale NVIDIA's seneste model. Den mener jeg er fin-tunet med LATRO,

[Thomas Blomseth: 00:27:46]
så vidt jeg husker. Jeg tror faktisk, det var dig, der sendte den til mig.

[Klaus Silberbauer: 00:27:49]
Var det det? Det kan du se. Vi har haft meget podcast nu. Hvem er systemet, hvem er systemet, det godeste. Ja, det kan godt være, det var mig, der sendte den til dig. Men de bruger også mixture of experts. Altså det her med, at kunden sender de deler netværket, der sådan set giver mening, eller som netværker selv synes, giver mening i forhold til en problematik. Mamba, hvad hedder det, gearet hukommelser, og så videre. Så der sker noget der. Og jeg sad bare og var forundret over, at NVIDIA laver sin egen netværk. Men selvfølgelig gør det det. De har jo billigt hardware.

[Thomas Blomseth: 00:28:27]
Ja, lige for at indskyde der, nu nævnte mixture of experts, siden vi lavede den forrige episode om AI, så er det så lykkedes mig, at få sådan en Gemma 3-model fra Google, op og køre på min Mac Mini, i en 26 milliarder vægte udgave.

[Klaus Silberbauer: 00:28:45]
26 milliarder.

[Thomas Blomseth: 00:28:46]
Ja, men jeg har så 24 gigabyte rent på Mac Mini, og det kan så lade sig gøre, fordi det netop er en mixture of experts, hvor at den nu kun aktiveres, så vidt jeg husker, 4 milliarder vægt af gangen. Og det vil sige, at det kan den faktisk holde i den her hukommelse. Så det kan køre det.

[Klaus Silberbauer: 00:29:02]
Jeg troede faktisk, at MOE trods alt skulle holde det hele hukommelsen, men så brugt mindre GPU på at aktivere de forskellige ting. Men Mac OS har jo en ret fantastisk hukommelsesstyring, så det kan godt være, at den simpelthen kan swappe de nødvendige vægte ind. Det er i så fald ret imponerende.

[Thomas Blomseth: 00:29:21]
Så det begynder også, og det er jo netop det, der kommer ud af den her distilleringsproces, som vi også har gang i, som vi snakkede om det sidste, hvor at så tager man en meget større model, og så prøver at se, hvordan kan man kode den ned til en mindre model, som kan køre på noget billigere hardware. Og jeg synes, alt det, du nævner der, det peger igen i retningen af det, at det her, det er altså ikke en... Selvfølgelig er der nogle teoretiske aspekter, men det, det er i høj grad, det er jo ingeniørmæssig disciplin. Det er simpelthen, at der er folk, der har noget helt praktisk kunde, og det er også nogle folk, som får jobtilbud på en milliard dollars i bonus og sådan noget, som simpelthen ved, hvordan kører man sådan en træningskørsel, sådan at der kommer... Og det er jo det her helt sindssygt også, at man starter med terabytes af data, og du starter med kilowattimer, gigawattimer nærmest af strøm, og du har nogle meget dyre GPU'er, og så sender du dig så ind igennem det her, og vasker det ind igennem, og udvender osv., og det du får ud i den anden ende, det er en fil på nogle, måske nogle få gigabytes. Og den kørsel der, træningskørsel, den skal du jo være ret sikker på, når du er i de store labs der, at når vi har det her kørende i ugevis måske, og bruger alle de her ressourcer på det, så de der få gearbejder, der kommer ud i form af vægt i den anden ende, at de faktisk kan bruge sig til noget. Så det er derfor, der er noget sindssygt, værdifuld, praktisk viden hos nogle folk, som er med til at øge sandsynligheden for, at når du laver så dyr en kørsel, at så står du med en brugbar model i den anden ende.

[Klaus Silberbauer: 00:31:11]
Det forklarer lønningerne i den branche der.

[Thomas Blomseth: 00:31:13]
Ja. Så på den måde er det jo ikke... Er det måske ikke så overraskende?

[Klaus Silberbauer: 00:31:17]
Nej, men det er også det, der gør det så fedt. Fordi, altså, ikke det med lønningerne. Men at det der for rigtig mange, og mig, altså for os alle sammen, tror jeg, virker som en form for magi. Fordi det er jo... Altså det nejder jo også selv en enkelt Google-ansat i hvert fald, fordi jeg tror, at der var en entitet, et væsen inde i maskinen, som prøvede at komme ud. Fordi det er så fantastisk en illusion, af et tænkende væsen. Det er helt utroligt, hvad man kan få ud af den matematik, som du siger, kan pakkes ned i, ja, i dårdag er nogle få gigabyte, jo ikke særlig meget data. Selve beregningerne bag er jo heller ikke... Altså vi snakker jo ikke kvantemekanik hermel. Det er linjer og algebra. Det handler, så vidt jeg forstår helt utroligt meget, om at lægge til at trække fra, at der nærmere gange, gange, gange op. Bare gør det utroligt mange gange. Gange, mange gange. Og så det er i princippet meget simpelt. I princippet er neural netværk simpelt. Men, altså, og det der, det jeg tænker på her, det lugter jo af emergens, ikke? Og det skal man passe lidt på med. Fordi, det har man latent kunne. Der er faktisk nogen, der sagde, at man er ude i nogle emergentofænomener. Det er nok forkert at sige. Men funktionen af et neural netværk af en LLM, synes jeg, altså, jeg kan ikke lade være med at tænke gennem agents her, for vi har noget, der i princippet er simpelt. Når vi har nok af det, så sker der noget. Så kan det pludselig ting, som man tænkte, det er ikke matematik længere, det her. Det er noget helt andet. Men det er matematik. Jeg har ikke en pointe med det. Jeg synes bare, det er superspændende.

[Thomas Blomseth: 00:33:04]
Så tror jeg faktisk, at jeg har en pointe. Tak, gør jeg. Og det kan være, at jeg foregriber noget, du har.

[Klaus Silberbauer: 00:33:09]
Nu har System 2, eller hvad fanden, System 1 ramlet løs. Så må vi have System 2 på banen. Hvad er det, jeg prøver at sige?

[Thomas Blomseth: 00:33:19]
Ja, eller jeg ved ikke, om det foregriber noget, du havde tænkt dig at bringe frem, men du delte faktisk et billede, du tog af en slide forleden dag.

[Klaus Silberbauer: 00:33:28]
Javel.

[Thomas Blomseth: 00:33:29]
Og jeg tror, det var KPMG, der holdte det oplæg, men det er faktisk...

[Klaus Silberbauer: 00:33:33]
Nej, det var dansk industri.

[Thomas Blomseth: 00:33:34]
Ja, okay, men der står KPMG, og så er det faktisk kilden, det er Deloitte. det ene store revisionssatskab...

[Klaus Silberbauer: 00:33:39]
Ja, det var Ben Dallager, virkelig skarpe herre fra KPMG, der holdt et oplæg.

[Thomas Blomseth: 00:33:44]
Ja, hvor de så henviser deres kilder af et andet stort revisionsfirma. Nå, men det handler om fra stem til Steam, altså det med... Og det her som humanistiske egenskab, bliver mere vigtig inden for tech. Og da jeg så den, så tænker jeg, det kan vi måske opleve enige om, men så faktisk... Og det er måske heller ikke det, vi skal forvente af et stort revisionsfirma, de er i stand til at formulere det. men dig og mig som krypto-humanister i hvert fald, hvis vi kalder det det, kunne måske formulere det bedre. Fordi jeg synes, det som blev fremhævet, er måske sådan nærmest lidt banalt, eller ikke specifikt nok. På den her slide, der blev en kreativ problemløsning med AI. Okay, ja, hvad er det? Så er der adaptiv læring af fleksibilitet, ja, det lyder da også godt, ikke? Så er der kritisk tænkning af, at det er system 2, det kan være mere af det, ikke? Og så er der emotionel, indtilgældende sociale kompetencer. Og hvis jeg skulle være sådan mere spids i forhold til, hvad er det en humanist, der arbejder med, og hvad er det, som er meget relevant i forbindelse med AI, så er jeg tilbage til den der hest, som jeg måske skammer lidt omkring det her metamedium, som vi står overfor her. Og det, som humanister jo i virkeligheden beskæftiger sig med i den grad, det er jo medier. Det er jo, hvordan ting bliver medieret.

[Klaus Silberbauer: 00:35:10]
Ja, det er vigtigt at sige, ikke sådan nyhedsmedier, den her slags medier,

[Thomas Blomseth: 00:35:12]
men sådan mere i generelt forstand. Altså, hvis du er litterat, så beskæfter du dig med det skrevende medium. Altså, hvis du er kun historiker, så er det visuel medier. Altså, der er filmhistorie, der er teksten, Thomas,

[Klaus Silberbauer: 00:35:28]
og teksten kan være mange ting. Teksten kan, som vores gamle dansk bog i gymnasiet sagde, det kan være en rådside på en tallerken.

[Thomas Blomseth: 00:35:36]
Ja, og du har lingvister, alt muligt. Og alt det, der går igen der, historikere, de beordrer sig på kilder, som er medier, der siger noget om, hvordan tingene var før i tiden. Det er jo virkelig, at hvis man skal være hård på den måde, så er der jo faktisk ingen mennesker i humaniora. Alle de mennesker, du beskæfter dig med humaniora, de er medierer. Og derfor er the medium nok også the message, eller the subject, eller the object of study her.

[Klaus Silberbauer: 00:36:09]
Det bliver helt postmodern, det her.

[Thomas Blomseth: 00:36:11]
Ja, men der er jo også en krypto, både Foucault og Baudrillard og så videre, inden i mig også. Det løses her måske også. Men jeg tror, det er derfor, det er derfor humanister faktisk er endnu mindst interessant. Det er fordi humanister er vant til at beskæftige sig med medier, og med flertidighed og fortolkning. Og det er det, som sprogmodellerne, og nu er de multimodeller også, de stiller trådede, det er at kunne arbejde med medier på et metaniveau nærmest. Så det var min uddykning, vil jeg sige, af den slide, du sendte.

[Klaus Silberbauer: 00:36:55]
Det synes jeg var godt set i den enkelte slide, men jeg er jo enig med dig, og det hører med til historien, det har jo næsten gennemskud, tror jeg, at Bendala, han talte for en sal fyldt med folk fra rådgiverbranchen, som jeg er jo en del af. Og derfor handlede det her rigtig meget om, ja, måske både Deloitte's og KPMG's, du ved, sudden realization. At måske man ikke bare skal ansættes dem folk, der er gode til at regne. Humanister er måske dem, der står til at vinde mest ved det her, selvom mange vil være uenige med mig, fordi det er jo nogle tureagtige IP-røvende satan og de her modeller, ikke? Men alligevel tror jeg, altså jeg må sige som humanist selv, kan jeg jo føle mig frisat, at jeg pludselig kan så mange ting, som vil tage et liv at lære ellers, fordi det kræver en masse stem, som jeg ikke er god til. Til gengæld så bilder jeg mig ind, at det med systemtænkningen, og at se nogle mønstre her, det ligger lidt tættere på mig, ikke?

[Thomas Blomseth: 00:37:59]
Det jeg også kommer til at tænke på, det er i forhold til den der mediering, sådan noget som Gardamer og begrebet om horisontsammensmældning og så videre. Det er jo også noget af det, som er vigtigt, kan man sige, ud på fronten eller inden mellem vores sociale virkelighed og så alle lemmerne. Det der med at kunne prøve at forstå en mangefacisteret situation, og så sætte begreber på den, lave det om til diskurs, styre modelleren i retning af, formulere en måde at se en situation på, som er brugbar, som er gavnlig, som skaber værdi. Det er noget, humanister kan, hvis de satte sig ned sammen med modelleren og lærte at bruge det værktøj og aktivere det medium. Det med at forholde sig til tekst og redigere dem, kommentere dem, give tilbage meldinger, alt det der, det er sådan en grundlæggende humanistisk ting. Vi har jo gode venner også, der er i forlagsbranchen og sådan noget. Hvad skal der i forlagsbranchen? Der kommer noget tekst ind, man forholder sig til det, man kommenterer det, det bliver skrevet om, at det bliver formet. Det er jo noget, det her metamedie også har brug for. For at forlade de her gode aktiveringer, forlade brugbare aktiveringer inden modelleren.

[Klaus Silberbauer: 00:39:31]
Ja, og så synes jeg måske, at det siger et eller andet om, nu har jeg siddet og sagt, det er jo ren hematik. Ja, det er det. Men vi er jo også et eller andet sted bare ren fysik og kemi. det er sådan en underlig reduktiv tilgang til verden, så det kan vi bruge til så meget. Men det, at de her modeller kan fremkomme med nogle ret skarpe resonemanger med logisk tænkning, uden at det skal bearbejdes token for token, det synes jeg siger noget om mennesker. og jeg vil sige, det kan måske justere lidt på den der idé om, at kun stemmefolk, der kan tænke i formler og tænke i helt formelle tankerækker, kan fremkomme med noget af værdi. at humanister, som man kan sige har trænet på en anden måde, for nu at bruge det samme begreb, som vi bruger om netværk, også kvæg, det er da helt anderledes dataindtag, som humanister har, plus det, man så har generelt som menneske. at det også kan aflejres i vores hjerner som, hvad kan man sige, skarpe resonemanger, altså en skarp evne til at resonere, men måske bygget ud af nogle andre data, hvis det overhovedet giver mening. Altså, jeg synes, at det har været en meget redaktionistisk idé om, at der er nogen, der kan regne den ud, og det er dem, vi har brug for i vores verden, og så er der, du ved, fabulerende humanister, der bare finder på, groft sagt. Det siger måske mere om mine fordomme, end så mange andres, men jeg synes bare, det er interessant, at man så finder ud af, at noget af det skarpeste resonemang, der kommer ud af de her matematiske modeller, det er de her latente ting, som vi ikke rigtig kan sætte os ned og programmere. Det er noget, der skal trænes, og det fremkommer lidt tilfældigt, faktisk.

[Thomas Blomseth: 00:41:33]
Ja, eller så er det et spørgsmål, om det er så tilfældigt, fordi det er jo igen det med, hvad er modellerne trænet på, det er jo mennesken output, i hvert fald ind til et eller andet vist punkt. Nu begynder folk nærmest også at tale om det samme, som med jern, at der er det der meget, meget værdifulde jern, der er nede i de gamle skibsfrager, før de atmosfæriske atombombe prøvesprænger, ikke, fordi til visse målinstrumenter og sådan noget, kan du ikke bruge moderne stål eller jern,

[Klaus Silberbauer: 00:42:04]
fordi det er forurenet med cesium?

[Thomas Blomseth: 00:42:06]
Ja, isotorer, radioaktive isotorer, så der er jo nogen, der tjener gode penge på, at dykke ned til gamle vrav fra 1800'er og sådan noget, og hente kanoner og sådan noget, fordi de er meget værd, fordi de er ikke forurenet, med de samme isotorer som moderne stål. Nå, men det er en helt anden historie, men det begynder også... Jo, jeg forstår jo, jeg forstår metaforgeren. Altså det med, at der er noget indhold, som blev skabt før LLM-en blev sluppet løs på internatet, og det er ligesom det der gamle jern, som ikke er forurenet med de moderne isotorer.

[Klaus Silberbauer: 00:42:41]
Men der findes jo stadigvæk de her dataparker, som man kan træne, og man kan jo selv skaffe dem, man kan downloge dem, og man kan træne sit netværk på det, og det er jo, kan man sige, situationstegnet gamle data. Det kan være, at de bliver udbygget løbende, men det er ligesom the real deal, uden en masse afgenereret slop i. Men det er jo klart, hvis man hele tiden skal træne større modeller og nye modeller, så er man ude at høste, og så risikerer man at få skidt fra egne og andres modeller ind i træningsmaterialet. Og så er det jo de syntetiske data, og vi skal nok ikke forveksle det, altså det, at man får slop ind i træningen, og så de syntetiske data, som man laver. Syntetiske data kan for eksempel være genereret trin for trinbeskrivelser af alt muligt. Netop for at styrke de her resonerende vægte, de resonerende veje igennem netværket. Og det er det, som jeg tænker, at Lattro går ud på, det er, at man fodrer formelle tankerækker ind i et prætrænet netværk. Og så igen laver noget backpropagation på, du ved, hvad var godt, hvad var skidt, ligesom man jo generelt tænker, at gøre ved træning, og justere vægtende gang på gang. Så mere og mere syntetisk data bliver der også brugt. Men det tror jeg ikke nødvendigvis er et problem. Det er jo mere en måde at lave ren data på, hvor man ved, hvad det her data gør ved netværket. Med ind og fodret og med ravl og krat fra ens crawler.

[Thomas Blomseth: 00:44:12]
Det minder om, jeg har set inden for den seneste måneds tid, at en fyr, han har trænet en model med et Nulles Cut-Off i 1931.

[Klaus Silberbauer: 00:44:25]
Som at snakke med sin bedste far.

[Thomas Blomseth: 00:44:27]
Ja, for at sige. Eller Ollefar, eller sådan noget. Ja. Og jeg tror, man kan downloade den på Hogan-Face, så man kan køre den hjemme. Så kan du tale med den så om, at man ikke engang... Der er jo kun noget til første verdenskrig og sådan noget.

[Klaus Silberbauer: 00:44:44]
Fantastisk.

[Thomas Blomseth: 00:44:45]
Ja. Så det er jo også, altså... Det er jo både et teknisk eksperiment, men igen er vi overrigtet noget, der begynder at ligne nærmest performance kunst, eller en installation også, ikke? Altså det er en eller anden form for digital kunstværk nærmest, at lave sådan en model, ikke?

[Klaus Silberbauer: 00:45:01]
Det er fascinerende. Og det fik man så til at tænke på, at noget, vi så ikke har nævnts her, fordi jeg var lidt inde på det med at sige, hvor meget viden ligger der i de her vægte, og hvor meget kunden ligger der i de her vægte. Og begge dele for eksempel, altså kan vi egentlig skilne mellem det her kunden noget og det her vide noget? Det lader til, når vi kigger på latent kunden i et netværk, at der er sgu ikke særlig stor forskel. Hvis vi snakker om vægte mellem neuroner, jamen så... jeg ved, at det er en plus en eller to, men jeg... eller kan jeg regne? Altså er det... Forstår du, hvad jeg mener? Er det en redskab? Er det, jeg placerer? Eller er det bare viden, som nu en gang for alle er aflejret? Men så... De fleste modeller her, de er jo så udstyret. Det er jo ikke noget, der ligger i modellen, men de er udstyret med et stykke software, der gør, at de kan gå på nettet. Det vil sige, de kan gå ud og høste ny viden i et eller andet grad. Men det skal vi ikke blande sammen med det, som LLM kan, fordi hvis du går ud og søger på nettet, og du finder en side, der handler om et eller andet emne, typisk Wikipedia eller sådan noget, jamen så bliver det jo sådan set bare tilføjet kontekstvinduet. Det bliver bare en dosis tokens, der bliver skudt ind i netværket, og er med til at styre netværket over i den, eller styrer forspørgselen, styrer tokens i den del af netværket i vektorrummet, som giver mening her. Så på den måde er det en støttende foranstaltning, der kan gøre outputtet bedre. Det er så også forklaringen på, hvorfor nogle forspørgseler bliver så crazy dyre tokens, fordi hvis du lige går ud og høster 20 større websites, og putter med i dine forspørgsel, så kan det lov dig for, at man får brændt tokens af, fordi det er jo sådan set bare kontekst.

[Thomas Blomseth: 00:46:37]
Jo, der er også det, der hedder in-context learning, som overraskede folk også, det med at ved at stoppe ting inde i konteksten, så er det som om, at netværket på stedet begynder at kunne se nogle nye mønstre, eller lære nogle ting, som egentlig ikke ligger inde i de statiske vægtene bagved. Og det er jo også noget af det, der bliver udnyttet.

[Klaus Silberbauer: 00:46:58]
Det skal jeg lige forstå, fordi det må jo også være latent kunden, der bliver triggeret der. Altså, din prompt bliver udvidet helt exceptionelt, hvis du knaller en søgning oveni. Det vil sige, at der er en masse trigger-ord, der er en masse begreber, der får tændt nye dele af netværket. Men du siger, at det er noget ny kunden, eller hvad sagde du der?

[Thomas Blomseth: 00:47:18]
Ja, altså, der er nogen, der har forsket i det, og simpelthen har nogle evalueringer, hvor man ved, at det, man fået ind i konteksten, er noget, som netværket ikke er blevet trænet med. Og alligevel er det så i stand til, på baggrund af det, der er i de statiske vægte, og det, der er i kontekst, er faktisk at uddrage det nye interessante ved det, du har i konteksten. Og det var heller ikke noget med, og det var også sådan en praktisk, kan man sige, opdagelse, som er så bagefter begyndt at prøve at finde ud af, rent teoretisk, hvordan overhovedet kan vi forklare det også?

[Klaus Silberbauer: 00:47:58]
Ja, fordi vi er enige om, at netværket ikke lærer noget nyt. Altså, de netværk, vi sidder og arbejder med her, de er jo trænet og låst, fordi det er inference, det er ikke training. Men igen, og det er måske her i virgensen, så alligevel spiller ind, fordi samspillet mellem inputtet og de mange tokens, du blæder sig igennem, kan man sige, og det, der sker i transformeren, det er så komplekst. Der er simpelthen så mange muligheder i det der valgtræ, og det der, jeg plejer at sige, et 5.000-dimensionale stort vektorrum, og det er nok et gammelt citat, det er meget, meget større.

[Thomas Blomseth: 00:48:33]
Jamen, det er jo, det er jo et billioner, bilarder dimensioner, stort vektorrum.

[Klaus Silberbauer: 00:48:40]
Er det det her? Det skal jeg slet ikke vormod i den matematik der, men det er i hvert fald, det er kolossalt, og der må jo ske, altså, opstår jeg med gældte fænomener der, altså, som vi har svært ved at forklare, fordi det er så kolossalt komplekst, og så kolossalt stort. Men det er jo super spændende, fordi så begynder vi måske også at nedbryde et eller andet sted, opfattelsen af inputet, af prompten, og af vægtene. Og det er ligesom summen af de der dele, der giver et output, som jeg startede med at sige, hvor man får det der, wow, hvor fanden kom det fra? Altså, hvor det hele bare summer op til noget, noget der i hvert fald imponerer mig.

[Thomas Blomseth: 00:49:25]
Ja, nu nævnte du det med at søgne, det er jo et eksempel på det med, at give værktøjer, og det er en del af det, man kalder for the harness, eller seeltøjet omkring en model, at en model kan kalde værktøjer, når den har brug for at kunne gøre et eller andet. Og det er jo også der, at modellerne er blevet meget bedre til, når de skal regne 2 plus 2 ud, og finde ud af, hvad det er, og være sikker på, at det giver det samme hver gang og hver dag, at man får et deterministisk udkommet. så er det jo sikre at kalde et værktøj, som giver et deterministisk svar. Og vi har talt om det tidligere også, men André Caparty, han har jo en idé om, der måske kunne være noget, han kalder det en kognitiv kerne. Altså, at man simpelthen, vi tager den her tur, og laver de her større og større modeller, og vildere og vildere modeller, så ude på den anden side, det ligger der faktisk en mulighed, så for at distillere, det er nede til en ekstremt vildig kognitiv kerne, som kan resonere, og det man så gør, det er så selvfølgelig at komme kontekst, på det mix, som vi har talt om, men så sammen med værktøjer. Hvis vi så giver værktøjer, sådan en kognitiv kernemodel, så kan den så afgøre, hvornår den ikke selv skal lave det i tokenspace, men den bare skal spørge sit værktøj om at gøre det. Og det er jo også en mulighed, så måske for at kunne få meget, meget kapabel inference helt ud i the edge på nogle meget mindre devices.

[Klaus Silberbauer: 00:51:05]
Men er det ikke også det, der giver dygtige mennesker? Altså evnen til at optage tokens løbende, det sætter gang i latent kunden og viden i det netværk, vi render rundt med, det vi har lært. Modsat LLM'er så kan vi dog trods alt stadigvæk lære lidt igennem alderen og igennem årene. Men også det, at vi så udgiver tokens, vi outputter, tænker over det, der blev sagt, formaliserer det, fodrer det ind igen med det input, som vi så får fra andre. Altså det er, har vi bygget de her LLM'er, fordi de minder om det, vi gør, eller er vi bare fascineret af dem, fordi de såfældigvis minder om det, vi gør? Det ved jeg sgu ikke. Men der må være noget for forskere ud i kognitionen at studere her. For det er på en eller anden måde nogle forsimple modeller af en menneske hern. Det begynder jeg at føle med de ting, der dukker op her om latintkunden.

[Thomas Blomseth: 00:52:09]
Ja, eller så er vi måske i virkeligheden enklere, end vi gerne ville bilde os selv ind. Men det, du nævner, det er mere...

[Klaus Silberbauer: 00:52:15]
Den har også drillet mig lidt, den der ting.

[Thomas Blomseth: 00:52:18]
Så dybe er vi måske heller ikke.

[Klaus Silberbauer: 00:52:20]
Nej, men vi er sensemaker jo, ikke også? Vi siger, uha, hvad er det, der sker dybt på indersiden der? Vi ved det ikke. Lige så lidt som Claude ved, hvad der sker inde i nettet, altså i netværket. Det ved den ikke. Den kan ikke se sig selv udefra. Den kan kun bruge nogle ret forsimplede resonemangsmodeller til at tænke i situationstegn. Så frem til, hvorfor månne jeg fandt på det her? Hvor må det komme fra? Og det er lidt det samme også. Vi kan sgu ikke kigge ind i vores sind. Vi kan ikke studere vores bevidsthed som et objekt, men vi kan prøve at resonere om det, og vi kan i den grad sindesmaker omkring det. Det gør vi jo gerne og ofte.

[Thomas Blomseth: 00:52:55]
Her inden for de sidste, nærmest bare uge, har jeg set nogle interviewer med Demis Hassabis fra Google DeepMind, som jo også fik Nobelpris i kemi, var det jo, for det med proteinfoldning. Men jeg hører, hvad han siger, netop med det, du taler om, som er continual learning. Altså det anser han faktisk op, at være et af de udstående problemer i forhold til at nå til AGI. Og han er nede på, og han mener, at der formentlig kun er et par udstående problemer nærmest tilbage. Og det er altså noget andet udmelding, end han kom med for bare nogle få år siden. Men det er helt klart den der ting med, at i stedet for at stå med den her færdigbagte nogle gigabyte stor model efter sådan en dyr træningskørsel, hvordan kan man så faktisk få immoral til at blive det her mere plastiske medium, som vores hjerner jo er. Det er noget, der optager ham. Det er noget af det, der mangler.

[Klaus Silberbauer: 00:53:59]
jeg føler bare, at det ikke bare er brute force. Det handler ikke om, at vi skal kunne træne et netværk igen og igen flere gange i minuttet, eller hvad det kræver i stedet for en gang hver fire måneder, eller hvad man nu bruger på de her kæmpe clusters. Det må være noget andet. Det må være noget med at justere vægte løbende i det små og sådan noget der, men det skal jeg ikke prøve at gøre mig klog på. Det sjov er, det var der, jeg tænkte mig at slutte den her episode. Det var at sige, at hvis du spurgte mig for et år til et eller andet side, så vil jeg sige, LLM'ere er ikke vejen til EGI. Jeg følte, at LLM'ere var et eller andet sted bare en for kromet, imponerende med en for kromet sludermaskinen. Kvindessensen af en chatbot. Og det der er altså, synes jeg selv, blevet klogere. Jeg tror faktisk, at det at starte med at lave et sprogcenter, har gjort, at vi har fundet ud af, at et sprogcenter er ikke bare et sprogcenter. Det er meget mere komplekst end det. Det er faktisk der, resonemanget også sker. Det er i sprogcentret, at tænkningen sker. Og at det, vi bilder os ind af tænkning, måske faktisk mere end illusion. Og det peger jo så i retning af, at EGI'en måske ligger uhyggeligt tæt på. Men vi får se. Når den kommer, så laver vi en episode om det i hvert fald.

[Thomas Blomseth: 00:55:19]
Hvis vi når den.

[Klaus Silberbauer: 00:55:20]
Eller så laver den en episode om os.

[Thomas Blomseth: 00:55:22]
Præcis.

[Klaus Silberbauer: 00:55:24]
Tak, fordi du hjælper med at forstå, Thomas. Det hjælper lidt.

[Thomas Blomseth: 00:55:26]
Ellers er vi jo mindst forvirret på et højreplan.

[Klaus Silberbauer: 00:55:29]
Ja, det er præcis. Du har lyttet til Silberbauer og Blomseth. En uafhængig og usponsoreret podcast om teknologi, systemer, erkendelse og om de mønstre, der driver vores virkelighed. Følg os på Bluesky, hvor vi poster opfølgende materiale for hver episode og altid er klar på en dialog, kommentar, idéer og kritik. Vores handle er snabel-a silberblom.dk Og ikke mindst, hvis du kan lide, hvad du hører, så anbefale os til venner, familie og kolleger og smid gerne stjerner efter os på Apple Podcast. Vi higer jo alle efter anerkendelse i en eller anden form. Tak for, at du lytter med.