Silberbauer & Blomseth

122: Selvkørende sommerhygge – FSD/AI/IS

Episode 122

Use Left/Right to seek, Home/End to jump to start or end. Hold shift to jump forward or backward.

0:00 | 57:31

Klaus fik lovet Thomas en prøvetur i teslaen med FSD, så han må begive sig ad motor-, lande-, og grusveje for at finde frem til koordinaterne på Thomas’ hemmelige opholdssted langt mod nord.

Det bliver til et selvkørende cruise gennem sommerlandet på jagt efter en legendarisk ko-is, som dog ikke lader sig finde, ad smalle veje og gennem 90 graders kurver med særdeles behagelig lateral acceleration — og med et komisk mislykket forsøg på en automatisk parkering.

Får de to nørder deres is? Er tre kugler mon for meget? Skal der guf på? Overlever alle cykelturister? Og har Thomas virkelig overvågningsdroner flyvende over sin forskningsstation?

****

Nu også på YouTube — hvis du bedst kan lide din podcast med uden video. https://youtube.com/@silberblom

****

Hvem betaler for Silberbauer & Blomseth?

Det gør vi selv. Vores indhold er på ingen måde egnet til sponsorer eller reklamer for proteinpulver, VPN-forbindelse eller e-bøger. Så hosting, udstyr og alt det der er på egen regning. 

Det eneste vi beder om til gengæld (hvis du altså kan lide det, vi laver) er at du smider stjerner, og måske oven i købet en lille anbefaling, efter os på Apple Podcast. Det betyder alverden. Vi higer jo allesammen efter anerkendelse i en eller anden form. 

Husk at følge os på Bluesky (@silberblom)

Linktree

[Klaus Silberbauer: 00:00:00]
Klaus her. Sidste episode fik jeg lovet Thomas en prøvetur med full self-driving fra Tesla. Det betyder, at jeg har måttet give mig ud på motorveje og landeveje for at nå over i den anden ende af landet. For som trofaste lyttere ved, så bor vi ingen lunde i nærheden af hinanden. Thomas og jeg har lavet alle vores episoder af Silberbauer og Blomseth på remoten. Undtagen den ene gang, hvor vi mødtes dybt under jorden i Regan Vest-bunkeren. Men jeg tænkte, at en lille sommerferieepisode ude fra sommerlandet, hvor vi kan snakke om FSD og AI og fundis, eller hvad vi skal, kunne være på sin plads. Så jeg er på vej ud til der, hvor Thomas bor. Nu er det sådan, at jeg kan ikke sige præcis, hvor det er Thomas bor. Blot, at det er i Nordjylland og langt uden for lands lov og ret. Det er en del af aftalen. Og hvorfor det forholder sig sådan, at Thomas bor lidt secluded, det skal jeg ikke spørge ind til. Det kan være, at han har gang i projekter, der ikke tog der dagens lys. Jeg ved det ikke. Så jeg kører faktisk efter nogle GPS-koordinater. Eller kører og kører. Det betyder jo, at det faktisk er de to specialchips i en Tesla Model 3 fra 2024, der kører for mig. Jeg har brugt full self-driving, siden det kom ud i Danmark. Og jeg er stadigvæk lidt på månen over det, det må jeg sige. Jeg gider ikke at tale om Elon Musks fascisme og det kapitalistiske race, som Tesla også er en del af. Det eneste, jeg vil forholde mig til lige nu og her, det er, at den her teknologi er banebrydende. Det handler ikke så meget om bilen og om firmaet. Det handler om, hvordan vi har flyttet os på det, som AI kan. Og det, at AI nu er en del af den fysiske verden. Den interagerer i realtid med den fysiske verden. Her i de første par dage i sommerferien har jeg kørt 500-600 km uden at røre ved rattet, bogstaveligt talt. Den eneste gang, jeg følte, at jeg er begyndt at tage over fra bilen, der var det mig, der tog fejl. Jeg troede, at jeg skulle træde på bremsen, fordi en bil kom til venstre fra mig, mens jeg var på vej ud i T-kryds, og jeg skulle dreje til venstre. Det, jeg ikke havde set, men som FSD havde set, det var, at den bil blinkede til højre for at køre ind før min bane. Så alt var godt. Og det viser mig, at et eller andet sted er teknologien, om ikke mennesket, overlejende. Det kan man ikke sige. Men specifikt det der med at køre bil. Det går meget godt. Så nu samler vi Thomas op i hans lair. og tager en tur, og får hans friske øjne på, hvordan det er at køre med FSD. 

Goddag, den herre. 

Goddag. Den er vildt lige. Den står klar. Ja. Den kørte efter et vejnavn og et vejnummer, selvom jeg havde givet den koordinater. 

Okay. Nu vil jeg ikke sige nogen vejnavne. Nej. Der bliver optaget. Ja, du får lige den her på. Jamen, hvad vil du have, jeg gør? Så bliver det trykket på Start FSD.

[Thomas Blomseth: 00:03:51]
Ja. Og så ratstammen, den kører sig faktisk ud.

[Klaus Silberbauer: 00:03:56]
Det er min kørestilling.

[Thomas Blomseth: 00:03:57]
Det er din kørestilling.

[Klaus Silberbauer: 00:03:58]
Det er sådan, kan man sige, det er så vanligt i systemet.

[Thomas Blomseth: 00:04:00]
Ja.

[Klaus Silberbauer: 00:04:01]
Men hvis man skal køre rigtig meget med det her, så kan man jo sætte sig som man vil, kan man sige.

[Thomas Blomseth: 00:04:06]
Det her bliver spændende, og se om den kan finde ud af, hvad en runde er.

[Klaus Silberbauer: 00:04:09]
Det er så meget, meget små grusbelagte, jeg vil næsten kalde det stier. Et eller andet sted i Nordenfjords.

[Thomas Blomseth: 00:04:16]
Et eller andet sted i Nordenfjords. Ikke nærmere. Ikke nærmere. Men det er sådan, det er sandt. Kan den finde ud af at... Er det en fornuftig vej, det her? Nej, den skal altså ikke op til det her hus. Det er sådan set ikke offentlig vej, det her længere. Den er fucked up. Ja.

[Klaus Silberbauer: 00:04:34]
Så vi skal bakke, det du siger?

[Thomas Blomseth: 00:04:36]
Ja. Godt. Her er den på vej ud over klitten. Se, så siger den. Ja.

[Klaus Silberbauer: 00:04:41]
Det er aktiveret. Hvad er der sket? Ja, du er uforvild.

[Thomas Blomseth: 00:04:43]
Ja.

[Klaus Silberbauer: 00:04:44]
Der er mange, der siger, at det svagledede det her system efterhånden, det er navigationen. Selvom det er frisk opdateret Google-data, så er det bare svært at lave navigation, når man er ude på de store veje.

[Thomas Blomseth: 00:04:58]
Så det her, det her tænker også, det er bare sådan et testområde her på det her gode sted. Ja, virkelig. Det vil jeg nemlig gerne se.

[Klaus Silberbauer: 00:05:06]
Så vi er allerede fejlet, du har det?

[Thomas Blomseth: 00:05:07]
Ja. Men så hvis du bakker op til det kryds, vi kommer fra, vi kan ikke komme videre.

[Klaus Silberbauer: 00:05:13]
Vi kan heller ikke komme længere frem.

[Thomas Blomseth: 00:05:14]
Nej, ikke for alvor. Så det er let at bare...

[Klaus Silberbauer: 00:05:16]
Hvis vi overgød, og man ikke synes, det var pinligt at køre rundt på folks grund, så kunne man lade den fortsætte. Den skulle nok finde ud af det på et tidspunkt, fordi så er den begyndt at mappe, så vil den køre ud, hvor den ikke kan komme længere. Så vil den vende om, så vil den prøve noget andet af, og af sidste ende vil den nok finde tilbage til en stor vej. Ja. Det gider vi bare ikke lige nu, men det skal den jo også gøre, hvis man vildt og lidt vil have en helt autonom bil. Så nytter der ikke noget, at den bare står og kigger ind i et væg til sidst.

[Thomas Blomseth: 00:05:46]
Ja, så det er faktisk mere initiativ, kan man sige. Altså, det minder mere om sådan en GPS måske. Ja, så skal vi op af den der... Nej, vi skal op tilbage af den der, hvor hun kom gående fra.

[Klaus Silberbauer: 00:05:59]
Ja, nu skal vi passe på, for nu er det mig, der kører.

[Thomas Blomseth: 00:06:01]
Ja.

[Klaus Silberbauer: 00:06:01]
Det er faktisk farligere.

[Thomas Blomseth: 00:06:03]
Ja, der er faktisk en fodgænger. Ja, der er jeg.

[Klaus Silberbauer: 00:06:04]
Ja, jeg har en lige kamera her. Sådan der. Så prøver vi igen, ikke?

[Thomas Blomseth: 00:06:14]
Så prøver vi igen, ja. Altså, nu her på det her måde bliver det også interessant, fordi der er faktisk en 20 km hastighedsbegrænsning, som er sådan lidt en ukurant hastighedsbegrænsning. Den findes jo ikke.

[Klaus Silberbauer: 00:06:27]
Vi trykker på knappen her, så prøver vi at se, hvad den siger.

[Thomas Blomseth: 00:06:29]
Ja, den tror så faktisk, at den må køre 50 km/t indtil videre.

[Klaus Silberbauer: 00:06:33]
Men den kører efter forholdene. Ja. Og det er faktisk noget, man kan slå til herfra. Jeg havde sagt til den, at den må gerne gå over. Den må faktisk... Jeg har givet den buffer op til 75 km/t. Det ville den aldrig nogensinde gøre her.

[Thomas Blomseth: 00:06:49]
Nej.

[Klaus Silberbauer: 00:06:50]
Og den måde, den kører på... Jeg bilder mig også ind, at den ved udmærket godt, at det er grus, det her.

[Thomas Blomseth: 00:06:54]
Ja.

[Klaus Silberbauer: 00:06:55]
Den har jo, trods alt video, at den kan se... Læg mærke til, hvordan den håndterer.

[Thomas Blomseth: 00:07:00]
Bumpen, ganske udmærket. Jeg vil også sige, at den holder sig. Nu kører den så 20 km/t. Nu er den nået op af 21 km/t. Men den kører stadigvæk pænere her, end de fleste nordmænd, som kører på den her grusvej. Fordi han har nemlig meget travlt.

[Klaus Silberbauer: 00:07:12]
Tesla har faktisk... Tesla har vundet, de kører pænere end nordmænd. Hahaha.

[Thomas Blomseth: 00:07:18]
Det er jo ikke meget, det siger.

[Klaus Silberbauer: 00:07:19]
Nej. Den kører nok også pænere, end hollændere. Ja. Den kan godt tage den et par kilometer over hastighedsgrænsen. Det kan den sagtens finde på. Men det er stadigvæk inden for GPS-hastighedsgrænsen. Den er jo undertunet sådan et speedometer, ikke?

[Thomas Blomseth: 00:07:37]
Nu er der faktisk et 20 km/t. Og den ser den faktisk. Og der satte den sådan noget. Og det var så også det andet 20 km/t-skilt, vi placerede, det var gemt inde i noget buscase. Ja. Så til dens forsvar. Yes.

[Klaus Silberbauer: 00:07:54]
På vej herud, kommer jeg bagved en traktor. På de meget snørklede veje. Jeg har aldrig set bilen overhale før på landevejen. Det gjorde den der. Men den ventede til vejen var åben, så man kunne se langt frem, så overhalede den. Før jeg selv greb ind, fordi jeg begyndte at blive utålmodig.

[Thomas Blomseth: 00:08:15]
Altså, det her, det er et meget, meget flot venstre-seng. Det er meget, meget flottere end de fleste bilister. For lige præcis her, der bliver simpelthen skåret svang i øjnene. Ja.

[Klaus Silberbauer: 00:08:24]
Og det er noget skift, hvis man kommer fra den her side.

[Thomas Blomseth: 00:08:26]
Ja.

[Klaus Silberbauer: 00:08:26]
At der pludselig kommer en bil væltende ind over. Så kan man mærke sig, hvordan den håndterer. Vi skal præcis nu og det her, det er audio-only. Det her er en ikke specielt bred, dog dejligt. nyasfalteret vej, men uden afstribning overhovedet. Hverken i siderne eller i midten. Det er bare sort asfalt. Og den holder friske 73 km/t. Der kommer modkørende biler. Og den har 100% styr på, hvilken bane vi hører hjemme i. Ingen phantom braking eller underlige reaktioner på den måde.

[Thomas Blomseth: 00:09:00]
Nej, her, altså det med at kunne skille mellem, hvor er den hårde græns for asfalten, og hvordan går den så hårdt. Det er grå grus, der er lige ved siden af. Men den ligger rigtig fint. Den er også bedre end de fleste mennesker.

[Klaus Silberbauer: 00:09:12]
Den så fodgængeren, før vi gjorde den.

[Thomas Blomseth: 00:09:14]
en, der kommer gående i venstre side, som man skal på landevejen. Præcis, korrekt imod os.

[Klaus Silberbauer: 00:09:20]
Men den tog farten af, ja, 15-20 km/t ned og passerer det med en fin marken. og passerer det med en fin margin. Og så det er det, jeg finder fascinerende, og det er jo ikke, det skal ikke være, som vi også sagde ved sidste episode, det skal ikke være en Tesla-reklame, det her, fordi det her, det handler om teknologien. Men, som du, måske allerede nu, men i hvert fald på turen her, finder ud af, den meget, meget menneskelige måde, den kører på. Altså, som en menneske, der har kørt bil i rigtig mange år, og ikke har nogen følelser om indspillet. Kører fuldstændig efter bogen, ikke? Det er meget, meget fascinerende. Det tror jeg ikke, man kunne lave med procedural-kodning, eller modulær-kodning, eller hvad man kalder det. Øhm, nu kommer vi til et kryds, der er virkelig dårlig overblik her, altså. Så den sniger sig lidt ud, så kameraet oppe i forruden, hvidvinkelkamera, der sidder så tre stykker. Den kan se til begge sider.

[Thomas Blomseth: 00:10:18]
Men faktisk så sniger den sig ikke mere ud, den sniger sig mindre ud, end et menneske bilist, for den har de kamera, der sidder foran.

[Klaus Silberbauer: 00:10:24]
Den har faktisk ikke noget ude foran, der kan se til siderne. Det kamera, der ser frem og til siderne, der sidder to eller tre kamera heroppe ved forruden, og det ene er hvidvinkel. Det svarer, jeg tror, hvidvinkel svarer til kameraet, du ser bagud her, måske mere. Så den ser ret langt ud til siderne, men den har ikke næsekamera, der kan kigge ud til siderne. Det har også været et kritikpunkt, men det lader ikke til, at det er strengt nødvendigt.

[Thomas Blomseth: 00:10:49]
Hvis det virker måske som om, at dens hvidvinkel er bedre end vores egen hvidvinkel, ikke?

[Klaus Silberbauer: 00:10:54]
Jo jo, for sådan, altså den har måske, jeg ved ikke, hvad det er for et fisheye-kamera, der sidder deroppe. Og den ser begge retninger på en gang. Det gør også en forskel. Og så sidder den trods alt en god halv meter, tre kvart meter, længere fremme end en menneskeligt hoved gør, og højere op. Fordi det sidder helt heroppe foroven.

[Thomas Blomseth: 00:11:15]
Man skal være noget bælgøjet som menneske, for at kunne se på den.

[Klaus Silberbauer: 00:11:20]
Martin Feldman kan måske. Han havde en chance.

[Thomas Blomseth: 00:11:25]
Vi har lige kørt igennem et virkelig 90 grader sving, hvor der ofte er problemer med folk, der kommer for langt over, fordi de ikke har taget farten af. Der er den også rigtig fint.

[Klaus Silberbauer: 00:11:37]
Jeg tror faktisk, at jeg har set en bil ligge der på et tidspunkt, som ikke helt så svinget. Eller prøvet at navigere det med lidt for høj hastighed. Det du kan se her på skærmen, nu kører den fuldskærmvisualisering. Nu er der ikke meget at se på her, men det du lægger mærke til, det er, at den visualiserer jo en del af inputet. Ikke alt, men hvor den mener, at vejen er...

[Thomas Blomseth: 00:12:02]
Her har den faktisk set et fuldt stop. Den har set et fuldt stop, ja.

[Klaus Silberbauer: 00:12:06]
Og det er en del mig også vigtigt, at den ser dem. Det kan man sige, det er jo lækkert at sige for den amerikanske træning. De har jo næsten ikke andet end stopskilte. Og der var faktisk problemer med, at de tillod den at runde lidt frem over et stopskilte, hvis der ikke kommer ud trafik. Og det er ulovligt. Du skal ned på 0. Det gør den så også nu. Der var helt ned at stoppe, og så kørte den igen. Men det er jo de der små, hårde grænser, som også forskellige landes lovgivninger tager lidt forskelligt på. Fordi svenskerne har jo faktisk sagt, at de vil veto FSD i EU, hvis ikke den får en hård hastighedsgrænse. Det vil sige på en 80 km strækning. Max 80. Og hvis man har rigtig stivstikker, så vil man sige, det er jo rigtig nok. Det er jo efter loven.

[Thomas Blomseth: 00:12:52]
Ja, bortset fra.

[Klaus Silberbauer: 00:12:53]
Men bortset fra, at hvis trafikken ruller ved 85 km/t, så er det en pain ind osv., og hvordan den ligger og kører 80 km/t. Så derfor har den altså lidt buffer. Men også buffer den anden vej.

[Thomas Blomseth: 00:13:05]
Ja, der kan jo også være situationer, hvor du faktisk har behov for, for at undgå noget farligt. Lige at trække den op over.

[Klaus Silberbauer: 00:13:13]
Man kan træde på speederen uden at, altså det vil ikke slå FSD fra, det vil bare accelerere bilen. Så brokker den sig selvfølgelig, hvis man gør det for meget.

[Thomas Blomseth: 00:13:21]
Vi måtte lige bemærke nærmest et fuldt 90 grader sving igen. Så på den anden vej her, hvor der nu er striber og tilstrækkelig plads i begge spor. Men det navigerede den også virkelig klart.

[Klaus Silberbauer: 00:13:31]
Ja, men ikke morfar-agtigt eller kedeligt.

[Thomas Blomseth: 00:13:33]
Overhovedet ikke.

[Klaus Silberbauer: 00:13:34]
Det var sådan, der var en god fart rund i svinget. Det har den lagt mærke til, fordi jeg har prøvet at give lidt ekstra pedal i sådan en sving der. Og deroppe, der sagde den, du ved at være opmærksom, høj lateral hastighed. Eller høj lateral acceleration, kalder den den.

[Thomas Blomseth: 00:13:52]
En sidelert? Ja.

[Klaus Silberbauer: 00:13:54]
Så hvis du trækker lidt for mange G, så er den opmærksom. Og det er ikke fordi, den ikke kan håndtere det. Men jeg tror også, den er tunet efter, at det skal være behageligt. Du skal ikke sidde og blive sendt frem og tilbage i kabinen. Altså, det ville ikke være fedt.

[Thomas Blomseth: 00:14:08]
Nej, den har vel også accelerometer. Det ser jo en hver mobiltelefon. En hver wearable.

[Klaus Silberbauer: 00:14:14]
Jeg tror, den bruger traction control. Den ved lige præcis, hvor meget lateral acceleration man har. Konstant.

[Thomas Blomseth: 00:14:22]
Den kunne sådan set godt køre 80 km/h, men vi ligger på 73-74 km/h. Ja.

[Klaus Silberbauer: 00:14:28]
Den mener, at det er rimeligt.

[Thomas Blomseth: 00:14:30]
Ja, men vi skal også dreje om 400 km/h. 300 km/h. Har du fundet ud af, og kan man give den forskellige kørestilere? Ikke i Danmark. Ikke i Danmark?

[Klaus Silberbauer: 00:14:41]
Nej. På en amerikansk version, der kan du gå fra sloth til Mad Max i 5-trin. Og det er sådan en blanding af, kan man sige, aggression. Sikkert måske noget følgedistance. Tålmodighed før den overhaler. Og også hastighed. Det er jo sådan, at mange amerikanere opfatter hastighedsgrænser som meget vejledende.

[Thomas Blomseth: 00:15:02]
Noget sagde Texas.

[Klaus Silberbauer: 00:15:04]
Ja, mere end lovgivet. Ja, præcis. Så de overskrider jo altså os voldsomt, vil den europæer sige. Ja. Min indtryk er, at vi i Europa har også hastighedsgrænser, der passer bedre til forhold.

[Thomas Blomseth: 00:15:15]
Nu skal vi så...

[Klaus Silberbauer: 00:15:16]
Den valgte ikke at køre ind her. Den valgte at køre næste gang over den.

[Thomas Blomseth: 00:15:20]
Okay, men der er nemlig skilt om at møde asfaltvej. Men der kommer så andre bil, der kører nu. Så... Ja, ja.

[Klaus Silberbauer: 00:15:26]
Det kunne være spændende at se, hvis der sker. Ja. Ved lidt vejearbejde. Plattenhånd ser fint. Øh, nej. Jeg tror, altså... Der er brug for mere elastik i USA på hastighedsgrænserne. Ja. I Europa, specielt i Danmark, er vejvæsenet jo altså. Færdselsstyrelsen hedder det vel. Det var det ikke det. Eller Vejdirektoratet. Det er jo det. Er rigtig, rigtig gode til at skilte. Er rigtig gode til at bygge veje. Og generelt er skiltet rigtig fornuftigt. Så det giver mere... Altså det giver mening at holde sig indenfor markederne. Ja. I Danmark. Det kan også være, at det vil være ganske fint at køre indenfor en hård hastighedsgrænsen. Jeg synes, at de svenskerne er blevet lidt politisk grønne der. Jeg skal ikke kunne sige, om det handler om, at man har en stolt bilindustri stadigvæk. Og med en kinesisk konkurrence. Det ved jeg ikke noget om. Men jeg er bange for, at både Tyskland og Sverige kan give problemer for den endelige udbredelse af det her system.

[Thomas Blomseth: 00:16:18]
Men det er så lidt svært, fordi Tyskland har jo stadig Autobahn. Visse strækninger, hvor de må køre lige så hurtigt. Stopper nu, har jeg hørt.

[Klaus Silberbauer: 00:16:24]
Stopper du nu? Ja, jeg har lige hørt rygter om, at de fjerner fri hastighed indenfor en overskuelig fremtid. Det vil jo være et... Det er der nok nogle tyskere, der føler det som et voldsomt overgreb på deres frihed.

[Thomas Blomseth: 00:16:35]
Så kører vi jo rundkørsel her. Så har vi en rundkørsel. Ja.

[Klaus Silberbauer: 00:16:39]
Og det er jo en af de ting, som... Det ser man ikke meget af i USA.

[Thomas Blomseth: 00:16:43]
24 km/t, det er meget behageligt. Ikke for meget lateral bevægelse. Ja, stille og ude. Det er kedeligt, ikke? Ja.

[Klaus Silberbauer: 00:16:51]
Jeg har prøvet nogle dobbeltrundkørsler med to baner i hver sådan noget. Stensikker navigationer. Ingen problemer. Baneskifterne undervejs er fint.

[Thomas Blomseth: 00:17:03]
Og hvis så skal jeg tage den dimension, der handler om, at jeg føler mig tryg ved det, så må jeg sige, at jeg har fuldstændig været mig til. Altså...

[Klaus Silberbauer: 00:17:09]
Det er vildt nok, ikke?

[Thomas Blomseth: 00:17:10]
Jo. Der er ikke noget som helst.

[Klaus Silberbauer: 00:17:12]
Det kan være, du er en smule mere tryg nu, end hvis jeg selv kører det.

[Thomas Blomseth: 00:17:17]
Jeg har altid syntes, at din kørsel er ganske udmærket. Men den er... Og det er jo interessant, hvordan det ligger i den fænomenologiske dimension af kørsel. Noget, der kører sig overbevisende og glat osv. Det får man tillid til. Rets ordentligt. Ja. Altså hvis den lå for eksempel og sådan accelererede og decelererede hele tiden og ikke kunne finde ud af. Så er det ligesom, at man kører med en menneskebilist, hvor man begynder at tvivle på, hvor god er det ene til at køre. Præcis.

[Klaus Silberbauer: 00:17:47]
Skulle du have været i Louis Nielsen, tænker man så? Ja.

[Thomas Blomseth: 00:17:49]
Eller have taget nogle ekstra køretimer. Ja.

[Klaus Silberbauer: 00:17:51]
Jamen det er helt rigtigt. Det er faktisk den pointe, du formulerer. Som jeg tror, jeg falder mig ind, men jeg har ikke talt ord på den. At det at køre er jo også en form for sprog. Jeg er sikker på, at professionelle chauffører, specielt hvis de kører limo eller sådan noget, de kommunikerer jo til deres passagerer, at der er styr på det her. Bare ro på. Vi tager det stille og roligt. De bedste taxichauffører i København, du ved den gamle skole, de signalerer ved deres kørsel, at du kan slappe af. Men hvis man kører lidt for aggressivt, eller for tøvne også, eller accelererer, decelererer for meget, eller er sådan lidt, du ved.

[Thomas Blomseth: 00:18:40]
Ligger uroligt på banen, ikke? Ja, præcis. Kan ikke finde ud af at ligge sådan cirka midt på, eller hvor man skal det her. Præcis.

[Klaus Silberbauer: 00:18:45]
Også på motorvej, hvis du sådan ligger og overstyrer lidt, eller hvad hedder det, sådan overkompeterer. Ja. Så begynder passageren at få den der idé, om man nok ikke kan sælge fra en bilist. Og det er ikke ret. Og det tror jeg har været svært at tune et system til, at være overbevisende. Den decelererer i god tid mod kryds, så du ikke er bange for at køre op i hækken eller nogen.

[Thomas Blomseth: 00:19:09]
Altså, man kunne nærmest ikke, at der var ikke noget ryg i scenen eller noget her. Nej. Altså, det har de arbejdet på. Virkelig. Ja.

[Klaus Silberbauer: 00:19:17]
Han blinker ud. Han kunne sagtens, at vi er inde i rundkørselen. Ja. Den BMW kunne sagtens have fulgt rundt i rundkørselen. Men computeren ser han blinker.

[Thomas Blomseth: 00:19:24]
Ja. Helt som man selv gør. Og den begynder også at blinke på der rigtige tidspunkt for, at vi skinner den her op.

[Klaus Silberbauer: 00:19:30]
Lige når man passerer udkørselen fra rundkørselen, før den man skal ud af, så kommer blinket, så man ikke kan tage fejl.

[Thomas Blomseth: 00:19:37]
Og nu er vi så faktisk i nærmest lidt kø-kørslen her.

[Klaus Silberbauer: 00:19:39]
Ja, vi er i en større provinsby nu. Ja. Og der er lidt kø på vej ind i byen her i sommertrafikken. Så vi lister stille over der afsted. Og føler godt op og ligger ikke for langt væk for bilen foran os heller. Fordi man må gerne slutte op, når der er kø. Og det gør den.

[Thomas Blomseth: 00:20:01]
Altså det er interessant. Bilen foran, den kørte faktisk lige 2030, en god meter længere frem nu. Men Tesla bliver holdende. Den har ikke trakt.

[Klaus Silberbauer: 00:20:11]
Den mener ikke, der er nogen grund til at signalere utålmodighed.

[Thomas Blomseth: 00:20:13]
Den kan godt sige, at krydset var stadigvæk rødt.

[Klaus Silberbauer: 00:20:15]
Ja, visualisering viser meget fint. Åh, han skulle plusse til højre. Men det klede videre fint.

[Thomas Blomseth: 00:20:21]
Åh, der er så studenter, ja. Ja, det var interessant også. Fordi den måde, den bil var trukket til højre på, signalerede jo faktisk lidt, at man havde intentioner om at køre til højre. Men der var ikke noget blink.

[Klaus Silberbauer: 00:20:37]
Der var ikke noget blink. Jeg har kørt i mange år og rigtig mange kilometer. Jeg ved ikke, om jeg er en bedre eller dårlig bilist, end så mange andre. Men man vender sig til at læse de andre bilister. De skal jo ikke rykke meget den ene eller den anden side. Altså, man har en idé om hvad de vil. Det er næsten telepati. Og det talte vi faktisk også om, tror jeg, for mange år siden, da vi lavede vores første episode om autonome biler. At der er nogle ekstremt subtile signaler.

[Thomas Blomseth: 00:21:05]
Åh, det er jo interessant her faktisk. Der er to kryds, der kommer ret tæt på hinanden. 200 meter mellem. Og vi kører sådan lidt i den her kø. Og der bremser den faktisk hurtigt ned for ikke at komme til at holde ind i et fodgængerfelt.

[Klaus Silberbauer: 00:21:17]
Den holder jo krydset åbent.

[Thomas Blomseth: 00:21:19]
Nu er der en fyr, der blinker ud.

[Klaus Silberbauer: 00:21:21]
Jeg er lidt spændt på, at vi holder faktisk tilbage. Vi holder tilbage og giver ham lov til at komme.

[Thomas Blomseth: 00:21:27]
Ja, den er meget høflig.

[Klaus Silberbauer: 00:21:29]
Den er meget gentleman-agtig. Det er den.

[Thomas Blomseth: 00:21:33]
Men ikke på den måde, at den stopper. Og han vinker den der.

[Klaus Silberbauer: 00:21:37]
Ja, vinker den til computeren.

[Thomas Blomseth: 00:21:39]
Der er ikke...

[Klaus Silberbauer: 00:21:41]
Jeg har ikke tidspunkt på FSD siddet mig bare noget, der mindede om hjertet oppe i halsen eller sådan noget. Jeg har flere gange tænkt på: Shit, det havde jeg nok ikke selv set det der. Der var nok gået alligevel, men der var måske gået på en meget mere hektisk måde. Ja. Hvis jeg selv skulle have reddet situationen. Det var både et dådyr, der var zigzagget ud på vejen og ind igen. Computeren så det før jeg gjorde. Og så faktisk en lille purk på en cykel, som var på vej ud på vejen. Det kan godt være, at han ville have stoppet. Men faktum var, at bilen her var på bremsen længe før, at jeg processerede situationen.

[Thomas Blomseth: 00:22:23]
At der overhovedet var en situation under opsejling. Ja.

[Klaus Silberbauer: 00:22:26]
Nu skal vi ned på motorvejen her.

[Thomas Blomseth: 00:22:30]
Bag ved en lastbil. Det er også første gang på den tur, hvor vi er bag ved en lastbil. Ja. Så vi får nok desværre ikke den helt fede acceleration.

[Klaus Silberbauer: 00:22:39]
Nej, det kan godt være, at han ikke accelererer helt så hurtigt som Tesla kan. Vi må... Vi finder en anden anledning til at... Men det er jo heller ikke fordi, den bruger den fulde acceleration overhovedet. Den er bare rigtig god til, at når du rammer motorvejen, så kører du det, du må køre. om det er 130 eller 110. Eller 90. Så er det det, du falder ind på. Ja. Der er mange bilister, der er meget forsigtigt på vejen ned på motorvejen. Altså, det er jo... Det er lidt irriterende, hvis folk lige lister sig ud med 90, hvor du må køre 130. Og faktisk... Det er ikke ufarligt.

[Thomas Blomseth: 00:23:11]
Ja, præcis. Det er jo netop ikke ufarligt. Nej. Og det er en tung lastbil her.

[Klaus Silberbauer: 00:23:16]
Ja, det er dobbelt. Og... Jeg ved ikke, om han har noget ind eller ej, men... Ja, han kan det godt føle sig.

[Thomas Blomseth: 00:23:24]
Han kan det godt, ja. Og det er så en helt ny asfalt.

[Klaus Silberbauer: 00:23:31]
Ja, det er lækkert smooth. Lad os sige, der er nogle egne lande, hvor motorvejene jo ikke er så gamle, som de andre steder. Ja, ja. Til gengæld er der god plads på den.

[Thomas Blomseth: 00:23:42]
Præcis. Her er der sådan lidt feriertrafik også. Ja. Jamen, han kommer derude på motorvejen med... knap... ikke med nok.

[Klaus Silberbauer: 00:23:53]
Men han må heller køre mere.

[Thomas Blomseth: 00:23:54]
Nej. Men så er det spændende, hvor hurtigt Tesla'en kommer ud. Om der er plads...

[Klaus Silberbauer: 00:23:59]
Den vil sandsynligvis gerne forbi. Ja.

[Thomas Blomseth: 00:24:01]
Der er sådan en anden Tesla, der er. Ja, ja. Den trækker ud foran den anden Tesla. Der er masser af plads, ikke? Yes. Sådan.

[Klaus Silberbauer: 00:24:08]
Og så er det allerede i gang med at blinke ind igen. Ja. Fordi... Den holder også øje bag til den. Ved du godt, der er en fyr, der kommer relativt hurtigt bagfra, ikke? Ja. Øh... Altså, der sker noget heftig vektorberegning. Ja. Fordi... Det, der er så fascinerende, man starter med et 2D videobillede. Jeg ved ikke, hvor mange billeder i sekundet det er. Jeg vil skyde på 50-60 stykker.

[Thomas Blomseth: 00:24:33]
Se, der er den anden hvide Tesla, den svenske. Ja. Den er ikke engang passeret, så begyndte den faktisk at blinke. Ja.

[Klaus Silberbauer: 00:24:40]
Den begyndte at blinke, så jeg fik en blindvinkel-alarm, ikke?

[Thomas Blomseth: 00:24:42]
Ja.

[Klaus Silberbauer: 00:24:43]
Men det er for at holde flowet. Holde hastigheden. Så vi ikke bremser op og ned hele tiden. Og det er en meget behagelig kørsel.

[Thomas Blomseth: 00:24:53]
Der rammer vi lige 130. Ja. Men det, altså... Det jeg også kommer til at tænke på, ikke? Det er jo... En ting, det er jo selvfølgelig for alle de her sensor-dataene og behandling dem. Det andet, det er det at planlægge kørselen, ikke? Og meget af det, vi taler om, det handler jo om, hvor god den er til hele tiden at planlægge dens næste skridt. Ja. Og der taler man jo også om de der VLA'er, Vision Language Action Models. Ja. Ikke som... Og det ved vi jo, men det ved man jo ikke præcis, om der er sådan nogle elementer i det her. Men hvis man forestiller sig, at man kigger på reasoning-tråden i sin favorit LLM, når den svarer på et eller andet spørgsmål om at løse en stillet opgave. Så de der VLA'er, de gør nærmest det samme, ikke? At de ligesom taler om, nu er jeg i den her situation, hvad skal jeg så gøre? Nå, nu påbegynder jeg vogn... Altså, for eksempel, den kan jo i talesæt også være, at den vil til. Er i gang med til en vis udstrækning. Den sagde for eksempel, at påbegynder vognbaneskift til venstre. Ja. Så spørger man, hvor meget den egentlig taler med sig selv, det ved vi jo ikke.

[Klaus Silberbauer: 00:26:00]
Det ved vi ikke, hvad der sker i ræsonnementet. Den version, der udkommer nu i USA, der hedder 14.3.6 eller jeg kan ikke huske det. Lidt nyere end den i Europa. Der siger de, at hele reasoningmodellen er udbygget. Så den sandsynligvis, du ved... Jeg ved det ikke, om den forhandler med sig selv om alle de forskellige alternativer. Det er ret tit, at den siger påbegynder vognbaneskifte, og så dropper den det igen. Ikke nødvendigvis, fordi der kommer en bil, men... Måske er ham foran trukket lidt væk. Der er plads nok. Måske kunne du opnå max-hastigheden alligevel. Jeg kan mærke til, at det ligger skarp på 130, og det er det hårde max.

[Thomas Blomseth: 00:26:40]
Ja.

[Klaus Silberbauer: 00:26:41]
Jeg kan ikke få lov til at tune den til 140. Det kunne jeg med den gamle autopilot. Rent teoretisk kunne man køre 140 med den, ikke? Og faktisk i helt gamle dag, 150. Blæser godt her, hva'? Man kan mærke, at det rykker af bilen.

[Thomas Blomseth: 00:26:57]
Altså det er sjovt, at den svenske tester foran, den kører så også til nærmest på 130.

[Klaus Silberbauer: 00:27:03]
Mit bud er, at han kører med autopilot.

[Thomas Blomseth: 00:27:04]
Ja.

[Klaus Silberbauer: 00:27:05]
Han kører ikke med FSD.

[Thomas Blomseth: 00:27:06]
Nej, det kan de jo i Sverige. Det må de ikke.

[Klaus Silberbauer: 00:27:08]
Men det kan være, at han har en klassisk autopilot. Vi kommer til en tilkørsel her, og vi lægger os ude i venstrebanen i god tid, så vi kan holde hastigheden og ikke ryge op i hækken på dem, der kommer ud.

[Thomas Blomseth: 00:27:20]
Den bremse? Hverken op eller ned? Nej. Det var en lille.

[Klaus Silberbauer: 00:27:24]
Den ser langt frem. Noget af det kritik, jeg fik på min køreprøve tilbage i tiderne som morgen, det var, at jeg ikke var god nok til at orientere mig frem i trafikken. Og det tror jeg gælder rigtig mange nybegyndere. Man kigger lidt ned foran bilen. Man reagerer kun på alt det der tæt på. Det er endnu ikke lært, som du sagde i sidste episode, at sortere mellem, hvad der er, hvad du i virkeligheden skulle holde.

[Thomas Blomseth: 00:27:49]
Særligt opmærksom.

[Klaus Silberbauer: 00:27:50]
Tak skal du have, du var der lige efter. Hvad der skulle være særlig opmærksom på, og bare almindeligt opmærksom, ikke?

[Thomas Blomseth: 00:27:56]
Jo.

[Klaus Silberbauer: 00:27:57]
Men det gode ved en computer er jo sådan set, at den kan være særligt opmærksom på det hele.

[Thomas Blomseth: 00:28:03]
Det er i hvert fald nok. Nøj.

[Klaus Silberbauer: 00:28:09]
I rigelig grad opmærksom. Ja. Det var sådan en klassiker.

[Thomas Blomseth: 00:28:13]
Ja, nu bliver jeg nødt til at bremse ned, for der ligger en lastbil inde i højre bane. Præcis. Og der er lidt en klump af biler, der er i gang med at passere den. snorre ned på 111, men det er forudset.

[Klaus Silberbauer: 00:28:26]
Du skal takke og lov dig.

[Thomas Blomseth: 00:28:27]
Ja.

[Klaus Silberbauer: 00:28:28]
Med en meget behagelig stille og rolig nedbremsning. Jeg skifter ikke så tit bane, når jeg kører bil. Jeg synes, det tager nogle kognitive kræfter. Og selv med den gamle dags autopilot, skulle den også slå til og fra og sådan nogle ting. Og det var sådan, at der var en omkostning ved at skifte bane. Så jeg har aldrig tænkt over på den måde, men det kostede et eller andet. Eller signalerede noget, eller hvad det er. Computeren er ligeglad med det.

[Thomas Blomseth: 00:28:56]
Jamen, du skal bruge opmærksomhed på det. Det er nok derfor, der har været så mange kampagner gennem årene også. Om motorvejskørslen. Sørg nu for at trække ind til højre. Du må ikke blive læggende ud til venstre. Fordi det er bare lettere. Det er lettere.

[Klaus Silberbauer: 00:29:08]
Det er lettere at blive læggende også ind til højre, indtil du møder den her lastbil, der kører 90.

[Thomas Blomseth: 00:29:12]
Så kommer der så bare 110-skillet her. Yes. Og der bliver bremset ned. Og rammer vi det præcis? Meget tæt på. Nej, det giver lige sig selv 30 km.

[Klaus Silberbauer: 00:29:22]
Men nu kører vi 114 i 110 km-zonen. Det er jo altså inden for margenen. Og det her speedometer er som alle andre biler undertunet. Det viser mere, end du i virkeligheden kører. Så hvis du putter en GPS på nu, så vil du finde ud af, at du faktisk kører 100. Der er en misvisning på omkring de der 3%, der skal være efter loven. Et speedometer skal vise for lidt.

[Thomas Blomseth: 00:29:44]
Skal det faktisk. Det vidste jeg egentlig. Jeg troede jo kun, at man havde de der 8% oven i.

[Klaus Silberbauer: 00:29:49]
Ja, det er jo så, hvis de står med.

[Thomas Blomseth: 00:29:50]
Det kommer an på, hvordan politiet måler dig.

[Klaus Silberbauer: 00:29:53]
Men hvis de står med en laser, så skal de trække 3 km fra. Det mener jeg deres usikkerhed. Men speedometer skal så også vise for meget. Og det er meget nemt at måle. Man kan bare finde en GPS app på sin telefon og så se, hvad hastigheden i virkeligheden er. Det er som om, den tager det hensyn til det. Den ligger også lige over 80 på et andet vej. Nu kommer vi til en stor rundkørsel her.

[Thomas Blomseth: 00:30:17]
Der er også to baner. Præcis. Men den her gang holder den sig faktisk. Den holder rigtig fint.

[Klaus Silberbauer: 00:30:25]
Men der var heller ikke kø op til.

[Thomas Blomseth: 00:30:26]
Nej. Altså det er meget behageligt den måde at køre rundkør. ekstrem behageligt. Ja.

[Klaus Silberbauer: 00:30:39]
God acceleration uden at blive dramatisk.

[Thomas Blomseth: 00:30:45]
Ja, der kunne man måske savne lidt, hvis der skulle være lidt mere sjovt. Men i forhold til at det er noget automatik der kører, så vil du nok hellere have det behageligt. Hvis det er sjovt man vil have, så kører man jo selv.

[Klaus Silberbauer: 00:30:59]
Altså jeg har talt med en som sagde, at han elsker at køre bil. Så hvorfor skulle han så have det her? Jamen jeg kan også godt lide at køre bil. Jeg synes det er dejligt at køre bil. Men hvad har jeg tænkt til sin tid?

[Thomas Blomseth: 00:31:12]
Jo.

[Klaus Silberbauer: 00:31:13]
Jeg havde en fødselsdagsfest helt ude vest på. Ude ved Agger. Og vi kørte fra København samme dag. Og den kommer eftermiddag, at vi skulle have en fest. Hvis jeg kørte selv, så ville jeg være træt. Ikke smadret, fordi den her bil behageligt kører langt imen. Men stadigvæk sådan, at man skulle lige ned på jorden. Det var ikke det samme her. Jeg havde stort set ikke røget været rettet fra København til Agger. Og jeg følte ikke. Jeg var sådan lidt gået af allerede. Og sådan plejer jeg ikke at have det, når jeg selv kører en små fem timer.

[Thomas Blomseth: 00:31:52]
Og det var en solrige dag også her.

[Klaus Silberbauer: 00:31:55]
En solrige dag. Den her AC'en er kalibreret efter kaliforniske forhold. Den har det fint med varmen her. Så skiftede vi banen til venstrebane, før rundkørselen.

[Thomas Blomseth: 00:32:09]
Der var jo et interessant spørgsmål, som vi også lige vendte inden I skulle ud på den tur. I havde jo nogle passagerer med, som du ikke rigtig kendte i forvejen. Hvad er konventionen så her i fremtiden? Skal man deklarere som chaufføren, at man faktisk ikke har tænkt at køre selv? Eller er det bare noget folk accepterer? Og hvad endte du med at gøre der? Det er jeg lidt spændt på.

[Klaus Silberbauer: 00:32:36]
Vi har samlet vores passager op. Hun er fra Danmark, og han er amerikaner. Og de har været gift i mange år. Og det er første, som jeg siger, det er: "Oh, Tesla? Does it drive on the zone?" Ja, I hope so. Cool. Så der var ikke noget der. Men det sjove var også, det var ikke det der showpiece, som man måske... som nyslået FSD ejer kunne håbe på, at folk sidder der og taber capen og tænker: "Hvor er det fantastisk." Der går omkring 10 sekunder, så er de hammerende ligeglade.

[Thomas Blomseth: 00:33:11]
Jamen selvfølgelig.

[Klaus Silberbauer: 00:33:12]
Fordi den kører behageligt. Så det er slet ikke den der... Det har faktisk været utroligt svært at imponere folk med det. Mine svigerforældre... Min mor var... Nå, det var da smart nok. Nå, men hvad skal vi have til aften? Det er vidderligt ikke den der næsegrunsforundring, som vi måske har, fordi... Det er jo noget, vi har gået og ventet på, siden vi var børn.

[Thomas Blomseth: 00:33:40]
Jamen, det er jo en teknologisk drøm i mange årtier.

[Klaus Silberbauer: 00:33:45]
Dem, der har bare en lille smule fornemmelse af, hvad et neuralt netværk kan, og hvor svært det faktisk er, er mere forbauset end, lad os sige... Jeg vil ikke sige lægge mand, det jeg skulle selv, men... Folk, der ikke har tænkt over teknologien på den måde der. Jeg tror, mange synes, det er en naturlig skridt. Det er jeg ikke sikker på, jeg selv synes. Jeg synes, det er helt forbløffende. Altså, det er vildt forbløffende, når vi står et F. Vejbump hastede den ned til 30, så vi klatrer stille og roligt hen over det, og så drerer vi igen. Ja, nu har vi bare sat den til centrum af en mindre provinsby her, så den er tænkt, det der geografiske centrum, det er lige året lige hernede.

[Thomas Blomseth: 00:34:25]
Ja, det er det. Så kan vi jo lægge den videre derfor. Hvis den er sparrer.

[Klaus Silberbauer: 00:34:31]
Det er så der, mand. Det er hjertet. Hjertet af denne by.

[Thomas Blomseth: 00:34:40]
Ja, det er lidt spændende, hvor vi ender.

[Klaus Silberbauer: 00:34:43]
Det er også spændende, hvad den gør til sidst, når den stopper. Den kan jo ikke bare stoppe midt på vejen. Det ville jo ikke være lovligt. Så den vil sandsynligvis foretage et valg. Vi kører faktisk forbi en stor parkeringsplads nu. Det kunne være interessant, hvis den vælger at bruge den. Det gør den. Det vil sige, vores destination er lidt ned ad vejen. Men den vurderer, at det nok er bedre, hvis vi parkerer på den her parkeringsplads. Om vi må parkere her, det ved den jo så ikke.

[Thomas Blomseth: 00:35:12]
Der er faktisk et skilt, hvor der står forbeholdt vagtbil. Det tror jeg, den ignorerer. Ja, den parkerer faktisk lige præcis en bås ved siden af skilt, hvor der står forbeholdt vagtbil. Det kan være, at den synes, at jeg er den vagtbil.

[Klaus Silberbauer: 00:35:29]
Ja, den føler sig meget vagtagtig. Den er kommet skævt ind i den bås her. Den parkering vil jeg umiddelbart kunne gøre meget, meget bedre. Og meget hurtigere selv.

[Thomas Blomseth: 00:35:39]
Især for der er ingen anden af bilen. Der er ikke en sjæl.

[Klaus Silberbauer: 00:35:43]
Så at den kan gå så skævt af stregen, at det er... Men den prøver dog igen. Men ekstremt ringet parkeret. Altså virkelig. Men det har også været et kritikpunkt. Og de har vidt og lidt ikke fokuseret meget på den åndelige rystende usikker styrning lige pludselig. Det er som om den falder tilbage på en ældre og den væsentligt dårligere af i sted.

[Thomas Blomseth: 00:36:07]
Så nu kan jeg godt køre lige til mig.

[Klaus Silberbauer: 00:36:10]
Nej, men det er vidt og lidt virkelig utroligt ringet.

[Thomas Blomseth: 00:36:13]
Helt vildt ringet. Det er på niveau med en køreelev, der er ude på anden tur med sin kørelevere.

[Klaus Silberbauer: 00:36:22]
Det vil være at kante sig til venstre for at komme ind midt af båsen. Men det er som om, at den ikke helt forstår geometrien. At den vil også dreje til venstre og så rette op og så... Jeg fik en rating af moderat opmærksom. Det er fair nok. Men jeg vil så give FSD's parkeringsevner en moderaterpib ned.

[Thomas Blomseth: 00:36:43]
Ja, det må man sige. For jeg er jo lidt usikker, at du sagde det med...

[Klaus Silberbauer: 00:36:53]
Hvad is?

[Thomas Blomseth: 00:36:54]
Ja, is og melkeprodukter og sådan noget.

[Klaus Silberbauer: 00:36:56]
Ej, men altså en gang imellem må man sgu lide på det. Ja. Men det vil jeg have.

[Thomas Blomseth: 00:37:01]
Jeg vil også sige, at man har jo den her ting, når man kører med andre. At man sådan lige orienterer sig, ikke? Du sidder også og kigger med. Når de skal lave venstresving og sådan noget. Men med den her, der begynder man faktisk at blive at falde lidt...

[Klaus Silberbauer: 00:37:12]
Er der allerede der?

[Thomas Blomseth: 00:37:13]
Ja, på den.

[Klaus Silberbauer: 00:37:14]
Ja, det er helt vildt, ikke? Og det bringer os jo tilbage til den her ting med tillid.

[Thomas Blomseth: 00:37:18]
Ja.

[Klaus Silberbauer: 00:37:19]
Jeg synes, at bølgerne går lidt højt lige nu. Altså, på diskussionen om FSD er en god idé. Og som vi også var inde på sidst, det bliver blandet sammen med ideologi. Ens personlige forhold til milliardærer og Elon Musk i særdeleshed. Ens erfaring, tror jeg, er personlig erfaring med teknik. Og hvordan man sådan grundlæggende er indstillet tillidsmæssigt. Det, der er til fælles for de virkelig... Der er grund til at diskutere det. Der er grund til at være kritisk. Der er grund til at være skeptisk. De hårdeste stemmer i debatten, vil jeg sige, det er dem, der aldrig nogensinde har kørt en Tesla eller en Waymo, for den tages skyld. Men udelukkende har læst noget omkring, jamen, den har ikke LiDAR, og så kan den jo ikke køre selv. Og et eller andet sted, ligger der også noget i det med folk, der simpelthen bare... Altså, grundlæggende sig ikke tror på, at det kan lade sig gøre.

[Thomas Blomseth: 00:38:17]
Ja.

[Klaus Silberbauer: 00:38:18]
Og igen... Det var efter, vi havde lavet sidste episode. Der var der jo den her ulykke i USA, hvor en bil som den her, en Model 3, på FSD, med FSD slået til, braget direkte ind igennem et hus, og slå en stakkes ældre kvinde ihjel. Og historien undrer mig lidt, fordi jeg har jo ikke i hvert fald personlig været ude for, at den på nogen måde, altså pludselig laver et eller andet, accelererer vanvittigt eller får en hjerneblødning. Den der angst for, at maskinen tager over. Den anden ting er, i de her biler er, i den her generation, er det et klassisk analog bremsesystem. Den kan ikke gå ind og overwrite bremsen. Den kan bruge bremsen, men du vil aldrig kunne sige, jeg bremser ikke. Fordi det er en, hvad hedder det, en bremseforstærker, en vacuumforstærker og klassiske bremseledninger. Så om ikke andet, så kan du træde bremsen ned. Og den der Tesla, den kørte jo, det var, at de sagde, det var over 100 miles per hour inde i et boligområde. Det viser sig så også, det siger Tesla, at data viser, at ja, FSD var slået til, men han havde speederen i bund. Hvilket får mig til at tænke på, at det er en klassisk, desværre mange af dem, omkring 16.000 om året, episoder hvor, altså i USA alene, episoder hvor chaufføren tager fejl og bremser og speeder. Specielt i bilen med automatgear, og det er jo mest det, man kører i USA. Og et panikøjeblik, den her måske var ved at ramme et kantsten, eller hvad ved jeg. Han vil bremse, og han jogger speederen ned og holder den nede i ren panik sandsynligvis. Og så accelererer den. Og jeg vil ikke tro, at mange vil sige, det er jo vigtigt, at du trods alt selv kan sige, det virkelig galt, jeg skal enten kunne bremse eller accelerere mig ude af det her. Jeg tror, det ender med, at man på et tidspunkt siger, du får ikke lov til at accelerere frit længere. Fordi gaspedalen er bywire. Så du kunne sagtens sætte den ud af spil, eller du kan sige, at en fuld axelration i mere end et kvart sekund. Det tror vi ikke er en god idé. Det kunne man sagtens. Det bør man nok gøre. Men det blev alligevel fremlagt som over, at det var FSD, der havde kørt den der bil tværs igennemtug. Og det var det ikke. Så er argumentet, at han var nok uopmærksom, fordi han kørte med FSD. Det er der en risiko på, ja. Jeg ved ikke, om den risiko er større end folk, der er uopmærksomme, når de kører selv. Fordi det er et kæmpe problem. Og der tror jeg trods alt, at FSD er mere opmærksomme end uopmærksomme chaufføren.

[Thomas Blomseth: 00:40:55]
Det vi jo også talte om står i gennemstande, og det sætter jeg jo nærmest allerede til, allerede med Waymobilerne og også med Tesla. At de er gennemsnit i hvert fald meget mere opmærksomme. Præcis.

[Klaus Silberbauer: 00:41:09]
Men hvis forventningen er, at bilen, uanset hvad du selv gør, selv hvis du holder speederen nede, ikke lade dig køre ind i noget. Så skal vi jo ud i en helt anden grad af autonomi. Som jeg tror den samme optikoposition vil være meget ked af. Fordi så skal den have kontrol over endnu flere bilens systemer. Men det er jo en super tragisk ulykke og bliver sikkert skrevet ind i janateren til videre træning og designer de her systemer. Det dybt ironiske var, at der gik kun en uge eller sådan noget, og så skete det samme i Danmark. Det var en ung gut på flugt fra politiet, der i en helt anden log bil kørte direkte ind og slog en 65-årig kvinde ihjel, som stod i siget i køkkenet. Selvkørende teknologi beskytter os jo ikke mod idioti og ulykker. Det er noget fysik, når du smider et 2 ton stykke stål og plastik igennem atmosfæren, balancerende på fire hjul. Det kan selv computerkræftet kramle op med. Men jeg vil vågte en påstand, at computeren og det system, vi prøver lige nu, mitigerer mange alvorlige ulykker. Det er min påstand. Og det viser statistikken jo så også. Indtil videre i hvert fald.

[Thomas Blomseth: 00:42:43]
Jo, der kan man også være i de tilfælde, hvor folk får ildbefindende. Det har der vel også været noget. Og så kommer til at trykke på speederen.

[Klaus Silberbauer: 00:42:51]
Ja, enten det er, hvis du er på en klassisk cruise control og besvimer. En klassisk cruise control holder ikke øje med dig. Altså, der kører den bare. Men den har været lovlig i mange år, ikke?

[Thomas Blomseth: 00:43:03]
Ja, altså, det er jo endnu, kan man sige, nærmest. Det er jo et, for sin minst, closed loop system i den forstand, man sætter op målen, og så kører det efter at ramme det målen. Men derudover, så er der ikke meget adaptivt i det.

[Klaus Silberbauer: 00:43:16]
Altså, en klassisk analogisk cruise controller, der findes stadig biler, der kører med den derude, den låser bare spjældet, kan man sige. På den måde, at så holder du bare din hastighed. Den første cruise control, jeg kørte med, den havde jo ikke nogen radar. Det var alt for dyrt for mig.

[Thomas Blomseth: 00:43:33]
Altså, jeg har også prøvet at køre hundredvis af miles. Måske endda tusindvis af miles i USA med gammendags cruise control. Og det er fint nok ud på highway, hvor der ikke er så mange andre bilister. Men en gammeldags cruise control, den føles simpelthen ubehagelig, synes jeg. Den måde, den sådan trækker én op mod de andre bilister, hvis der er andre biler tæt på. Så nej, dem bruger jeg mig ikke om.

[Klaus Silberbauer: 00:43:58]
Og det er jo interessant, fordi der så skal du jo selv vurdere, hvor hurtigt nærmer du dig den forankørende. Og det gør du med dine øjne. Du har dybdesyn, men det kan du ikke bruge til en skid på den afstand. Så det vil sige, det din hjerne vurderer på, vurderer afstanden på, og i den grad, at den hastighed, du nærmer dig forankørende. Det er udelukkende, hvordan den bil bør større dit synsfelt. Det er vi ret gode til at vurdere som mennesker. Og det er præcis den måde, som Full Self Driving og det her Vision Only system, som Tesla laver, fungerer på. Den er rigtig god til at bedømme afstanden på, hvor stort det forankørende objekt er. Hvor stor bør en bil være i synsfeltet. Og alle de andre cues, som du får, når du tolker på et billede.

[Thomas Blomseth: 00:44:46]
Og så skal vi ud på landet her.

[Klaus Silberbauer: 00:44:50]
Vi skal helt ud på en bondegård, der laver is af egne køer. Eller nærmere af komælk.

[Thomas Blomseth: 00:44:55]
Ja. Jeg tror ikke, de laver ko-sashimi. En ko-slodge.

[Klaus Silberbauer: 00:45:06]
Vi er på en blind vej nu, men det er måske det rigtige sted.

[Thomas Blomseth: 00:45:09]
Ikke helt. Det er interessant. Vi kigger lige på kortet her.

[Klaus Silberbauer: 00:45:14]
Jo, hvis det er den gård der, så er det det rigtige sted.

[Thomas Blomseth: 00:45:18]
Nej, så er det kortet.

[Klaus Silberbauer: 00:45:22]
Der mangler simpelthen vej på kortet, eller hvad?

[Thomas Blomseth: 00:45:24]
Ja.

[Klaus Silberbauer: 00:45:25]
Vi får se, hvad den vil.

[Thomas Blomseth: 00:45:26]
Ja.

[Klaus Silberbauer: 00:45:28]
De må være vant til, at de dumme turister kører den her vej.

[Thomas Blomseth: 00:45:30]
Ja. Ja, det er ikke den gård. Det er ikke den gård? Nej.

[Klaus Silberbauer: 00:45:37]
Sjov vej. Adressen var jo i kortet.

[Thomas Blomseth: 00:45:41]
Ja.

[Klaus Silberbauer: 00:45:42]
Men vejen mangleder. Er det hernede, eller hvad?

[Thomas Blomseth: 00:45:46]
Nej. Vi skal tilbage. Ja. Ja. Så er adressen jo helt.

[Klaus Silberbauer: 00:45:51]
Det skal de overveje. Fordi det betyder simpelthen, at de har en forkert GPS-adresse i Google Map.

[Thomas Blomseth: 00:45:56]
Ja.

[Klaus Silberbauer: 00:45:57]
Prøv at se, der står her. Ja.

[Thomas Blomseth: 00:46:00]
Sådan også. indtil. Ja. Det var det næste, som jeg var bekymret. Nå. Så sætter vi den anden adresse her. Så kom vi jo så her nordpå. Ja.

[Klaus Silberbauer: 00:46:12]
Det var et plåt tur.

[Thomas Blomseth: 00:46:13]
Ja. Men jeg får faktisk en adresse. For Google Map får en adresse herfra. 1,7 kilometer herfra. Ja.

[Klaus Silberbauer: 00:46:19]
Det er interessant, ikke?

[Thomas Blomseth: 00:46:20]
Det passer bedre. Det er interessant.

[Klaus Silberbauer: 00:46:22]
Jo. Men er det så den anden?

[Thomas Blomseth: 00:46:24]
Så tager vi bare den anden. Så... Så tager vi den der. Godt. Men så skal vi nær... Skal vi så... Ja. Skal vi så... Så holder vi os på motorvejen. Så får vi noget flot kørsel, sådan kuperet...

[Klaus Silberbauer: 00:46:36]
Ja, nu ruller vi denne strækning.

[Thomas Blomseth: 00:46:37]
Ja. Kuperet terræn her. Ja. Her synes jeg faktisk, at vi skulle tage indenom. Når vi kommer ned til det der kryds. Ja. Og så du tager den til højre i stedet. Til højre i stedet for venstre. Ja, så får vi det. Vi kan få faktisk noget af det sceniske. Ja. Og så på en måde på lidt...

[Klaus Silberbauer: 00:46:57]
Og jeg får lov til at... Se hvor længe jeg kan vente. For hvis den starter. Er det ikke sikkert, at jeg får lov til at afbryde den igen. Der kommer nogle nye... Har jeg læst mig frem til. Så ofte du bliver lidt mere... Du får ikke lov til at annulere et vognbaneskift nødvendigvis. Nu vælger jeg at blinke til højre. Ja. Og så... Den overtager, når du blinker til venstre. Jeg blinker til højre igen. Prøv at begynde at venstre svinge. Jeg blinker til højre. Den er faktisk hamrende ligeglad.

[Thomas Blomseth: 00:47:22]
Den er fra benen.

[Klaus Silberbauer: 00:47:23]
Vi overtager her. Og så blinker vi til højre. Og kører manuelt til højre. Der kommer cyklister imod os her.

[Thomas Blomseth: 00:47:33]
Det bliver altså sjovt.

[Klaus Silberbauer: 00:47:34]
De kommer ind der.

[Thomas Blomseth: 00:47:35]
De er dedikerede, kan jeg sige.

[Klaus Silberbauer: 00:47:37]
Ja, i god sti.

[Thomas Blomseth: 00:47:38]
Og det ligner turisterne.

[Klaus Silberbauer: 00:47:40]
Det problem er, at hvis jeg kører for langsomt nu, så bliver de... Nu bruger jeg altså speederen. Ja. Fordi bilen satte hastigheden ned i en grad. Så jeg er bange for, at de begyndte at tolke, at de bare kunne køre ud. Men de holde faktisk tilbage for os.

[Thomas Blomseth: 00:47:54]
Det var tæt på. Der kom en ung herre med alt for høj hastighed. Kæmpe idiot, ikke? Ja. I det 90-graders sving kørte han meget dårligt ud. Kæmpe idiot. Ja.

[Klaus Silberbauer: 00:48:02]
Jeg håber, at cyklisterne er okay. Fordi det gik der alt, alt for hurtigt.

[Thomas Blomseth: 00:48:08]
Som selv om den kan få noget at parkere her. Om den har fundet ud af, at der er parkeringsplads over bagen.

[Klaus Silberbauer: 00:48:13]
Det er da ikke noget, der tyder på umiddelbart. Jo, prøv ind, prøv ind. Prøv ind, prøv ind. Den ville lige først parkere der. Ja.

[Thomas Blomseth: 00:48:19]
Nu mener jeg, vi holder udenfor. Ja, men den... Ja.

[Klaus Silberbauer: 00:48:22]
Det er et godt bud. Ja.

[Thomas Blomseth: 00:48:25]
Men... Vi er nærmest der.

[Klaus Silberbauer: 00:48:27]
Vi tager den autoriserede. Altså, den fandt der i hvert fald frem, vil jeg sige. Men igen, de styrker virkelig parkeringsdelen af det nu, siger rygterne. Og det har Tesla også sagt. Og i den amerikanske version nu, der kan du sige. Vil du have curbside? Vil du finde parkeringsanlæg i nærheden? Vil du parkere på en parkeringsplads? Hvad er din foretrukne? Ved den destination. Og generelt, tror jeg.

[Thomas Blomseth: 00:48:57]
Du laver jo ret store kugler, ikke? Så de er ret store. De er ret store.

[Klaus Silberbauer: 00:49:01]
Det går du ved. Så skal jeg bare have to kugler, siger. Ja. I vaffel eller hvad? I vaffel. I vaffel. I vaffel. Det hører så til. Hvad skal du være med? Det skal være med chokolade. Chokolade? Ja, tak.

[Thomas Blomseth: 00:49:17]
De har rabarber for tiden også. Ja, men jeg er ikke så meget til frugt og is.

[Klaus Silberbauer: 00:49:21]
Nå, okay. Det er to forskellige verdener.

[Thomas Blomseth: 00:49:23]
Ja. Det er bare is hos sig.

[Klaus Silberbauer: 00:49:25]
Ja. Og så simpelthen en vanilje. Ja, så. Skal vi en øffek? Ja, det må jeg hellere. Nu hvor vi er.

[Thomas Blomseth: 00:49:33]
Altså, så får du virkelig... Så får du virkelig... Ej, men så... Jeg one-upper dig.

[Klaus Silberbauer: 00:49:42]
Det var meget, meget gavmildt det der. Det var godt, at jeg tog flere kugler. Tusind tak.

[Thomas Blomseth: 00:49:50]
Og så vil jeg gerne have tre kugler, men i bæger. I bæger? Ja, tak. Er I i gang med at optage noget? Ja, vi har en podcast. Åh, ja. Vi er nok stadig tændt, faktisk. Ja, vi er stadig tændt, ja. Så får vi det med. Og Klaus, han har lige fået testet den selvkørende bil. Så vi har lavet sådan en podcast om meget teknologi og teknik og sådan noget. Det er min første tur i hans selvkørende bil. Er det spændende? Ja. At den kører bedre end nogen af os.

[Klaus Silberbauer: 00:50:15]
Ja, det må vi nok bare indrømme.

[Thomas Blomseth: 00:50:16]
Ja. Godt. Tak. Jeg var lige ved at stoppe hende og sige, jeg bad om to og ikke flere kugler. Ja, vi har også prøv at lave store kugler. Det gjorde hun så. Ja.

[Klaus Silberbauer: 00:50:30]
Jeg vil så sige, at et stort fuldskæg er jo heller ikke nødvendigvis et særligt smart, når man skal spise is. Det er et handicap.

[Thomas Blomseth: 00:50:40]
Jeg tror jeg...

[Klaus Silberbauer: 00:50:41]
Den sætter sig over skægget. Ja. Og så hærder den.

[Thomas Blomseth: 00:50:45]
I tonen. Ja.

[Klaus Silberbauer: 00:50:48]
Så skal den mejsles væk eller blødes langsomt op i noget. Men du er til uden bagværk. Den er rigtig meget.

[Thomas Blomseth: 00:50:58]
Ja. Ja.

[Klaus Silberbauer: 00:51:01]
Du kunne godt have nøjet sig med færre kugler, tror jeg.

[Thomas Blomseth: 00:51:03]
Jamen, jeg er ikke. Jeg troede heller, at vi ville lave dublere. Det var en babelstårn, der er dykket i is, det der. Det er godt, at vi ikke skulle spise den i bilen. Jamen, det sker ikke. Nej.

[Klaus Silberbauer: 00:51:14]
Det er ikke, fordi en model har perforeret sæder.

[Thomas Blomseth: 00:51:16]
Nej.

[Klaus Silberbauer: 00:51:18]
Bare tanken om at få is ud af det, før det bliver surt. Nej, det kan man ikke. Så prøv at tage direkte tilbage til din bunker.

[Thomas Blomseth: 00:51:51]
Jamen, selvom vi kan få noget navigation på de små veje og grusveje. Vi gør det, og vi finder det på kortet her. Jeg skal give koordinater. Jamen, det kan jeg tage koordinater ind, men du kan bare finde det og sætte en pind.

[Klaus Silberbauer: 00:52:03]
Ja.

[Thomas Blomseth: 00:52:04]
Der, hvor du præcis synes, at den faktisk skal lande. Ja.

[Klaus Silberbauer: 00:52:08]
Forbi minefelterne, ikke også? Ja. I det, han går ind og blinkede, så kører den frem.

[Thomas Blomseth: 00:52:15]
Og giver plads også dermed. Ja.

[Klaus Silberbauer: 00:52:19]
Fordi han kom fra tværs af os, ikke? Fra venstre side. Og vi holder tilbage. I det, han blinker, så ved den, at der er fri bane. Og det lader til, at den der lille familie, jeg får lov at leve i dag. Vi kører ude om en stor bue.

[Thomas Blomseth: 00:52:33]
Og der ligger sat.

[Klaus Silberbauer: 00:52:35]
Kører vi det her fint ude om? Ja. Hvad er det end, var?

[Thomas Blomseth: 00:52:38]
Det ligner en hestepær.

[Klaus Silberbauer: 00:52:40]
Det sætter jeg stor pris på den lige. Ja. Vi lavede en fin bue om det. Det er det jo nok, siden vi så de her heste, den går forbi lige før. Og advarer sig at skilte om hestene. Der skulle sgu advares om hestepærer, synes jeg.

[Thomas Blomseth: 00:52:54]
Det er faktisk værd at bemærke, ja. Ja, det her, det er helt klart den bedste, jeg har kørt med.

[Klaus Silberbauer: 00:53:00]
Den måde, den går af gasen, på vej ind i svinget, og så. Altså, du er jo ikke halvvejs ind i svinget, og så er den på gasen igen, ikke?

[Thomas Blomseth: 00:53:06]
Ja, den trækker.

[Klaus Silberbauer: 00:53:07]
Det er jo næsten med, at du kunne lære den at køre race. Ja. Og ideelt kunne... Vi har noget på vejen der, kør uden om den.

[Thomas Blomseth: 00:53:14]
Nej, det var en gren. Ja, men vi ramte den, ikke? Nej. Og det er så interessant, om den har en opfattelse. Der er visse ting, den bliver man nødt til at køre hen over. Men på en måde så hjulene kører hen over.

[Klaus Silberbauer: 00:53:24]
Godt spørgsmål. Det er en gang imellem hjulene, ikke? Så har den forståelsen af, at den har to hjulpar, hvor ting kan passere igennem?

[Thomas Blomseth: 00:53:36]
Det er nemlig godt spørgsmål, ja.

[Klaus Silberbauer: 00:53:38]
Og her følte jeg, at den har en idé om, at den skal virkelig køre afslappet. Der var en gård på den ene side, der lå ting sådan ude i vejkanten.

[Thomas Blomseth: 00:53:48]
Der står træer lige op til vejen. Ja, der er stille og roligt.

[Klaus Silberbauer: 00:53:51]
Ja. Og så er vi ude af den her lille, lille miniskov. Og så ser der lidt mere fart på igen. Det er måske den slags ting der, der gør, at man synes, at den føles menneskelig. Fordi den kører faktisk, som jeg selv ville gøre det. Mens det er jo lidt mørkt med mine træerne, og så sætter man farten ned. Nu føler man der er lidt bedre plads. Så sætter man farten lidt op igen. Nu kommer vi ind i et skarpt sving. Ind i et skarpt sving.

[Thomas Blomseth: 00:54:17]
Ind under 90 grader, ja.

[Klaus Silberbauer: 00:54:18]
Lige efter en bakke. Den sætter jeg aldrig farten ned her i bunden af bakken.

[Thomas Blomseth: 00:54:21]
Jeg synes egentlig, at vi har været gode til at finde 90 grader sving til den her.

[Klaus Silberbauer: 00:54:25]
Ja, det kan være, at hvem ved, om Tesla bruger den her tur til træning? Ja. I små møgveje ude på landet.

[Thomas Blomseth: 00:54:33]
Det her er også meget fint, at vi er faktisk kommet ud af den zone her, hvor der er 50 km begrænsning. Men den holder sig ned omkring en par 50 km. Det er vanvittigt at køre 80 her. Der er også sådan nogle turister, der kører meget hurtigt her. Og det her er en meget mere behagelig måde at køre på den her strækning. Også for de andre trafikanter. Jeg er jo nærmest der, at næste gang jeg skal ud og køre må være klar, så må jeg insistere på et FSD. Ikke også?

[Klaus Silberbauer: 00:55:01]
Ja, men så skal jeg jo betale for det hver måned. Ja.

[Thomas Blomseth: 00:55:05]
Så er det ingen sag.

[Klaus Silberbauer: 00:55:07]
Jamen, jeg... Den ville ikke stoppe her. Og selvom vi sat...

[Thomas Blomseth: 00:55:14]
Vi satte pinden, ja. Vi satte pinden.

[Klaus Silberbauer: 00:55:16]
Ja. Så det var en lille svaghed i navigationen. Den synes jeg, vi havde været ude for et par stykker af herude på det, vi godt kan kalde bøgelandet. Jo. Så...

[Thomas Blomseth: 00:55:25]
Det der med guidance, navigation and control. Der er tre forskellige ting.

[Klaus Silberbauer: 00:55:30]
Ja. Så hvad siger dommen over... Tesla FSD? Ja, F... Prøv lige igen. Hvad siger dommen over Tesla F... Det var da svært. Jeg spiser så meget is, min tunge er helt frossen.

[Thomas Blomseth: 00:55:42]
Eller klisteret sammen. Ja.

[Klaus Silberbauer: 00:55:46]
Tesla FSD. Hvad siger dommen til os?

[Thomas Blomseth: 00:55:49]
En gennemført behagelig og troværdig oplevelse.

[Klaus Silberbauer: 00:55:54]
Troværdig? Det synes jeg, ja.

[Thomas Blomseth: 00:55:56]
Eller tillidsvægtig. Ja. Det er nok bedre ord.

[Klaus Silberbauer: 00:55:59]
Men det der med, at det findes faktisk og det gør faktisk det, der står på boksen.

[Thomas Blomseth: 00:56:04]
Der står på boksen. Det er troværdigt. Ja.

[Klaus Silberbauer: 00:56:07]
Det synes jeg er forbløffende.

[Thomas Blomseth: 00:56:09]
Tak for turen.

[Klaus Silberbauer: 00:56:10]
Jamen det var en fornøjelse. Selv tak. Du har lyttet til Silberbauer og Blomseth. En uafhængig og usponsoreret podcast om teknologi, systemer, erkendelse og om de mønstre, der driver vores virkelighed. Følg os på Blue Sky, hvor vi poster opfølgende materiale for hver episode og altid er klar på en dialog, kommentar, ideer og kritik. Vores handle er@silberblom.dk Og ikke mindst, hvis du kan lide, hvad du hører, så anbefale os til venner, familie og kolleger. Og smid gerne stjerner efter os på Apple Podcasts. Vi higer jo alle efter anerkendelse i en eller anden form. Tak for, at du lytter med.

[Thomas Blomseth: 00:57:10]
Tak for, at du lytter med.

Podcasts we love

Check out these other fine podcasts recommended by us, not an algorithm.

RumSnak Artwork

RumSnak

Tina Ibsen + Anders Høeg Nissen
SCIFI SNAK Artwork

SCIFI SNAK

Jens Poder og Anders Høeg NIssen
Radiolab Artwork

Radiolab

WNYC Studios
Krigskunst Podcast Artwork

Krigskunst Podcast

Krigskunst Podcast
The Jim Rutt Show Artwork

The Jim Rutt Show

The Jim Rutt Show
The Economics of Everyday Things Artwork

The Economics of Everyday Things

Freakonomics Network & Zachary Crockett
Varbergs Danmarkshistorier Artwork

Varbergs Danmarkshistorier

Vores Tid - Nationalmuseets mediehus