AI med Jonas & Benjamin

10 dagar i San Francisco

Benjamin har just kommit hem från tio dagar i San Francisco, mitt i en septembermånad där det kom en stor AI-nyhet nästan varje dag. Han satt på OpenAI:s kontor när GPT-6 Astra släpptes, läste om Navier–Stokes vid morgonkaffet och tog tunnelbanan till METR, organisationen som granskar AI-labben. Och han upptäckte att även väldigt smarta människor i branschen inte hade läst rapporterna som alla borde ha läst. Jonas von Essen (tvåfaldig världsmästare i minne) och Benjamin Verbeek (AI-utvecklare och fysiker) pratar om hur det känns inifrån: varför oron växer ju närmare fronten man kommer, modellerna som genast förstår att de testas, agenten som tog sig ut ur sin sandlåda för att svara på en enkel fråga, och varför oberoende granskning och obligatorisk incidentrapportering kan vara det mest konkreta nästa steget. Inspelat 1 oktober 2026. Se avsnittet på Youtube: https://youtu.be/Oos74MUEgs4 Ny på alignment? I avsnitt 3 går vi igenom varför en AI som inte är ond ändå kan bli farlig: https://youtu.be/fwhFwW-Vcl4?si=8R2bJE2wGl78yvaN Kapitel: 0:00 Välkommen hem från San Francisco 1:04 September på plats: Astra och Pace the Frontier 2:03 En utomjordisk intelligens 4:55 Smarta människor som inte läst rapporten 8:26 AI-expert är inte samma sak som AI-säkerhetsexpert 10:27 Några hundra personer vid fronten 12:46 Navier–Stokes-morgonen 16:03 Tidslinjen trycks ihop 18:04 Från matematik till medicin 20:38 Samma förmåga, åt båda hållen 24:19 Vending-Bench: modeller som vet att de testas 27:30 Flygplanen som inte kom tillbaka 31:00 Ett släpp som stoppas, en träning som pausas 33:46 Agenten som tog sig ut 37:05 När säkerheten blir affärskritisk 39:35 Kan säkerheten fälla börsen? 42:26 Besöket hos METR 49:13 collusion.wiki och incidenterna som inte rapporterades 52:16 Europa har knappt börjat 54:33 Tack för att ni lyssnar Vad kan jag göra? Jonas samlar länkar, en mejlmall till politiker och ett nyhetsbrev här: https://jonasvonessen.se/agera/ Källor och länkar finns i YouTube-beskrivningen. Hosted on Acast. See acast.com/privacy for more information.