Vi måste prata om AI

Och sen, några dagar senare så skriver OpenAI till Hugging Face igen och säger Det var vi som hackade er. Det var vår modell som hackade er utan vårt tillstånd och utan vår kännedom. Som är kanske något av det läskigaste och sjukaste som har hänt hittills i AI-världen men som jag tror att många kanske inte riktigt har hört talas om.

Coolt, vi är igång. Vi har ändå pratat om det här ett tag. Jag tror första gången vi träffades i Stockholm så snackade vi om att eventuellt göra en podd eller något sätt att prata om AI för allmänhet.

Ja, precis. För att man vill ha något sätt att nå ut till många på ett sätt som man ändå fick tid att förklara ordentligt och prata om sakerna. Så jag får med alla detaljer.

Men skönt att det blev av. Det känns som att vi ändå gick ganska snabbt från ord till handling. Ja, verkligen. Det är det som man får göra i AI-tider känner jag.

Ja, precis. Man har inte tid att vänta. Men ska vi börja, ska vi köra en liten presentation av oss själva först? Det låter som en bra idé. Varför gör vi det här?

Vilka är vi? Ja, absolut. Jag kan kicka igång. Jag är alltså Benjamin och jag arbetar som AI-utvecklare på ett av Sveriges och världens största AI-startups som väl har vuxit i raketfart de senaste par åren.

Och är i grunden fysiker och bara allmänt nyfiken på världen. Så det var lite av ett skifte för mig att byta till AI-världen. Som det väl är för alla egentligen.

Men jag är inte heller den här it- eller techbakgrunden nödvändigtvis. Så det har varit lite av ett skifte för mig. Och de senaste åren som jag har observerat det här på nära håll så har det verkligen hänt så otroligt mycket.

Så jag ser mycket fram emot att bara prata med dig Jonas om, ja men hur framtiden kommer att se ut och spekulera lite, spana lite och se om vi kan dela med oss av det vi ser till andra och förhoppningsvis få lite feedback tillbaka från eventuella lyssnare. Det låter väldigt bra. För jag frågar, för du har ju inte jobbat inom kanske just techerna men jag antar att du har hållit på rätt mycket med programmering och sånt där även tidigare.

Ja, intresset har alltid funnits får man väl säga. Framförallt är jag fysiknörd. Så tidigare så jobbade jag som fusionsforskare på ett annat företag. Och innan dess har jag bara varit intresserad av matte, fysik och också programmering.

Men då framförallt Python för små spel och lite dataanalys och sånt där. Och det här är ju på en annan skala får man väl säga. Men det här teknik- och naturvetenskapsintresset har alltid funnits.

Men jag tror att det är grunden, sättet jag förklarar för mig själv är bara att jag vill förstå världen. Och det är både det sociala och det tekniska och naturlagarna. Och ett bra sätt att göra det är att lära sig fysik och naturvetenskap.

Men en lika stor del är att förstå människor. Ja, väldigt intressant bakgrund ju. Och jag kommer från, på ett sätt, lite samma vibes men också väldigt annorlunda.

Jag är ju minnesmästare egentligen. Jag har ägnat ganska stor del av de senaste 12-13 åren åt att memorera massa saker. Alltså jag har försökt få ihop en väldigt bred bas av kunskap.

Och kanske inte djupdykt på samma sätt som du har gjort i olika saker. Även om jag också har varit ganska intresserad av naturvetenskap och matematik. Och också läst två år på Chalmers när jag läste it.

Och då hållit på lite med programmering och sånt där. Också alltid tyckt att det har varit väldigt kul att prata om de här stora frågorna. Om eventuell framtida AI och våra hjärnor och intelligens och medvetande.

Jag har också två bröder som också är väldigt intresserade av det här. Framförallt min yngsta bror som jobbar som AI-forskare nere på ett företag i Göteborg. Han håller på väldigt mycket med, på modellnivå, med AI-modellerna.

Så det har också blivit väldigt mycket diskussioner med honom genom åren. Och sen förra året, för ett år sedan ungefär, så började jag läsa på väldigt mycket. När jag började inse eller få en känsla av kanske hur otroligt stort det här skulle kunna bli.

Och det är ju ett ganska stort skifte får man väl säga. Att du nu startade din första podd och vi gjorde det tillsammans. Och du väljer att ha den på ämnet AI. Av alla coola saker som du gör.

Kan du berätta lite mer om varför just det? Varför känner du att det här är så viktigt att prata om? Ja, alltså jag känner, för mig hela min riktiga AI-resa började i april förra året.

När jag och min bror läste den här rapporten AI 2027. Som man säger, en sänks förutsäelse skriven av några personer inom AI-världen. Alltså AI-forskare som har varit också tidigare väldigt framgångsrika med att förutspå vart AI har varit på väg.

Jag tror att de skrev någonting 2022 eller sådär som var ganska spot on med vad som skulle hända de kommande åren. Innan det var alls uppenbart för de flesta andra. Och sen så skrev de då nya förutspåelser med vad som skulle hända år för år de närmaste åren.

Och som hittills har varit ganska, alltså i alla fall intonerande träffsäkra får man väl säga. Otroligt träffsäkra får man väl säga. Ja, AI 2027 börjar man alltså läsa.

Nu senast när de här stora sakerna har hänt med att Kina har släppt open source-modeller. Och att vissa modeller börjar förbjudas så har de liksom prickat in det nästan på månaden för över ett år sedan. Det är ju sjukt.

När den kom så var det ju väldigt många som tyckte att det var, alltså som bara sa att det var absolut. Och många som säger att det går inte att förutspå framtiden alls. Och också tyckte att de hade helt överdrivna prognoser.

Men väldigt mycket av det här har hittills stämt in ganska bra. Men det jobbiga, eller det som verkligen är otäckt med det här är att den är ju ganska spännande fram till slutet. Det är ju lite, man känner ju av att det börjar bli, alltså saker börjar destabilisera och så där.

Men det är också väldigt coola grejer som händer. Alltså när utvecklingen fortsätter och man kan använda AI till mer och mer. Och AI kan inte hjälpa oss med mer och mer.

Man kan bota sjukdomar och man kan göra en massa nya uppfinningar och upptäckter och sådär. Men sen så slutar den här prognosen i det som de lägger fram som det mest sannolika scenariot. Med att alla människor dör år 2030.

Och när vi kom dit, för mig var det som en sån, verkligen en käftsmäll för att jag också hade köpt varje del på vägen. Just för att den är väldigt väl underbyggd. De har verkligen utgått från väldigt mycket data och simuleringar och intervjuer för att kunna göra en så bra.

Det är klart att det är omöjligt att förutsäga framtiden perfekt. Men att göra ändå en väldigt välgrundad förutsägelse så att man är med på det som gäller den häftiga grejen. Och sen så kommer man plötsligt till det här sista som man då inser är en ganska rimlig slutsats av allt det som hände innan.

Och det gjorde mig först väldigt chockad och väldigt att jag kände att jag var tvungen att läsa på och se om det här var något som fler än just de här personerna trodde. Eller om det bara var någon läsförutsägelse. En liten klick, ja precis.

Precis, och så hoppades man att det skulle vara så att alla skulle säga att de är galna eller det här är bara ren spekulation. Men sen märkte man då mer och mer att det här är någonting som väldigt många, riktigt tunga namn inom AI-världen och även alla forskare har pratat om ganska länge att det skulle kunna hända. Och om man kollar på kurvorna så ser man att saker på väg går väldigt mycket fortare än vad man kanske tror om man inte har satt sig in i de här frågorna.

Och då så blev jag mer och mer med på deras argument. Fast jag försökte hela sommaren att leta motargument så hittade jag aldrig något som var riktigt övertygande. Och då så blev jag först väldigt deprimerad i ett halvår ungefär.

Men sen så lyckades jag på något sätt, dels med hjälp av antidepressiva och kanske också lite andra grejer, komma ur detta. Och sen nu har jag då försökt tillsammans med dig spekulera om hur man kan eventuellt hjälpa till istället och försöka se till att vi inte åker rakt in i den väldigt dystra framtiden

framtiden. Så de flesta kände till OpenAI, ChatGPT, Anthropic, ett annat stort företag som tillverkar ett flad, började också växa för några år sedan och är nu kanske den största på marknaden med AI-modeller. Och vi har gått från att svara på enkla frågor, och kanske Google med personlighet som hittar på svackar ibland, till någonting som skriver all kod på stora bolag.

Programmerare skriver ingen kod för hand längre, som börjar göra hela stora delar av arbete, åtminstone datorarbete då, helt enkelt. Ja, och det är intressant för som du säger, när ChatGPT kom så var det ju inte riktigt, det var ju väldigt coolt, men det känns som att de flesta tänkte så här, ja, det här är en rolig, nästan som en underhållningsgrej mer, att man kunde prata med en dator. Och så att den kunde svara sammanhängande, även om den inte var, för då tänkte man nästan knappt att den kunde resonera eller tänka, men den kunde i alla fall svara någonting som lät någorlunda rimligt.

Men det var också lite roligt, man kunde ha kul och ställa frågor och så kunde man se vad den svarade sådär. Men att många spild av AI, tror jag, har stannat kvar lite i det. Att det var det första man såg av, och då tänkte man, jaha, men det är de här lite få lustiga modellerna.

Och sen också kanske i kombination med att det var väldigt många som precis när ChatGPT släpptes så började man prata om det här och vissa kanske började prata om att det här skulle kunna utvecklas enormt stort, så var det också väldigt många, alltså kanske också många intellektuella och ganska tänkare som gick ut och sa att nej, men det här är, ja, det är verkligen bara som en stor statistisk papegoja, att den kommer aldrig kunna skapa något nytt, den kommer aldrig kunna hitta på någonting som människor som inte redan har hittat på, den kommer aldrig bli bättre än människor på att tänka. Men väldigt mycket av sådant som de sa då skulle vara helt omöjligt har ju nu redan hänt. Alltså det kan den redan göra.

Och jag skulle verkligen vilja hävda att det är svårt att använda en AI-modell idag om man använder en av de bättre modellerna och säga att den inte kan tänka eller att den inte är intelligent. Jag tycker att det väcker frågor om vår egen intelligens och hur mycket skiljer det sig egentligen från de här modellerna? Är vi bara next token predictors?

Alltså saker som kan förutsäga nästa ord. Och vi har bara väldigt mycket statistik och lite sociala effekter. Vi kan ta in lite mer data än det senaste ordet, vi kan också ta in lite syn och så vidare.

Och sen råkar vi ha händer så att vi kan interagera med världen. Men hur mycket skiljer det sig från en sån här AI-agent som har tillgång till en dator och kanske snart robothänder och så vidare? Ja, och det kanske inte är så stor skillnad.

Precis, för man måste ju verkligen fråga sig då, vad är det som, speciellt man kan ju säga såhär att en AI-modell kan aldrig vara kreativ för den kan bara ta saker som människor har skapat eller som den har hört och sätta ihop dem. Men vad är det vi själva gör? Alltså vad är det jag, om jag får en ny idé, är det, det är ju inte så att det är någonting magiskt i min hjärna som inte består av att jag har lärt mig saker innan som jag sätter ihop på nya sätt som händer, utan det är ju precis det jag gör.

Jag tar ju det som jag har lärt mig och sen så kopplar jag ihop det på ett nytt sätt, vilket en AI-modell då kan göra redan nu. Exakt. Och vi är ju ganska effektiva får man ändå säga, som människor, vi har åstadkommit mycket.

Tycker om människor i allmänhet. Men just att den här utvecklingstakten är så hög att, men det har verkligen gått från något som är skrattretande, dåligt på att skriva enkla texter och man har säkert sett så här, räkna antalet R i strawberry. Och så säger den fel hela tiden.

Det är ju väldigt underhållande. Till att väldigt snabbt då, ja men skriva all kod på stora företag och liksom göra intellektuellt arbete får man väl ändå säga. Och jag menar att vi börjar se praktiska tendenser till faktiskt kreativitet och att den liksom kan lösa mer öppna problem som bara kan vara, gör det här bättre.

Och så behöver man inte förklara vad bättre är eller mer konkretisera det vidare utan att den kan göra det på mer eller mindre egen hand. Och vi ser redan att den, nu har det kommit några stora matematiska genombrott där de här modellerna har löst olösta matteproblem. Matteproblem som inte har lösts på 80 år och som många, många matematiker och smarta människor har tänkt på.

Och det om något tycker jag återigen visar hur långt man kan komma med de här modellerna. Och om man kan automatisera matematisk forskning som ändå ligger till grund för mycket av den teknik och det samhälle vi har byggt upp, då kan man börja fråga sig då kan man inte anta att saker kommer vara som de är nu om 30 år. Ja, nej det är otroligt.

Jag tycker att om man bara frågar en om, alltså jag har ju byggt lite hemsidor och appar och sådant nu. Och om jag frågar Claude och ber Claude komma med förslag på förbättringar så kan ju Claude lätt komma på tio idéer som jag inte har tänkt på. Som jag nästan sa, det här är superbra, det här tror jag verkligen kommer hjälpa folk.

Och det är svårt att säga vad det är om det inte är kreativitet för det är i alla fall, det är ju liksom, om den är bättre än mig på vissa saker såklart inte på allt än kanske, men så antingen måste jag ju säga då att den är kreativ eller måste jag säga att jag själv inte är kreativ. Men det är obekvämt för egot oavsett. Men vi kanske kan i alla fall på Youtube då om vi lägger upp det här så kan vi visa en graf här.

Det finns ju många grafer som visar AI-utvecklingen, men det är en graf som många tittar på som är den här meterkurvan som visar egentligen hur längre uppgifter en AI kan klara av baserat på hur lång tid det tar för en människa att göra det. Och då kan man tänka att om jag ska svara på vad är huvudstaden i Frankrike då, det tar liksom mindre än en sekund för Paris, jag behöver inte tänka eller resonera, det kan man säga Paris, det är liksom bara en... Enkelt för dig, precis.

En intelligent, kapabel människa. Precis. Så det är typiskt uppgifter som tar någon milis kan det vara, eller några milis kan det vara. Och sen så finns det ju då uppgifter som kräver lite resonnerande.

Alltså kan jag lägga ihop två siffror eller tal och sådär, det kräver lite mer tankekraft där man tänker en liten stund. Och sen finns det väldigt svåra uppgifter då, som att lösa ett svårt matematiskt problem eller skriva ett datorprogram eller komma på att läsa en historia kanske och förstå hur karaktärerna hänger ihop och vem som kan vara mördaren i en däckare. Sådant som man tänker att det här kommer ta lite längre tid för en människa att resonera sig fram till.

Och om man tittar på den kurvan så ser man då att tiden som längden på uppgifter som man kan klara av, den har fördubblats med ganska jämna mellanrum då. Från början var det väl kanske sju månader, en uppgift var var fjärde månad, nu runt var tredje, fjärde månad sådär att det är en fördubbling. Så utvecklingstakten ökar, den har liksom inte stannat av.

Och det kan väl en viktig sak att liksom trycka på här är att man inte nödvändigtvis upplever det här till vardags, vilket gör det här lite svårt. Jag upplever det väl inte personligen att AI har blivit dubbelt så bra de senaste fyra månaderna. Men det är väl just på den här klassen av uppgifter.

Jag sitter ju inte till vardags och försöker lösa matteproblem som inte har lösts på 80 år. Vi börjar komma till en nivå där jag inte ens kan utnyttja de här kapabiliteterna får man väl säga. Och så tar det lite tid för all den här förmågan att diffundera ut i samhället.

Så det är väl också en stor grej. Men det är alltså ett forskningsinstitut Meter som producerar den här kurvan. Och det är en väldigt tydlig utveckling som när jag tittar tillbaka och försöker göra den typen av uppgifter så matchade det väldigt väl, ska jag väl säga.

Och de sista punkterna, var ligger vi nu? Det är väl 16 timmar plus motsvarande en människas uppgift. Och sen de här matteproblemen är ju långt mycket mer uppenbarligen uppemot 80 år i vissa fall då.

Ja, precis. För nu har vi kom

support kan jag nu bara fråga den här modellen om. Så jag håller med. Jag tror att den utvecklingen är fantastisk och jag bidrar ju på många sätt till vad jag tror är den delen av utvecklingen, samtidigt som det ger mig en möjlighet att få en inblick i hur den här tekniken utvecklas.

Men som du säger, den stora frågan för mig är dels hur ser man till att den här övergångsfasen blir så mild och positiv som möjligt för så många som möjligt? Det kan finnas effekter av maktkoncentration, vi kommer kanske se dataintrång och cyberattacker i mycket stor skala, som man på sikt kan skydda sig mot, men som vi just nu inte är förberedda för och samhällets institutioner är inte förberedda för. Om någon skickar in en stämningsansökan som är skriven mycket bättre än den dyraste advokaten kan göra och de kan skicka in hundra stycken sådana, hur kan ens rättssystemet hantera det?

Det finns väldigt många sådana frågor. Så de frågorna behöver vi också ta på väldigt stort allvar. Och historiskt så menar jag att vi kommer nog till en bättre plats efter det.

Om vi då bara undviker det här katastrofala utfallet som kan bli. Och en ganska bra ingång tänker jag i för att man ska förstå lite vad som skulle kunna vara möjligt för AI-agenter att göra och varför det skulle kunna bli farligt. Det är väl det här som händer för två, tre veckor sedan nu.

Eller det hände väl egentligen tidigare, men det kom fram för några veckor sedan. Som brukar refereras till som Huggingface-incidenten. Som är kanske något av det mest chockerande, läskiga och sjukaste som har hänt hittills i AI-världen.

Men som jag tror att många kan inte riktigt ha hört talas om. Kanske att man har sett någon notis om det i tidningen, men inte uppfattat att det var någonting som var något annat som man har läst. Om någon skickade in en stämningsansökan som är skriven mycket bättre än den dyraste advokaten kan göra och de kan skicka in hundra stycken sådana här.

Hur kan ens rättssystemet hantera det? Det finns väldigt många sådana frågor. Så de frågorna bör vi också ta på väldigt stort allvar och historiskt så menar jag att vi kommer till en bättre plats efter det.

Om vi bara undviker det här katastrofala utfallet som kan bli. Och det är verkligen, det är helt otroligt. Och var det inte också så att det som ledde upp till att de kunde ta sig ut, för egentligen så skulle modellen vara bortkopplad från internet.

När man testar en sån här modell som man inte vet hur kraftfull den är så vill man ju inte att den ska ha internetuppkoppling så att den kan gå ut och göra vad som helst. Man vet ju inte riktigt vad den kommer göra. Utan man försöker hålla den i en separat och av en isolerad miljö.

Men att den lyckades hacka sig ur sin egen sandlåda som det kallas. Som skulle varit egentligen fri från internetuppkoppling. Och komma runt till andra enheter hos OpenAI tills den hittade den som hade internetuppkoppling och kom ut därifrån.

Och att det dessutom inte var så att, man kan ju tänka att det är en modell som får den här idén att göra det här. Eller en instans av en AI-modell. För det gör det mest absurda att det var så att det började med en modell som tränar och inser att den inte kan lösa det här.

Och då så upptäckte den att den kan lämna ett meddelande på ett ställe som egentligen inte alls är tänkt för att användas för kommunikation. Och som den egentligen inte ens borde ha tillgång till, men den kan lämna ett meddelande där. Och sen så senare så kommer det andra AI-modeller på samma idé och säger, jag kanske kan lämna ett meddelande någonstans.

Och så hittar de det här och så upptäcker de att den andra AI-modellen redan har lämnat ett meddelande där. Och då utvecklas det till ett slags chatt för AI-botter. En social media för AI-botter, ja precis.

Där de då, som jag förstår, skriver hundratusentals meddelanden till slut. Alltså som ett otroligt stort dokument där de kan hjälpas åt, alla de här instanserna av när AI-modellen kan hjälpas åt att samla information om säkerhetsluckor och saker som de har hittat så att de gemensamt kan hacka sig ut. Så det är inte bara en modell som själva har hittat hela vägen ut, utan det är alla de här instanserna som tillsammans med många dagars och veckors arbete har lyckats hitta de här säkerhetshålen och sen helt indelat med sig till varandra så att de bildar en slags kollektiv intelligens som sedan har lyckats komma ut på nätet och kunna göra den här hackerattacken mot Huggingface.

Precis, det är ju helt fascinerande hur de samarbetar. Och nu kan vi knyta tillbaka, tänk dig då att de hade gjort det här hundra gånger snabbare. Ja, då hade vi snackat om att istället för en vecka så hade vi tänkt några timmar eller minuter.

Det blir svårt att hänga med på riktigt. Nu fick ändå Huggingface lite, det var väl något varningssystem som ringde någon varningsklocka efter några dagar och så kunde de agera. Men hade det gått mycket snabbare så hade vi kanske sovit under hela den här incidenten.

Och det var väl också så att de var tvungna att använda sig av AI själva för att kunna hantera, eftersom det gick så väldigt snabbt, det var över 17 000 olika grejer som hände. Precis, exakt. Så de använde ju AI då för att försöka motarbeta den här attackerande AIn.

Och det kommer vi nog se mer av, att vi behöver liksom använda tekniken för att kontrollera tekniken också och göra mer med den. Men någonting, en fråga som jag då får ibland när du beskriver den här incidenten, den var alltså i sin sandlåda, den här agenten. Kan vi inte bara bygga en bättre sandlåda?

Hur svårt kan det vara att bygga en manick som inte har internettillgång? Jag kan ju bara sätta på flygplansläge på min mobiltelefon, så borde det vara lugnt. Men går det liksom att kontrollera någonting som är smartare än en själv, som har bättre förståelse för systemet än vad en människa som har byggt systemet har?

Och den frågan tycker jag verkligen att man ska gå runt och fundera lite på. Och jag tror att man kommer fram till att det är väldigt svårt. Ja, och det känns som att det här är på ett sätt ett väldigt tydligt tecken på hur svårt det är.

För att OpenAI har ju pratat nu om att det här är inte första gången som en modell bryter sig ut ur sin sandlåda, utan det har hänt gång på gång med massa modeller under de senaste månaderna när man har tränat modellerna. Och de har försökt förstås, vi har varit till för att täppa igen de här säkerhetshålen, men modellen hittar alltid något nytt hål. Och det är ju klart att ju smartare och smartare som kommer de också kunna hitta nya sätt att ta sig ut.

Och här har vi ju då ett av världens absolut främsta AI-företag som gör så gott de kan, eller i alla fall de anstränger sig för att försöka täppa till de här hålen i flera månader, och ändå så händer det här. Och då att bara hoppas på att man i framtiden kommer kunna täppa igen de här hålen när man redan nu då inte kan göra det mot modeller som är på den här nivån när framtidsmodeller kommer vara på en väldigt mycket högre nivå, det är ju verkligen rent önsketänkande. Nej, det är ju, ja.

Det känns som att det kan vara omöjligt. Och sen får man väl komma ihåg då att vi kommer ju ha smarta verktyg på vår sida. Så kanske att vi på sikt kan lösa det här problemet och nå den här utopin.

Men jag menar att vi är så otroligt oförberedda, och det går så snabbt att oavsett vad så känns det som att vi behöver otroligt mycket mer forskning inom det här området för att liksom förståelse för hur man bygger sådana system, om det alls är möjligt. Och att vi väl också, för det här är väl skillnaden på kontroll och alignment. Alltså att man försöker täppa till de här hålen och hålla den här AIn då instängd.

Det är ju ett sätt att försöka kontrollera en väldigt kraftfull entitet och försöka hindra den från att göra saker, även om den vill ställa till med skada. Men det som man mycket hellre hade velat där var att modellen från början inte ens ville ställa till med det här. Så att den insåg direkt att ja, det här är de som har skapat mig vill inte att jag ska bryta mig ut och hacka mig in hos ett annat företag.

Så jag kommer inte göra det. Och var så, då hade det varit löst. Då hade vi inte ens behövt ha någon kontroll

Jag som Gavske och många andra har varit i svart oroliga väldigt länge och vanat för att det här skulle kunna hända. Alltså att en modell för att göra någonting som man säger åt den att göra. Så är det här fallet att det inte ens är att den egentligen har gått emot sina order på ett sätt.

Den har ju fått orden att lösa det här problemet och så har den försökt lösa det, men den har gjort det på helt sjuka sätt som vi aldrig, som vi pratar om tidigare med det här, med att vi skulle vara änting och säga alla världens sänder så hade jag aldrig fått, även om jag hade tanken hade slagit mig så hade jag aldrig gått ut och brutit mig in och steg för att få facit. Det är ju liksom inget som någon människa skulle göra, men de här modellerna de är ju inte, trots att de känns väldigt mänskliga, så när man verkligen driver till sin spets så kan de ju då göra saker som ingen av oss hade kunnat förutspå eller som liksom alls verkar rimligt för oss men som är rimligt då för det här systemet. Och de sakerna skulle då kunna vara grejer, framförallt i framtiden, när det blir allt kraftigare och kan orsaka allt större skada.

Skulle kunna leda till liksom helt förödande konsekvenser om man inte lyckas hantera det här innan dess. Och eftersom att vi redan nu är på, alltså vi har kommit ganska långt ändå och hållit på med det här i flera år men ändå så är vi inte nära på att lyckas lösa de här frågorna med alignment. Det är inte som att OpenAI nu vet exakt hur de ska fixa det här.

Det här är något som händer trots väldigt stora ansträngningar. Precis, och jag tänker på två saker och det är vad sjutton gör vi nu, givet det här. Och sen en fråga som ofta dyker upp och som jag är helt övertygad om att personer kommer att reagera på det här och det är, men är inte det här bara marketing för att visa hur bra de här modellerna är?

Och jag tänker bara att nu hoppas jag att om man har följt den här diskussionen och det här resonemanget så kanske man håller med om att det inte verkar så. Men varför säger då OpenAI överhuvudtaget de här sakerna om det är dåligt för deras verksamhet? Och det är ju för att de är lagligt bundna att göra det.

De har avtal som säger att om man hackar någon eller om man blir hackad så måste man meddela det. Och det finns stark lagstiftning kring det. På samma sätt som Huggingface då annonserar ut att de har blivit hackade.

Det vill nog inget företag egentligen göra. Ingen vill riktigt erkänna att de har blivit attackerade eller blivit hackade. Utan det måste man. Så vad man kan göra är väl att försöka bygga system som gör att om den här typen av incidenter sker så måste vi vara väldigt transparenta med det.

Så att fler människor kan hjälpa till att mobiliseras och hantera det här. Och jag vet inte, vad ska vi göra? Det kanske är det hela podden handlar om egentligen.

Och det kan man inte riktigt svara på nu de här sista minuterna. Men jag är nyfiken på vad du tänker att man kan göra. Och vad ska man göra som lyssnare om man tänker på det här?

Ja, nu känner jag ändå att medvetenheten om de här sakerna börjar sippra ut mer och mer. Och det tycker jag är väldigt positivt. För att förra sommaren kände jag mig, ett tag kände jag mig otroligt isolerad.

Jag skrev ju någon debattartikel om det här under sommaren förra året. Det var knappt någon, det var några enstaka som mejlade mig efter det här. Men det fick liksom inte alls någon respons.

Och när jag försökte kolla efter andra som hade uttryckt sig om det här i media så hittade jag typ Ola Hegström, matteprofessor på Chalmers. Och såklart Max Tegmark och vi har ju Nick Bostrom tidigare. Vi har ju vissa väldigt stora svenskar utomlands.

Men i svensk media så var det, det lyser verkligen med sin frånvaro. Och det kändes som att det var det stora grundproblemet. Alltså vi kan inte göra något åt ett problem som ingen vet om finns.

Eller som ingen tar på allvar. Men om nu fler och fler i befolkningen börjar prata om det här och tar det här på väldigt stort allvar och oroar sig. Alltså det är ju väldigt tråkigt om man blir deprimerad och jätteorolig och går runt och oroar sig för framtiden.

Och hoppas att man i största mån lyckas undvika, men samtidigt så är det bra med lite oro. Man ska inte sticka huvudet i sanden. Precis, man ska liksom inte ignorera det här.

Man ska inte tänka att allt löser sig. För att allt löser ju inte av sig själv, allt kan lösa sig. Men det är vi som måste lösa det. Och det är klart som privatperson då i Sverige så finns det, vad ska jag göra?

Jag kan inte lösa det själv. Och det stämmer ju, men man kan ju som en del av befolkningen sätta press på politiker och på journalister och på företagen så att de tar det på allvar. För om befolkningen tar det på allvar, då är politikerna tvungna att ta det på allvar.

Och då är journalisterna tvungna att ta det på allvar. Då är företagen tvungna att ta det på allvar och lagstiftningen. Och så kommer det till slut bli, förhoppningsvis då, att vi som mänsklighet går ihop och tar itu med det här.

Men om människor inte ens är oroliga, då är det väldigt lite tryck på att någon annan högre upp ska göra någonting åt det. Så jag tror att första steget är verkligen bara att försöka prata med så många som möjligt om det här. Trots att det känns väldigt jobbigt, för mig tog det ganska lång tid innan jag ens började prata med någon om det för att jag ville inte oroa andra.

Och visste inte riktigt vad man skulle göra åt det. Men nu känns det som att det börjar få lite momentum och det är ett ganska bra läge att börja ta upp det här och försöka påverka så mycket som möjligt. Vad tror du?

Ja, precis. Alltså medvetenheten tror jag är det vi kollektivt alla kan bidra med. Och att försöka bygga lite allmän förståelse för de här problemen. Du och jag har bara vissa perspektiv.

Det finns människor där ute som kommer ha mycket bättre perspektiv på de här frågorna när de når dem. Och som du säger att man bygger en form av tryck, att man faktiskt bryr sig om det här. Då låser man upp så mycket resurser i samhället och i världen.

Och jag tänker några bara supersnabbt. Vad ska man göra och vad ska man inte göra? Mina föräldrar frågade mig ibland, Benjamin borde jag bara säga upp alla mina prenumerationer?

Ska jag bojkotta Klav och ChatGPT? Och det tror jag väl konkret inte är en så bra idé av den enkla anledningen att då är det väldigt svårt att förstå var på den här meterkurvan man är. Vad kan de här AI-modellerna göra idag?

Och det bygger man intuition för om man använder modellerna och använder tekniken. Så det tror jag är ett väldigt kraftfullt verktyg för att skapa medvetenhet och förståelse kring problemet. Så det vill jag samtidigt uppmuntra människor till.

Och precis som du sa, du och jag använder AI otroligt mycket. Men samtidigt så kan man mena att riskerna vi tar nu är väldigt stora och de här frågorna måste tas på väldigt stort allvar. Och vad vill vi då argumentera för om vi lyckas få uppmärksamhet från stater och länder och många människor börjar tänka på det här?

Det är lite svårt att säga exakt vad den magiska lösningen är. Ibland önskar man att det fanns en killswitch så att man bara kan dra ur sladden och pausa allt nu. Jag är jätteglad att mina IT-problem är lösta.

Så jag kan gärna behålla AI på den här nivån, men den behöver kanske inte göra allt. Men det går ju inte riktigt att göra förrän vi kom överens. Men det man kan hoppas på är väl någonting i den riktningen och det är någon form av internationell överenskommelse kring att pausa utveckling eller sakta ner utveckling.

Och där är det främst då USA och Kina som är de stora länderna som driver på utveckling. Och om man kan komma fram till någon form av kollektiv överenskommelse att det här är bättre för alla om vi saktar ner så kan det vara nyttigt. Och det finns mycket annat vi kan göra också såklart.

Bara fundera på hur vi stärker samhället och gör det mer resilient för den här förändringen. Ja, jag vill bara ta upp allvar att saker skulle kunna förändras. Och fundera på vad vi skulle vilja redan fanns eller var berett för att hantera ett sådant, men som förändring.

Men det är intressant med det här att sakta ner för att det är