José González: Tänk om AI får oss att börja sjunga tillsammans igen? | En AI till Kaffet #100

Hundra Marcus. Eller hur? Det är helt otroligt. Hundra avsnitt. Ja. Helt fantastiskt. Podden har ju växt något enormt det senaste året. Den har exploderat lite nu under sommaren också, vilket är jättekul och jag är så glad och stolt.

Fantastiskt kul. Men för att fira avsnitt hundra så har vi en väldigt speciell gäst med oss, eller hur? Ja, och det här är ju någon som vi båda har en relation till som lite har tonsatt våra liv, kan man säga.

Ja, men verkligen. Han har alltså skrivit musik, han är en framgångsrik artist, världskänd artist som också har intresserat sig för AI nu de senaste åren. Hans senaste skiva är faktiskt inspirerad av AI och den samhällsutvecklingen som det driver.

Och nu har han alltså kommit till podden. Det ska bli fantastiskt att få sitta ner med José González. Kära lyssnare, varmt välkomna till en AI till kaffet. Jag heter Marcus Weiland och med mig i studion idag har jag José González.

Välkommen. Tack så mycket, kul att vara här. Jag är ju lite starstruck måste jag säga. Jag träffar ju många kända AI-namn, men inte så ofta det kommer en musikstjärna hit från artistvärlden.

Det är roligt att vara här och jag tycker det är ett spännande ämne, så jag ser fram emot samtalet. Superkul. Du har ju en, jag vet inte, men jag gissar i alla fall ganska annorlunda bakgrund för att vara musiker.

För du doktorerade på Göteborg, var det biokemi eller? Ja, precis. Höll på med doktorandstudier som jag hoppade av halvvägs. Så där hängde jag i medicinareberget i Göteborg och försökte få fram 3D-strukturer på vissa proteiner som kopierar herpesviruset DNA.

Det är ju rätt spännande med tanke på AlphaFold och DeepMind. Exakt, det brukar bli min ingång i sådana här samtal. Jag gör ju musik, men har varit intresserad av AI ett tag.

En av ingångarna är just att jag höll på på labb och det här var ju 20-25 år sedan. Det var vanligt att en doktorand kunde hålla på flera år och kanske få fram ett eller två 3D-strukturer på proteiner för att försöka förstå funktionen. Jag lyckades inte då, men det var väldigt vanligt då.

Sen kom AlphaFold och bara löste över 200 miljoner 3D-strukturer. På några månader. Ja, på ett bräde. Det tycker jag är en av de här storiesna som är viktiga att bara peka på att det här är spännande grejer som kommer gagna hela mänskligheten.

Verkligen. Ångrar du att du lämnar labbet någon gång? Nej, jag har ju faktiskt inte gjort det. Det var något med min labb. Jag var inte så duktig. Jag var lite envis, men det var något som inte klaffade.

Det jag saknade var ju miljön. Det var många kunniga och själva forskningen var ju superspännande i vårt labb och grannlabben. Att höra om de höll på med stamceller och vissa höll på med glykoproteiner.

Så det har jag saknat, men jag har sökt mig till Scientific American och andra tidskrifter. Då fick jag följa teknikens utveckling. Ja, lite grann. Nu är du aktuell med ett nytt album som heter Against the Dying of the Light.

Det här är väl från en diktare eller poet, Dylan Thomas, railsare, från en av hans dikter, eller hur? Precis, men när jag skrev den låten, Against the Dying of the Light, så poppade den meningen ur flowet. Så jag kände igen meningen och jag lät bli att kolla upp just då.

Men i efterhand så kände jag igen den och det är lite samma andemening det här med att inte fatalistiskt acceptera döden utan bara att våga kämpa emot den. Han skrev den där dikten till sin pappa eller om sin pappa kanske, om hans kamp mot döden på något sätt. Ja, precis.

Don't go gentle into that dark night, rage, rage against the dying of the light. Så i mitt fall så skrev jag inte rage utan det var i samband med den här låten och sen albumet att mänskligheten ska inte bara skapa saker som skulle kunna bli vår undergång utan vi ska kämpa för vår, inte bara överlevnad, utan vår thriving, blomstrande. Så på ett sätt handlar det om existentiella risker, vi ska inte dö helt enkelt.

Nej, det är en bra idé. Det är en bra grej. Men sen lite mer kopplat till mina andra album så tänkte jag på upplysningsideal, att jag är för ljuset i metaforisk mening om att försöka förstå världen och att använda den där förståelsen för att få oss människor att må bra och skapa samhällen som funkar och där vi sakta men säkert förbättrar mänskligheten.

Fantastiskt. Men det här ljuset som inte får slockna, det är ju liksom livet som inte får slockna genom AGI eller superintelligens. Ja, precis. Eftersom det här är AI-podd så kan vi fokusera där och då har jag Losing Game och A Perfect Storm som jag tänkte på.

Jag hade inte tänkt skriva om det men helt plötsligt ploppade det ur mig. Och då tänkte jag på de här forskarna, det är ju många, Joshua Bangia, Geoffrey Hinton, Max Tegmark, och de är många som är oroliga. De är ju också peppade men de är väldigt oroliga.

Max Tegmark är orolig med hans olika one-liners. Rage to replace har han ju och sen Stuart Russell nämnde namn, höll något tal för Time Magazine. Så pratade han om den här The Bus of Humanity som bara accelererar mot en cliff.

Det är inte bara så att chauffören är blindfolded, ögonbindel, utan det saknas även en ratt på den här bussen. Så mänskligheten, nu kör vi i ett race och det går fortare och fortare men vi har inte riktigt förstått implikationerna av att kanske nå AGI som sen kanske leder till något ännu mer avancerat. Så jag är orolig, precis som Stuart Russell och alla de här.

Jag upplever ju som i den här låten Perfect Storm att du ändå uppmanar till handling. Det här är liksom vi måste agera, vi kan inte sitta här passivt och bara åka mer nu i den här bussen utan vi behöver göra någonting. Har du någon tanke kring vad vi borde göra som mänsklighet?

Alltså jag pekar så fort som möjligt på andra bra tänkare och organisationer. Så Future of Life Institute känns som en väldigt bra plats och då är det inte bara om okontrollerbar AI utan även för bioteknik och för kärnvapenkrig, hur vi undviker alla dessa teknologiska katastrofscenarier. Så det är en favorit, Future of Life Institute, de har en jättebra podd också.

Vad finns det mer? Control AI är väl en annan som är lite mer fokuserad på just AI och de har haft ganska bra outreach till brittiska politiker. Så även de har en bra titel, det är inte anti, det är liksom Control AI.

Även Center for Humane Technology, samma där, de är för teknik men teknik som gagnar oss. Och då är det inte bara om AI utan även om sociala medier och sånt. Så det finns väldigt mycket bra resurser och det märks att de använder AI för att tillverka de här hemsidorna för att det är så otroligt lättillgängligt.

Och sen så kan man alltid fördjupa sig och helt plötsligt sitter man där, två timmars poddar och lär sig mycket liksom. Du har ju också använt AI, jag tänker till exempel på musikvideon till den här Perfect Storm. Hur gick det till då?

Du sitter på taket här i någon självkörande buss mot singulariteten. För något som hände där, man skymtar någon skylt där det står singularity eller någonting sånt där. Hur blev den där musikvideon till?

Jo, jag hade ju skivan och som vanligt så tänker jag ju bara musik och lite omslag. Men sen så blir det dags att göra videos och det är alltid ett huvudbry för det är liksom mer pengar som kastas på ett projekt. Och så är det inte alltid det som gör att musiken kommer fram.

Men så den här gången så frågade Andreas Nilsson som har gjort några av mina tidigare videos. Han kunde inte och Mikael C Karlsson som har gjort min dokumentär och några videos. Han kunde inte heller, han var upptagen med Ruben Östlund.

Andreas Nilsson tipsade mig om ett gäng i Köpenhamn som var kunniga på AI. Så tanken var då att nu när jag har skivan, jag är liksom rädd för extinction. Hur kan jag signalera till mina fans att jag inte är emot alla AI?

Och då började jag experimentera med första videon som var Pajarito, som var en liten kort, harmlös AI-video tyckte jag skepnaden för att få alla smårörelser. För det är ju väldigt svårt att detaljpromta på den nivån. Så att jag trodde att de hade använt lite folk som hade agerat i deras studior där.

Men allt var helt promptat från scratch. Du då i videon, är du liksom helt filmad eller är det någonting som genererats också? För några scener kan ju inte ha varit inspelade i alla fall.

Ja, exakt. Så jag är med nästan hela videon. Så vi var i den här 360-skärmen, LED-skärmen studio i Köpenhamn. Och så gjorde de ett plåttak där jag satt och spelade och så sprutade de med vattenpistoler för att plisa mina fans.

Så skulle jag vara där och jag skulle spela på riktigt. Det var liksom min ingång att försöka peppa för att... Och att det var den dyraste videon jag har gjort. För det var väldigt mycket folk.

Så då försökte jag liksom kontra i förväg de negativa kommentarerna. Så det var väldigt mycket folk, alla fick betalt. Energimässigt så drog vi väl lika mycket som en villa på vintern.

Kanske några dagars uppvärmning av en villa. Så det var genomtänkt att komma tillbaka till den poängen där. Mats testade lite olika slut. En idé var just att man visar att det här är gjort med människor, att de zoomar ut och så ser man LED-väggarna.

Men också att jag har min gitarr och liksom viftar. Nu blev inte den scenen så tydlig, men min och hans vision där var att det är lite Donkey Kong. Om man tänker hur mycket det byggs av serverhallar så är det här det största projektet som mänskligheten har gjort redan nu.

Och det ser inte ut att stoppa snart. Kanske blir det en Dyson Swarm uppe i skyn. Och vad hjälper en singer-songwriter? Ja, precis, stört viftande. Exakt, så det var väldigt mycket som jag tyckte föll på plats med det avslutet.

Och då var den här bloopers där man får en känsla av att det går att få mänskliga känslor och tweaka dem. Och där ligger lite av faran då, vi är lätt manipulerade varelser. Jag tycker att den där musikvideon är grym.

Jag tycker att den blev jättebra. Jag fick lite känsla av Call of Cthulhu och att det är svartvitt och man åker ner i vattnet. Jag vet inte, den blev jättefin. Nu ska jag berätta lite om den andra kanske, för då var det Bene Bach, en väldigt rolig regissör som gör humoristiska videos och reklamsnuttar.

Och det var ju hennes idéer med robotarna som Jose gets eaten by technology. Då var det en annan ingång att du har robotar som har ett fokusgroup, ett möte där de ska pröva olika snacks. Och snacksen är människor som de ska smaka och se vilka som smakar bra och vilka som smakar dåligt.

Så att kunna växla om till att driva med sig själv kändes också väldigt bra i den här lite allvarsamma. Vad har du fått för reaktioner nu från dina fans? Var det 80% negativa kommentarer igen?

Ja, det är några envetna neggare liksom. Och kommentarerna, jag håller med om vissa. En är ju mer media, vad vi konsumerar för media. Och jag brukar tänka på mat och tomma kalorier.

Det finns ju en risk att vi skapar tom media så att säga. Eller att AI skapar tom media i det här slopp där vi kan fråga oss själva vad är det vi vill med våra liv. Och där tänker jag att det kan vara vettigt att ha AI-stämplar så att säga.

Det här är liksom... Bara berätta så kan vissa forum vara AI-forum och andra vara hybrider och andra bara människor. Så att folk åtminstone kan välja liksom. Men tyckte de att du borde ha varit tydligare med att AI hade använts då?

Eller vad är kritiken? Ja, men vi skrev det i texten. Men ja, det var väl en av ingångarna. En annan var, du kommer ta slut på vattnet på jorden. Det är liksom en avokado ungefär.

En av de här törstiga avokadonsarna motsvarade den videon liksom. Men jag har inte hört några klaga på. Eller jo, det finns många som klagar på det med såklart. Men om jag har förstått det rätt, ni kan ju sånt här.

Men att du kan... Jag har för mig att de nya serverhallarna har slutna system där det är inte så mycket... Det är olika, ska man säga. Om man tittar i Sverige så byggs det generellt väldigt bra datacenter.

Och vi har ju mycket förnybar el. Men tittar man på vad heter det, SpaceX numera gör liksom i Texas och deras datacenter som drivs med gas och renar med annat så är det ju inte så fantastiskt liksom. Och där är det ju ett jättestort problem med vatten också.

Ja, precis. Så det är olika från plats till plats. Ja, precis. Så då, compute for good kan man börja spåna på vad vi använder det till. Och då kan jag ändå hålla med om att ska jag sitta här och promta när det liksom...

Jag kan nämna det att Bacon Labs, de hade inte riktigt bestämt deras ingång till användandet av AI. Men de försökte ta fram lite guidelines och så utgick vi från Future of Life Institutes deras gradering. De gjorde en utvärdering av de största AI-modellerna och så gav de olika betyg.

Så vi valde att försöka använda det. Ur ett klimatperspektiv då? Nej, inte bara, utan etiskt. Det var väl ungefär den tiden när Grok kunde klä av. Så liksom även sådana parametrar.

Om vi går tillbaks till den här Against the Dying of the Light så sjunger du Let's rebel against the replicators. Och det där tänker jag, det här med originalitet förloras med generativ AI kanske. Är det det du har tänkt på där?

Den är lite speciell för jag hör inte så många experter prata om replikatorer. Men jag kommer ju från biokemi och om man tänker på naturlig selektion så tänker jag på hur man har... Det är Susan Blackmore och Daniel Dennett framförallt som pratade om gener, memer och så sen andra replikatorer.

Ett tredje, rättare sagt. Och att när man väl har en replikator som med variation som selekteras så leder det till komplexitet och till så småningom agens. Och det är inte så självklart att det är något man kan styra liksom.

Så tittar man på evolutionen så börjar det med enkla organismer och så är vi här. Ja, precis. Plötsligt sitter vi här i en poddstudio. Ja, exakt. Kollar man på kulturell evolution så började det med primitivt språk bland apor och så helt plötsligt sitter vi här och kommunicerar och nu så har vi liksom large language models som gör något med språk.

Så där har du memer, men så har man tredje replikatorer då och då det skulle vara teknik som kopierar sig självt och då är det väl von Neumann machines som jag inte kan så mycket om. Men oavsett vad det är för något som kopierar sig självt, om du har variation och selektion så kommer det leda till någon slags utveckling. Och en oro som jag kände direkt att har man AI som kan kopiera sig självt, då är det inte självklart att vi kommer styra vad den eller de får för sig.

Eller om man håller på att bygga en väg så när man har den här myrstacken så är det inte säkert att man bryr sig om den när man bygger vägen. Vi ska ju bara bygga en väg här liksom. Ja, precis.

Det skulle kunna bli någon slags superintelligens som ser på oss människor ungefär på samma sätt. Vi har ingenting mot människor, men den där myrstacken människorna är i vägen. Exakt, så det kan vara en superintelligens, men det kan också vara sjukt många AI som i sig behöver resurser och som på ett eller annat sätt driver den här utvecklingen utan att vi har beställt det.

Men man pratar om superorganismer som behöver inte vara supersmarta. Det är bara vad händer när du har väldigt många aktörer som gör saker ur eget intresse, men som leder till saker som var oförutsedda. Så det är oron där.

Men Susan Blackmore var väl känd med det, tror jag. Det var inte riktigt det som jag tänkte då. Jag tänkte mer att det var replicating i form av att bara iterera och skapa en massa slopp utan att det var skapande.

Ja, men det är det också, kan man säga. Absolut. Så det är ju att... Ja, men det kommer av att vi kan... vi som är smartare, så att säga. Lagom. Snart har vi smartare saker här i världen.

Men vi kan ju tänka framåt och då kan vi liksom våra gener, de kop Highly Identical, Highly Intelligent eller Highly General, tror jag. Och att om man bara fokuserar på att en AI-modell är bra på en sak så behöver inte det vara så farligt, så att säga. Men däremot om den är väldigt kraftfull i alla tre aspekter så är det inte självklart att vi kan kontrollera den.

Om man kommer tillbaks till den här andra typen av replikering då, alltså att AI skapar en massa mer content och kanske musik och annat som baserat på det som redan finns. Hur tänker du kring det då? Kan det göra kulturen fattigare eller kommer det att göra att många fler kan skapa saker?

Eller hur ska man tänka på det? Ja, jag vet inte hur man ska tänka på det. Men det är lätt att hamna i moralisering. Och det försöker jag hålla mig borta från. Men så min ingång brukar vara det här med vilka vi är och vart vi är på väg och vad vill vi ha för samhälle?

Hur vill vi vara mot varandra och mot oss själva? Så underhållning är ju något som jag ser som kan bli ett beroende. Jag är peppad på att människor skapar, för det finns något där som är väldigt givande för själen, så att säga.

Att skapa. Jag kan erkänna att när jag har suttit och testade olika modeller och promptade olika dikter. Jag hade det jättekul. Det var svinkul. Så det känns som att det är skillnad på att konsumera och att skapa.

Och det tänker inte jag moralisera om. Det här med skapandet, visst man kan prata energi och vatten såklart. Ja, precis. Men givet att det inte förstör hela planeten.

Jag tänkte på hur man kan åka tåg i olika länder. Om man sitter och promptar någonstans men servern är i ett land med mycket kärnkraft, så blir det bra. Så om serverhallarna är i Sverige eller på Island, och så småningom uppe i rymden, då kanske man behöver inte moralisera just ur den aspekten.

Att fulprompta fast det har ingen inverkan på klimatet eller vädret. Men sen tänkte jag på det här med konsumerandet. Och där är det ju en känslig grej för att om man jämför med hur det var på savannen, det var inte otroliga fantastiska intryck hela tiden.

Så när man inte är van vid att bli bombad av jättespännande saker hela tiden. Exakt. Och sen är det skillnad på barn och på vuxna. Men även vuxna kan ju ha de här problemen att om det är något som är lite för spännande så helt plötsligt sitter man där.

Så det är väl det som man kan vrida på det. Att tänka mer kring vad som får oss att fortsätta vara fungerande sociala varelser och vad som tar oss undan och fastnar i små gropar där vi scrollar. Eller kanske blir kära i AI.

Så det är väl en av aspekterna som Max Tegmark och Bernie Sanders och Steve Bannon tillsammans är emot. Precis överens om att det inte är bra att bli kär och sen ta livet av sig för att man blev olyckligt kär i en AI. Nej, jag vet inte, det är svårt att förstå för vem som helst, eller för de allra flesta tror jag, att man kan bli kär i en AI.

Men vi kommer ju ändå, den här tekniken kommer ju fortsätta utvecklas. Och jag tror att ju bättre den blir på att interagera med oss och ju mer realistisk den blir, och i framtiden kanske när den även är i en robot som ser ut helt och hållet som en människa och så vidare, så är det ju svårare att se hur man skulle kunna... Det kommer att bli väldigt många som inte kan värja sig, tror jag.

Jag tror också det. Jag tror man ska tänka på barn och ungdomar. Någonstans så händer det något när man blir äldre och visare. Och kanske svårare att falla för de där enkla knepen som kanske blir inte så enkla utan väldigt övertygande.

Så jag är ju för att försöka kalibrera alarmismen, men också reglera att det här är väldigt stora experiment vi håller på med. Så jag är glad hur Social Dilemma, den här dokumentären om sociala medier, den och Jonathan Heights och de andra socialpsykologerna upptäckte de dåliga sidorna med sociala medier. Och nu regleras det och det betyder inte att det ska stoppas helt, utan det är bara att sätta olika gränser här och var.

Fast det har varit långsamt, måste man ändå säga. Samhället har verkligen inte reagerat så fort på det här. Nej, och lite liknande är det ju nu med AI, fast det går snabbare.

Så hur blir mänskligheten vis snabbt är min fråga. Alltså du använde, du sa ju det att du promptade lite poesi och så där. Visst gjorde du det också med den här sista låten Joy, alltså texten?

Exakt, så det började faktiskt med en annan låt, Gymnasten. Jag hade bestämt mig för att ha en bit av låten där det är sportskommentator-beskrivning av en gymnast som gör massa volter och grejer. Och för att göra den så använde jag mig av AI och det gick ju jättebra faktiskt.

Det är inte så att du är specialist, eller du brukar inte titta på gymnastik, eller hur? Nej, nej, exakt, exakt. Du visste inte riktigt hur de brukar kommentera det.

Ja, exakt. Och det skulle vara, som jag sa, att det här ska vara precis på den högsta nivån men några element ska vara liksom övermänskligt. Och så flyger den här gymnasten iväg på en flygande tiger mot slutet.

Så då använde jag mig av AI. Och sen så kunde jag inte låta bli att testa AI-modeller för att det är väldigt ofta som jag gör musiken först. Jag vet exakt hur många rader jag ska ha, hur många stavelser och vart det ska rimma.

Så jag kunde liksom skriva den exakta formeln för en dikt som skulle passa till min musik. Och så testade jag 3.5, den var svinkass. Ja, precis. Jag testade 4. Nej, exakt.

Den var väldigt inställsam och jag bara, ja, ja, okej, nu ska jag göra ett till försök här. Och så bara blev det fel. Och så 4.0, fyra o menar jag. Den blev lite bättre, men sen 4.

5, helt plötsligt bara, så promptade jag 20 varianter, klipp och klistrade och så hade jag liksom det mesta av låten och så skrev jag slutet själv. Lite som, så jag tänker på musiken lite som ett konstverk och albumet blir ju mer intressant när jag liksom börjar med Perfect Storm och slutar med Joy. Där slut, jag skriver ihop med AI, men jag skrev slutet själv och där jag peppar att vad som än händer så kommer vi fortsätta vara apor som inte kan låta bli att sjunga.

Hur brukar du skriva låtar liksom? Ja, för annars så är det ju liksom att jag sitter med gitarren. Du börjar med kompet liksom. Det är liksom riff och det är akkord.

Bygger du från akkordföljer eller hur? Väldigt, ja, en tredjedel av låtarna är nog akkordföljer. Men två tredjedelar är riff liksom med arpeggios och riff där det självklart finns akkord.

Men det liksom, jag tänk. Men du har inte börjat med liksom en akkord så här, ja men det är de här akkorden jag tänker ha, hur ska jag hitta några bra riff liksom? Nej, precis, så det är, vissa låtar är ju akkord och så Joy var ju en sån där jag liksom gick tillbaks till Bossa Nova och till andra klassisk musik där det är normal stämning på gitarren så det finns liksom, jag tänkte akkord.

Men annars så brukar det vara det är basgång, arpeggios och melodi. och nästan alltid musik först och sen melodi och sen text. Så det är, jag har skämtat om att jag är väldigt långsam på just textdelen.

Nu är jag faktiskt ganska snabb då, men förr var jag jättelångsam sådär att jag var avundsjuk på vissa som hade hittat sina poeter som hjälpte dem. Elton John hade sin och det var ganska vanligt liksom med team som jobbar ihop. Och det är lite så jag tänkte också, att nu ska jag tänka att det är inte bara jag utan nu tar jag hjälp av en assistent.

Dubbel så många album nu då, när du får hjälp med texten. Jag skämtade om det, men jag tror, jag ska hålla mig från det faktiskt. Jag tar åt mig av kritiken från mina fans och i sådana fall får jag ha ett separat projekt.

En annan kul låt, eller kul, det finns ju mörker i alla de här låtarna. Men Etid, där du sjunger ungefär att, eller jag vet inte om jag ska försöka sammanfatta, men jag kan göra ett försök i alla fall. Får du berätta om jag inte håller med.

Typ att vi hoppas att Och se vår roll i den, och då tror jag verkligen på det här att fortsätta leka, fortsätta umgås. Och hur använder man AI för att tillåta oss att göra det? Det är väl, det känns som facit, frågan är hur.

Ja, precis. Du uppmanar ju i din musik folk att liksom bidra till en bättre värld, men det är ju också någonting som du gör själv, bland annat genom effektiv altruism som du nämnde innan. Vad är det för någonting?

Det är ett försök att göra världen bättre med de resurserna man har. Tid, pengar, intelligens, eller brist på intelligens. Så det är en rörelse som gjorde att jag fick upp ögonen för AI, för de började lite smått i Oxford, med smarta studenter där, som byggde på Peter Singers kall till att om man kan hjälpa någon i nöd med väldigt små medel så bör man det.

Men de utvecklade det till att prata om hur gör man det på ett effektivt sätt, och tog in tänkande från ekonomi. Så det var mycket om global hälsa i början, men sen började de räkna på olika, omvandla allt till beräkningar i Excel-dokument, där man omvandlar en viss mängd pengar till ett visst antal kvalitetslevnadsår. Så räknar man på det, så det är ju grymt om man räddar 100 000 liv från malaria, men vad händer om mänskligheten dör om 10 år?

Då blir kalkylen ganska kass. Och då, en del av EA-rörelsen började tänka på long-termism, att mänsklighetens fortlevnad. Och då började de forska på olika existentiella risker och katastrofala risker.

Hur rankar AI som existentiell risk in här? Kommer den på första plats eller andra eller tredje? Jag tänker att klimatet är en annan av de där grejerna, om man säger så här, en av sex är mänskligt.

Ja, AI, sen kommer synthetic biology, men det är en lista som går att kolla upp. Och jag tror att han gjorde en uppdatering av den och den har inte ändrats så mycket. AI-experterna verkar hamna på 1 på 5 i risk, eller 1 på 10.

Nick Bostrom skrev en spännande artikel där han pratar om just hur man väger då, att försöka nå AGI, men sen om man stoppar lite för tidigt, då kanske vi inte löser åldrandet. Och kalkylen blir väldigt olika då, om vi löser åldrandet. Ja, eller längre, tack vare AI.

Så där är jag väldigt peppad på David Sinclair och andra som jobbar med att leva längre. För att det kan ju låsa upp väldigt mycket resurser för att lösa alla problem som är. Din bakgrund där också inom biokemi tänker jag kanske också spelar in.

Ser du att det finns en realistisk möjlighet att vi skulle kunna leva betydligt längre? Ja, så det är ju inget jag kan så mycket om förutom att jag lyssnar ibland på de här forskarna. David Sinclair är ju spännande för han bedriver forskning och lyckats dra tillbaka klockan lite grann via epigenetik, genom de här Yamanaka-faktorerna, som det handlar om metylering av DNA, som är någon slags biologisk, biokemisk klocka, som går att reversera utan att det leder till cancer.

Så det är väl det de håller på att testa nu i en clinical trial. Så jag tror att man brukar prata om hallmarks of aging, att det finns olika kategorier av saker vi behöver lösa för att kunna prata om att fördubbla livslängden. Men jag är peppad på det som projekt, sedan hur länge jag lever.

Det är svårt att veta. Jag tänker inte, jag säger att jag kommer till halvvägs. Nu är vi 47, vi får se hur det går. Vi har kommit fram till något som vi kallar för AI-dilemmat.

Då ska du få öppna det här kuvertet och läsa upp för lyssnarna vad du har hamnat i för situation. Albumet ur arkivet. Ditt skivbolag har låtit träna en AI enbart på ditt eget arkiv.

4000 röstmemon, demos, repinspelningar och alternativa tagningar från 20 år. Inget annat material, bara du. Nu har den satt ihop 11 låtar. Du lyssnar och känner igen allt.

En gitarrfigur du övergav 2009. En melodi du nynnade i en replokal i Göteborg. En textrad från bortglömd anteckning. Och ändå har du aldrig hört låtarna förut. Det svider att erkänna det, men det kan vara ditt bästa album.

Skivbolaget vill släppa det som vanligt José González-album. Allt är ju ditt, säger de. Men du vet inte längre vad ordet ditt betyder. Släpper du albumet och i så fall vems namn ska stå på omslaget?

Ja, precis. Det är ju scenariot som jag tänker är realistiskt nu. Och haft sådana diskussioner med skivbolagen. Frågan är om jag släpper albumet och vems namn ska stå på omslaget.

Jag tänker att så länge det är ett annat namn så är det ju lugnt. Så José AI eller José Gonzalez. Men av respekt för mina fans så hade jag inte gjort det nu. Så det är mer så jag tänker.

Men ja, väldigt spännande. Jag tycker det är intressant, för musik har ju en tendens att passera förbi våra filter. Om man till exempel tittar på film eller någonting sånt där.

Vi blir ganska skeptiska, vi vill veta vem är den där skådisen? Vad är det för någonting? Om det är gjort med AI så är det där verkligen riktiga människor. Men vi lyssnar ju på väldigt mycket musik utan att veta vem det är som spelar.

Nej, men det är något väldigt speciellt där. Och väldigt mänskligt. Att inte vilja bli lurad, liksom. Och sen när man vet. Det är något med till exempel mat, att om man vet att det är lagat på ett visst sätt så är det nästan som att det smakar bättre.

Än om det är lagat på ett annat sätt. Så även om kompositionen är samma så spelar narrativet ett roll, tydligen. Och att det kan vara olika från person till person hur mycket narrativet spelar roll.

Så jag tänker att man ska... I mitt fall då, som artist som har folk som har haft väldigt starka upplevelser med någon viss låt. I respekt för deras relation till min musik, inte nödvändigtvis till mig utan till musiken, så vill jag låta dem behålla det.

Men om man tänker sig filmmusik eller någon annan typ av musik som kanske är mer funktionell. Ja, exakt. Jag tänker att det här är en transitionsfas. Och med tanke på priset per kvalitetsminut av konst.

Eller jag vet inte riktigt vad måttet är. Men någon slags mått på kvalitet kontra... Där chippen verkar bli... Det finns ju några på gång som kommer att vara hundra gånger mer kraftfulla.

Och priset går väl ner också. Då ser jag en framtid som är oundviklig, oavsett om det är om 10 eller 50 år. Och det är ju en framtid där kvaliteten kommer att vara ohyggligt bra.

Och den kan vara skräddarsydd för varje persons stund. Och då kommer frågan tillbaka, vad vill vi vara för varelser? Varelser som likt Wally sitter där och underhålls och blir feta.

Eller är vi sådana som kanske gör saker? Och även om vi inte är bäst på att spela tennis så gör man det ändå. Även om vi inte är bäst på att spela schack så gör man det.

Jag tycker på något sätt att musikbranschen har lite grävt sin egen grop här. Genom att musiken har blivit mer och mer perfekt på något sätt. Att det blir producerat på samma sätt.

Man använder auto-tuner för att ingenting får vara minsta lilla falskt. På något sätt har det blivit en skinande perfekt produkt som blir väldigt enkel att producera med AI på något sätt. Medan vi kanske kommer att törsta mer efter det här mänskliga.

Och jag menar, din musik är ju verkligen någonting helt annat. Jag måste vara hård här. AI är så pass kapabel nu och kommer bara bli mer och mer kapabelt på att skapa imperfektioner.

Så jag scrollar på From Dust to Digital på Instagram med videor från hela världen med vad man kan kalla för folkmusik. Och det är klart att AI kan härma det med. Ja, men här är ju någon ute i öknen och plinkar på något stränginstrument.

Och så ser det jätteautentiskt ut, men det är det inte. Så jag tror det är lite kört faktiskt. Och då kommer det här med stämpel in, tror jag, för att gardera oss.

De som vill lyssna på människor ska kunna välja det. Ja, lite så. Men återigen, jag tänker inte moralisera de som promptar fram helt fantastiskt kör ute i Östeuropa som sjunger någon gammal kyrka.

satte den här tonen lite falskt. Ska vi öva den? Ja, det gör vi. Så liksom, den hjälper oss att vara med varandra. Det är jag ännu mer peppad på. Ja, precis. Ja, det låter roligare till det också.

Även om det verkar trevligt med. Och så kanske det inte blir perfekt, men att det liksom, den hjälper oss att liksom navigera. En middag med eget soundtrack är ju också kul.

Ja. Vad är meningsfull AI för dig? Ja, men det är ju det här kopplat till mänskligt blomstrande då, så att, och just nu så jag är jättepeppad på bara AI som kan översätta så bra.

Så det det hoppas jag kan leda till fredligare värld, där vi förstår varandra lite bättre och så. Men men, bara som ett exempel då. Fint och tack för att du har skapat ett soundtrack till mitt liv också.

Jag har ju lyssnat jättemycket på dig, liksom. Framförallt under den här perioden liksom fram till 2010-2015 någonting, så hade jag liksom alltid din musik på. Ja, härligt.

Det gläder. Superroligt. Stort tack för det och stort tack för att du kom. Stort tack. Tack så mycket. Och om ni gillade det här avsnittet, har tips på andra gäster och så, så får ni gärna höra av er och annars hörs vi nästa vecka.