Martina Ljungdahl: Demonerna bakom AI-riskerna

Artificiell intelligens (AI) verkar ständigt närvarande. Allt mer i vår vardag tillskrivs denna nya form av intelligens. Många idéer och teorier cirkulerar om teknikens framtid. Det är lätt att dra paralleller till science fiction. Den som är nyfiken på eller orolig för utvecklingen av vår och AI:ns framtid borde läsa Kristian Rönns bok Darwins demoner: Hur evolutionära krafter formar mänsklighetens öde i maskinintelligenses tidsålder (2025). Till skillnad från titeln är innehållet relativt lätt att förstå.

Darwins demoner är tolv pedagogiska kapitel som guidar läsaren genom riskerna och möjligheterna med AI. Först gör Rönn en gedigen inledning och genomgång av begreppen Darwinistisk demon och ängel och ger flertalet exempel på dessa från hela klotet och olika tidsepoker, men ganska få svenska exempel. En darwinistisk demon är enligt Rönn ett beteende som främjar kortsiktig vinning framför långsiktig kollektiv överlevnad. En darwinistisk ängel är raka motsatsen. Något som gynnar flocken eller samhället. Rönn använder dessa begrepp från biologin för att beskriva utvecklingen av AI och dess risker. Hans syn på framtiden är inte bara ljus. Boken diskuterar inte på detaljnivå hur AI kodas och programmeras utan argumenten handlar snarare om systemet, kontexten och det samhälle som den utvecklats och utvecklas i, vilket är tacksamt för den mindre teknikvana läsaren.

Vid en första anblick är det svårt att tro att boken skulle handla om AI om man inte läser hela titeln. Tankarna dras snarare till evolutionsbiologi och psykologi än att med smarta system och marknadens hjälp styra utvecklingen av teknologin i en riktning som gynnar mänskligheten snarare än skadar den. Boken är föredömligt indelad i tre delar, en med bakgrund, en som problematiserar, och en som försöker lösa den krångliga gåtan om hur vi ska samexistera och utveckla AI och tekniken. Boken hade dock kunnat kortas ner om metaforen i början av kapitel tio placerats lite tidigare. Den förklarar några av bokens grundpelare minst lika bra som hela inledningen gör.

Rönn ger otaliga exempel på det han kallar Darwins- eller Darwinistiska demoner. Det verkar som att han är ganska nöjd med begreppet – och han applicerar det på allt från spökstäder och fiskevatten till cancer. Jag slås av tanken, finns det något han inte kan förklara med de här termerna? Den stackars mannen verkar se demoner överallt.

Boken innehåller flera mörka delar där både Rönn och läsaren undrar om det är möjligt att det kan sluta väl för mänskligheten. Efter otaliga exempel på demoner runt om i världen och genom historien leds man som läsare att undra hur vi inte har gått under redan. Till exempel när Rönn kommer fram till att “[…] naturligt urval gradvis minskar antalet samarbetande individer tills de försvinner helt.” Frågan “Varför är inte allt cancer?” är en annan höjdpunkt. Vissa av de demoner som nämns, som de som styr maktkapprustning och vapenutveckling, bör inte läsas som godnattsaga.

Oavsett hur mörkt det bitvis blir är Rönn en skicklig författare. Det märks att både texten och argumenten är väl genomarbetade. Det är skönt att läsa någon som tänkt igenom systemet han skriver om så konsekvent och som ser en större bild. Han är en tillräckligt skicklig tänkare och författare för att jag endast ibland ska drabbas av tanken om spelteori verkligen borde appliceras på evolutionen.  Rönn avslutar i alla fall boken med att lätta upp stämningen lite i kapitlet med den prestationslösa titeln “Hur du kan förändra världen.” Slutsatsen är dock att det inte är individer som främst måste ändra på sig utan systemen som styr våra marknader och samhällen som behöver omkalibreras.

Rönn gör utvecklingen av AI tillgänglig genom smarta liknelser och ibland förvånande kopplingar till evolutionsbiologin. Efter att ha utforskat AI och demoner tillsammans med Rönn i 223 sidor framstår framtiden som mindre science fiction än innan. Boken är läsvärd, välskriven och genomarbetad. Den är absolut värd en stund av din tid om du är intresserad av eller orolig för utvecklingen av den nya sortens intelligens.

Martina Ljungdahl går Svenska Nyhetsbyråns Skribentskola 2025