Vad ska vi göra åt våra nutida Frankensteins?
Kan man tämja tekonologi? Eller har vi redan tappat kontrollen?


1797, i industriålderns gryning, skrev Goethe ”Trollkarlens lärling” – en dikt om en magiker under skolning, som på grund av arrogans och halvdana krafter släpper lös en kedja av händelser som han inte kunde kontrollera.

Runt 20 år senare gav sig en ung Mary Shelley på att skriva en spökhistoria, vilken hon delade på en liten samling vid Genèvesjön. Hennes berättelse skulle sedan publiceras som roman, ”Frankenstein eller den moderne Prometeus”, den 1 januari 1818.

Båda historierna handlar om makten att skapa saker som får eget liv.

Master, come to my assistance!
Wrong I was in calling
Spirits, I avow,
For I find them galling,
Cannot rule them now.

Lyckligtvis återvänder mästaren i sista sekund för att bryta den lömska förtrollningen, men så väl gick det inte i Shelleys saga: Victor Frankensteins monster ger sig ut och börjar mörda folk i raseri, och hans skapare kan inte få stopp på blodbadet.

Vem förutsåg vårt öde: Goethe eller Shelley?

Illustration till Johann Wolfgang von Goethe’s dikt “Trollkarlens lärling” runt 1882, av Ferdinand Barth. Goethes verk visar en katastrof som släppts lös av trollkarlens ignorans.

Det är frågan vi ställer oss på 200-årsdagen av ”Frankenstein”, mitt uppe i de oavsiktliga konsekvenserna av våra skapelser som Facebook, artificiell intelligens och genetisk ingenjörskonst på människor. Kommer vi att segla säkert, eller kommer vi liksom Victor Frankenstein bevittna ”förstörelse och osviklig misär”?

Kommer vetenskapen rädda oss?

I Goethes dikt avvärjs katastrofen med en skickligare tillämpning av samma magiska besvärjelse som trollade fram problemet från första början. Idag kallas detta för ”reflexiv modernitet”, idén att modern teknologi kan tillämpas för att hantera eventuella problem med sin egen skapelse, och att alla problem som uppstår ur teknisk vetenskap går att lösa med mer teknisk vetenskap. Inom miljörörelsen kallas detta för ekomodernism. I transhumanistiska kretsar kallas den proaktionsprincipen, vilken ”involverar inte bara att förutse innan man agerar, utan också att lära sig genom att agera”.

Victor Frankenstein känner avsky för sin skapelse. Stålgravyr av Theodor von Holst från 1831 års reviderade upplaga av “Frankenstein” av Mary Shelley, utgiven av Colburn and Bentley, London 1831. Romanen publicerades första gången 1818.

”Frankenstein” å sin sida är en saga som manar till försiktighet. Genomsyrad av impulsen att omvandla naturen riskerar människan att nå bortom sin egentliga räckvidd. Victor Frankenstein kom att ångra sin ambition att bli ”större än vad hans natur tillåter”.

Han säger: ”Lär av mig… hur farligt är införskaffandet av kunskap och hur mycket lyckligare är den man som tror att staden han föddes i är hela världen.”

Han verkar varna oss för att hybris kommer att bli allas vår död.

Alltfler nejsägare i Silicon Valley

Samma oro över hybris verkar ha krypit in bland dagens forskare, ingenjörer och entrepenörer; många verkar ha fått kalla fötter. Efter att ha skapat något har de vänt och fördömt sina olika skapelser.

Är de som lärlingen som ropar på mästaren för hjälp? Eller ägnar de sig, liksom Frankenstein, åt den meningslösa uppgiften att försöka krossa något som redan är bortom vår kontroll?

Tänk på Sean Parker, medgrundare till Napster och en tidig investerare i Facebook. Han tillkännagav nyligen sin status som ”samvetsgrann motståndare” till sociala medier. Han hävdar att Facebook troligen förstör barns hjärnor, och definitivt utnyttjar människans psykologiska svagheter.

Sean Parker, medgrundare till Napster och Facebooks första ordförande, har tillkännagett att han är en "samvetsgrann motståndare" till sociala medier. Foto: Spencer Platt/Getty Images

Det finns fler nejsägare i Silicon Valley. Justin Rosenstein, som uppfann Facebooks ”gilla-knapp”, har raderat appen från sin telefon, med hänvisning till oro för beroende, kontinuerlig partiell uppmärksamhetsstörning, och att demokratin dör i händerna på sociala medier. De tidigare Google-anställda Tristan Harris och Loren Britcher, som uppfann den spelautomatlika dra-för-att-uppdatera-mekanismen för Twitter-flöden, varnar båda för farorna med deras skapelser.

Justin Rosenstein, som uppfann Facebooks “gilla-knapp", oroar sig för att sociala medier kommer att leda till död för demokratin. (designerfund.com)

Anthony Ingraffea tillbringade de första 25 åren av sin ingenjörskarriär åt att försöka räkna ut hur man ska kunna utvinna mer fossila bränslen ur berg. Från 1978 till 2003 jobbade han för såväl statligt som industriellt för att förbättra hydraulisk frakturering.

Hans egen forskning fick inget resultat, men när han såg de andras framgångar och omfattningen av kemikalier och vatten som krävdes, blev han ”förskräckt” och sade: ”Det var som om [jag hade] jobbat på någonting i hela livet, och någon kommer och förvandlar det till Frankenstein.” De senaste drygt tio åren har han blivit en av landets ledande frackingmotståndare.

Jennifer Doudna är en av de främsta forskarna bakom genredigeringsmetoden ”Crispr”. I sin nya bok ”A Crack in Creation” (”En spricka i skapande”) skriver hon att Crispr kan eliminera åtskilliga sjukdomar och förbättra liv, men att metoden också kan användas på sätt som liknar nazistisk rashygien. Doudna har avslöjat att hon har mardrömmar där Hitler ber henne förklara ”användningen och konsekvenserna av denna fantastiska teknologi”.

Jennifer Doudna, en av de främsta forskarna bakom genredigeringsmetoden Crispr, har mardrömmar om att Hitler frågar ut henne om denna teknologi. (CC BY-SA 3.0)

Elon Musk oroar sig för att vi ”kallar på djävulen” med artificiell intelligens. AI är, för honom, ”det största hotet mot vår existens”. Musk har gått bortom Dr Frankenstens första impuls att undvika sin förskräckliga skapelse: Han jobbar på interplanetär kolonisering så att vi kan fly ända till Mars när AI löper amok på planeten Jorden.

Behandla teknologi som ett barn

Antropologen Bruno Latour har attackerat Musk för sådana här saker. Som Latour ser det säger inte moralen i Frankenstein att vi ska sluta att tillverka monster utan snarare att vi ska älska våra monster. Det var inte Dr Frankensteins hybris som var problemet utan hans känslokyla – han övergav sitt ”barn” istället för att utbilda det så att det lärde sig hur man ska uppföra sig.

Elon Musk, grundare och vd för SpaceX och Tesla, anser att artificiell intelligens utgör “det största hotet mot vår existens.” Foto: Kevork Djansezian/Getty Images

Latours poäng är att oavsett hur många tekniska framgångar vi når så kommer de aldrig att ge oss kontroll över, eller frigöra oss från världen. Istället kräver tekniken, liksom föräldraskap, hela tiden att vikas in i nya utvecklingar, passning, oro och omsorg.

Musks initiativ "OpenAI", som strävar efter att utveckla säkrare AI-tekniker, är mer likt det som Latour har i tankarna.

Latour har tagit till sig sitt eget råd och leder arbetet med att skapa vår tids mest skrämmande monster. Detta monster är i själva verket inte en vetenskaplig produkt, utan snarare ett sätt att tänka på vetenskap. Latour ägnade sin karriär åt att visa på hur vetenskapliga fakta är sociala konstruktioner, och att det inte finns något sådant som en objektiv tillgång till sanning.

Kort sagt, han argumenterade för att objektiviteten är en bluff, och att vetenskapen aldrig är riktigt avgjord eller säker.

Franska antropolgen Bruno Latour hävdade att vetenskaplig objektivitet som en bluff,  men betraktar nu med fasa hur dekonstruktionens ande bidrar till vår post-sanningsålder.  Foto: Miguel Medina/AFP/Getty Images

Nu ser han förstås med fasa på hur denna ande av dekonstruktion och misstanke slår rot i vår post-sanningsålder av alternativa fakta, klimatförändringsförnekare och partisanbubblor i media.

Nyligen erkände Latour i en intervju att han nu ångrar sin tidigare ”juvenila entusiasm” när han attackerade vetenskapen, och lovar att byta kurs:

”Vi kommer att återfå en del av vetenskapens auktoritet. Det är raka motsatsen till var vi började göra vetenskapliga undersökningar.”

För att kunna älska monster måste det finnas några grundläggande överenskommelser kring vad vi ska göra när de beter sig illa. Den överenskommelsen kommer genom ett brett förtroende för de traditionella institutionerna: vetenskap, media och universitet. Latour försökte befria oss från paternalismen hos experterna som innebor dessa institutioner, och det var en ädel strävan.

Men hans syra, kombinerad med kaoset från sociala medier och de stora pengarnas girighet, har frätt på saker djupare än vad han hade kunnat föreställa sig. Nu löper det hela vägen ned; allting kan beskyllas för att vara "falska nyheter”. Klimatförändringar kan vara det ytterst avskyvärda, eller kanske är det båg. Vem kan avgöra det? Den skeptisismframkallade förlamningen är knappast gynnsam om man ska jaga monster.

Adam Briggle är assisterande lärare i filosofi och religion vid University of North Texas. Denna artikel publicerades först på The Conversation.

Åsikter som uttrycks i artikeln är författarens egna.