Nu blir det förbjudet i en delstat i USA att sprida fejkat innehåll som kan kopplas till ett val. Men lagen i Kalifornien, där flera AI-jättar har sin hemvist, möts omedelbart av kritik. Och hånas av Elon Musk.
Flera AI-skapade eller AI-manipulerade bilder och filmer har dykt upp inför presidentvalet i USA och fått stor uppmärksamhet.
I en av de videor som fått mest genomslag används en AI-röst för att det ska framstå som att presidentkandidat Kamala Harris talar. I klippet tackar den fejkade Harris nuvarande president Joe Biden för att han förstört landet. Rösten säger vidare att hon själv inte kommer att kunna kritiseras eftersom hon är "den ultimata mångfaldsrekryteringen". Klippet spreds bland annat av techentreprenören och Trump-anhängaren Elon Musk via hans X-konto tidigare i år.
Kaliforniens guvernör, demokraten Gavin Newsom, hörde till kritikerna när klippet spreds. Nu har han skrivit han under flera lokala AI-lagar, varav en förbjuder medveten spridning av fejkat innehåll som kan kopplas till lokala eller nationella val.
"Du kan inte längre medvetet dela en annons eller annan kommunikation relaterat till ett val som innehåller medvetet vilseledande material – inklusive deepfakes", skrev guvernören på X.
Kritik mot lagen
Kritiken var omedelbar. Personen bakom Harris-videon har redan tagit till rättsliga metoder och anser att lagen innebär "intrång i yttrandefriheten".
En juridisk expert som nyhetsbyrån AP pratat med frågar sig hur lagen ska kunna hinna få bort fejkat innehåll fort nog, om den klarar de rättsliga prövningarna:
– I den bästa av världar skulle innehållet tas ner samma sekund som det läggs upp. Ju snabbare du kan ta ned något desto färre personer ser det, och färre hinner dela det vidare, säger Ilana Beller på medborgarrättsorganisationen Public Citizen.
Hånas av Musk
Elon Musk har också kommenterat lagen. I ett inlägg på sin plattform X skriver han:
"Kaliforniens guvernör har precis gjort den här parodivideon olaglig i strid mot konstitutionen. Det vore synd om den blev viral."
Inlägget, där han återpublicerar den fejkade Harrisvideon, hade före helgen setts av över 50 miljoner användare.
De övriga AI-lagarna som Newsom undertecknat handlar om att AI-genererat innehåll måste märkas tydligt, att ett förbud införs mot så kallade deepfake-nakenbilder och reglerar hur AI-teknik får användas för att efterlikna skådespelare. När lagarna träder i kraft varierar från i närtid till tidigast nästa år, om ens då.
