Over minder dan een week zijn de tussentijdse verkiezingen, en een recente politieke advertentie in Pennsylvania roept vragen op over de legaliteit van het gebruik van AI-deepfakes.
De Republikeinse uitdager voor gouverneur, Stacy Garrity, heeft onlangs een door AI gegenereerde video vrijgegeven van haar tegenstander, de democratische zittende Josh Shapiro. De advertentie begint met wat lijkt op een grijns van Shapiro terwijl hij de deuren van het kantoor van de gouverneur opent. Achter hem staat een bureau met aan weerszijden de Amerikaanse en Pennsylvania-vlaggen.
“Hallo daar. Ik ben Josh Shapiro, en ik heb het erg druk gehad. Het begon met al die schandalen over seksuele intimidatie”, zegt de AI Shapiro in de advertentie.
De video gaat verder met Shapiro die verwijst naar een echt artikel uit de New York Times, met de kop: “Shapiro wordt onder de loep genomen vanwege een klacht over seksuele intimidatie tegen een assistent.”
Er is geen watermerk of tekst op het scherm die de kijkers vertelt dat de video kunstmatig is geproduceerd, en de AI Shapiro in de advertentie maakt pas na ongeveer 45 seconden bekend dat hij niet de echte Josh Shapiro is.
“Deze advertentie is gemaakt met AI, dankzij grote, prachtige datacenters”, zegt AI Shapiro aan het einde van de advertentie.
Een woordvoerder van de echte Shapiro noemde de advertentie “goedkoop” en “oneerlijk” in een verklaring aan Axios, terwijl Garrity tegen KDKA-TV zei dat ze achter de advertentie staat.
Momenteel zijn er in Pennsylvania geen wetten die deepfakes in politieke advertenties verbieden of zelfs maar een disclaimer vereisen.
In mei deelde staatssenator Lisa Boscola een memo waarin ze zei dat ze van plan is wetgeving in te voeren die door AI gegenereerde of door AI gewijzigde video, audio of afbeeldingen van een kandidaat zou verbieden gedurende de 90 dagen vóór een verkiezing. Dat wetsvoorstel is nog niet ingediend. Vorig jaar keurde het staatshuis een afzonderlijk wetsvoorstel goed om deepfakes in campagneadvertenties te reguleren, maar het wetsvoorstel haalde de Senaat niet.
Verschillende omliggende staten, waaronder Delaware, Maryland en New York, hebben wetten die deepfakes bij verkiezingen verbieden of een disclaimer vereisen dat de inhoud door AI is gegenereerd.
