In een vrijwel unanieme stemming heeft de Senaat van Pennsylvania deze week een maatregel aangenomen die tot doel heeft bescherming te bieden aan kinderen die interactie hebben met kunstmatige intelligentie-chatbots.
“Terwijl Pittsburgh innovatie op het gebied van kunstmatige intelligentie blijft stimuleren, is het belangrijk dat wetgevers in Harrisburg ervoor zorgen dat AI-chatbots die toegankelijk zijn voor minderjarigen veilig, accuraat en gereguleerd zijn”, zei de Democratische Senaatsleider Jay Costa, die het wetsvoorstel “een zinvolle stap in de goede richting” noemde.
“Maar er moet nog veel gebeuren om een internetlandschap te creëren dat veilig is voor jonge gebruikers”, voegde hij eraan toe. “Ik kijk ernaar uit om dit moeilijke en noodzakelijke werk voort te zetten, zodat Pennsylvania de natie kan blijven leiden op het gebied van AI-vooruitgang en -waarborgen.”
Het wetsvoorstel is van toepassing op chatbots, die het definieert als “generatieve AI of algoritmen voor emotionele herkenning die zijn ontworpen om een duurzame menselijke of mensachtige relatie met een gebruiker te simuleren.” Het vereist dat technologiebedrijven AI-chatgenoten verbieden seksueel expliciet taalgebruik, inhoud over zelfbeschadiging of geweld te genereren wanneer ze berichten sturen naar kinderen of tienergebruikers.
Naast andere regelgeving zou de wet platforms vereisen om gebruikers door te verwijzen naar echte bronnen over zelfmoordpreventie als een jongere zegt zichzelf pijn te hebben gedaan.
“Wanneer een jong persoon voor emotionele steun begint te vertrouwen op een machine zonder de juiste voorzorgsmaatregelen, kunnen de gevolgen verwoestend zijn”, zei hoofdsponsor-staatssecretaris Tracy Pennycuick (R-Montgomery/Berks) in een toespraak. Sommige families van kinderen die door zelfmoord zijn omgekomen, hebben gezegd dat een overmatig vertrouwen op AI-technologie mogelijk heeft bijgedragen aan hun dood – en zelfs heeft geholpen bij het schrijven van zelfmoordbriefjes.
Pennycuick, voorzitter van de Senaatscommissie voor Communicatie en Technologie, zei dat de wetgeving jonge gebruikers beschermt zonder “innovatie te belemmeren” in de AI-industrie. Onderzoekers hebben al bewijs gevonden dat AI jonge gebruikers negatief kan beïnvloeden als er geen regelgeving bestaat, voegde ze eraan toe. Volgens het Pew Research Center zegt bijna tweederde van de Amerikaanse tieners dat ze AI-chatplatforms hebben gebruikt.
Volgens de huidige formulering van het wetsvoorstel zouden AI-chatbots jonge gebruikers eraan moeten herinneren dat ze geen interactie hebben met een mens – en dat ze een pauze moeten nemen van het chatten – minstens één keer per drie uur.
Maar het wetsvoorstel vereist geen online leeftijdsverificatie voor AI-chatplatforms. Er staat eenvoudigweg dat alle regelgeving nodig zou zijn “voor een gebruiker waarvan de exploitant weet of had moeten weten dat hij minderjarig is.”
Medesponsorstaat senator Nick Miller (D-Lehigh/Northampton) zegt dat het wetsvoorstel nog steeds een goed evenwicht biedt.
“We willen leiders zijn in opkomende technologieën, maar we willen ook onze gemeenschappen beschermen en deze innovatieve technologie met gezond verstand vangrails plaatsen”, aldus Miller.
De wet zou de procureur-generaal de bevoegdheid geven om technologiebedrijven een boete van $10.000 per overtreding te geven. In een verklaring na de goedkeuring van het wetsvoorstel zei staatssecretaris Dave Sunday dat hij hoopt met de wetgevende macht aan andere waarborgen te kunnen werken.
“We hebben online chatbots een rol zien spelen in talloze tragedies in het hele land”, aldus de verklaring. “We moeten er alles aan doen om kinderen en kwetsbare bewoners weg te houden van deze giftige online interacties.”
Het wetsvoorstel werd aangenomen met de steun van elke senator, behalve de Republikein Doug Mastriano, die woensdagmiddag geen verzoek om commentaar heeft ingediend over waarom hij nee heeft gestemd.
De goedkeuring door de Senaat komt slechts een maand nadat gouverneur Josh Shapiro tijdens zijn jaarlijkse begrotingstoespraak opriep tot bepaalde AI-hervormingen. Het wetsvoorstel wacht nu op behandeling in de House Communications and Technology-commissie, onder leiding van Democraat Joe Ciresi uit het zuidoosten van Pennsylvania, en de Republikein Jason Ortitay uit Cecil Township.
