De gesprekken en aanwijzingen van veel medewerkers van de staatsoverheid met chatbots op het gebied van kunstmatige intelligentie zullen waarschijnlijk afgeschermd blijven van openbare registers, na een uitspraak van het Open Records Agency in Pennsylvania deze maand.
WITF heeft vorig jaar de ChatGPT-logboeken van werknemers opgevraagd bij meer dan twintig overheidsinstanties op grond van de wet op de openbare registers van Pennsylvania. Het kantoor van gouverneur Josh Shapiro verwierp deze pogingen, met het argument dat de chats waren vrijgesteld omdat het “aantekeningen en werkdocumenten waren die uitsluitend voor het eigen persoonlijke gebruik van die ambtenaar of werknemer werden gebruikt” en “interne, vooraf beslissende beraadslagingen.”
Het onafhankelijke Office of Open Records in Pennsylvania, dat toezicht houdt op de verzoeken om geweigerde verzoeken om openbare registers, koos grotendeels de kant van de regering.
Het besluit brengt een potentiële leemte aan het licht in de wet op de openbare registers van Pennsylvania. En voorstanders van transparantie zeggen dat het overheidswerknemers ervan zou kunnen weerhouden verantwoording af te leggen over de manier waarop zij de technologie gebruiken.
Maar de uitspraak betekent niet dat AI-chatlogs altijd vrijgesteld zijn, aldus Melissa Melewsky, mediarechtadvocaat van de Pennsylvania NewsMedia Association, waarvan WITF lid is. Elke AI-chat is ‘vermoedelijk openbaar’, zei ze, tenzij bewezen is dat een bureau daarvan vrijgesteld is.
“Als AI wordt gebruikt om beleid te creëren, zou het beleid een openbaar register zijn”, aldus Melewsky. “Als AI wordt gebruikt om een persbericht te formuleren en tot stand te brengen, is het persbericht openbaar.”
In Washington, dat een meer open wet op openbare registers heeft dan Pennsylvania, heeft een verslaggever van het openbare mediastation KNKX duizenden pagina’s met ChatGPT-gesprekken verkregen van lokale overheidsfunctionarissen. Uit deze documenten bleek dat overheidspersoneel de software gebruikte om te reageren op e-mails van kiezers, berichten op sociale media te genereren, brieven op te stellen voor staats- en federale financiering, toespraken en gespreksonderwerpen te schrijven en vele andere dagelijkse taken uit te voeren.
KNKX ontdekte ook dat veel van de door AI gegenereerde documenten geen duidelijk label hadden waarop het gebruik van de technologie werd vermeld – wat een directe schending is van de richtlijnen van de staat.
De regering-Shapiro hanteert een soortgelijk openbaarmakingsbeleid in Pennsylvania.
“Het gebruik van generatieve AI moet openbaar worden gemaakt, zelfs als het slechts werd gebruikt om een deel van de inhoud te genereren”, luidt het beleid. “De openbaarmaking moet prominent worden weergegeven en een indicatie bevatten dat de inhoud geheel of gedeeltelijk is gegenereerd door generatieve AI en het gebruikte generatieve AI-systeem en de gebruikte versie identificeren.”
Maar het beleid van de regering-Shapiro staat generatieve AI alleen toe voor het opstellen van materiaal dat vervolgens door een menselijke medewerker wordt beoordeeld voordat het wordt gepubliceerd.
Deze clausule – als deze door elke werknemer wordt gevolgd zoals geschreven – zou ertoe kunnen leiden dat het meeste AI-gebruik wordt vrijgesteld van openbare registers, aangezien het kantoor van de gouverneur betoogde dat de documenten uitsluitend ‘onderzoek en initiële opstelling’ waren, waarmee het verzoek van WITF werd afgewezen.
Philip Hensely-Robin, uitvoerend directeur van de belangenorganisatie Common Cause Pennsylvania, zegt dat het onduidelijk is of de regering van Shapiro haar eigen openbaarmakingsbeleid volgt.
“Als het publiek volledig aan boord zou zijn en vertrouwen zou hebben in deze initiatieven, zou dat echt profiteren van meer transparantie over hoe (AI) wordt gebruikt en of de waarborgen die de regering heeft ingesteld daadwerkelijk worden nageleefd”, zei hij.
Melewsky was het daarmee eens.
“Er kan geen verantwoording worden afgelegd zonder toegang”, zei ze. “Het zal moeilijk worden om hier een heldere lijntest toe te passen (voor AI).”
Het omarmen van AI
Gedurende 2024 voerde de regering-Shapiro een proefprogramma uit met OpenAI, de maker van ChatGPT, om een veiliger hulpmiddel dan hun commerciële product te implementeren in de activiteiten van de staatsoverheid. Het einddoel, zeiden ambtenaren, was het verhogen van de productiviteit van het personeel.
Die testrun bespaarde de deelnemende werknemers – 175 in totaal verdeeld over 14 overheidsinstanties – ongeveer 95 minuten per dag aan schrijven, onderzoeken, samenvatten en technologische ondersteuning, aldus de administratie.
Shapiro’s kantoor zei dat de licenties die nodig zijn voor ongeveer 300 werknemers die OpenAI gebruiken in totaal meer dan $ 7.500 per maand kosten – of $ 90.000 per jaar. Nog eens zo’n 2.200 gebruiken andere AI-tools zoals Microsoft Copilot, waarvan de kosten zijn inbegrepen als onderdeel van een algemene Microsoft-licentieovereenkomst.
Tijdens het pilotprogramma werd één chatlogboek gegenereerd dat via het recordverzoek met WITF werd gedeeld. En de informatie uit dat gesprek komt gedeeltelijk overeen met wat was opgenomen in Shapiro’s onlangs uitgebrachte huisvestingsactieplan.
De anonieme medewerker vroeg ChatGPT 5.2 om een artikel van het Center for American Progress samen te vatten, gericht op ‘Het uitbreiden van de huisvesting in Amerika door het lokaal landgebruik te hervormen’.
De software interpreteerde het artikel als een aanbeveling aan beleidsmakers om de bestemmingswetten te hervormen door ‘meer meergezinswoningen toe te staan, de parkeervereisten te verminderen en bijkomende woningen toe te staan’. Het stelde ook een programma voor om lokale overheden te stimuleren hun beleid in ‘gebieden met hoge kansen’ te hervormen.
“Kunt u meer details geven over het voorstel?” vroeg de medewerker. “Zijn andere staten hierin succesvol?”
ChatGPT richtte zich op staten als Californië, Oregon en Washington en schreef een lovende recensie over hun beleid om woningen met een hogere dichtheid en bijbehorende woningen toe te staan, waarvan het zegt dat het woningaanbod en de betaalbaarheid zijn toegenomen.
“Een ‘gebied met hoge kansen’ verwijst naar buurten die sterke toegang bieden tot hulpbronnen zoals kwaliteitsscholen, werkgelegenheid, openbaar vervoer en veilige omgevingen”, schreef ChatGPT.
Shapiro’s plan gebruikt soortgelijke taal, hoewel de overlappende voorstellen door voorstanders van huisvesting doorgaans als hervormingen worden gepresenteerd.
“Lokale regels voor landgebruik – zoals restrictieve bestemmingsplannen, buitensporige parkeermandaten en langdurige goedkeuringsprocedures voor vergunningen – beperken de woningbouw verder, vooral in gebieden waar de vraag het grootst is”, aldus Shapiro’s plan.
De regering-Shapiro zei in reactie op dit verhaal dat de ChatGPT-samenvatting “de besluitvorming niet betekenisvol beïnvloedde of de inhoud van het huisvestingsactieplan bepaalde” en dat daarom geen openbaarmaking van het gebruik van AI in het huisvestingsplan nodig was.
