“Controleer altijd je werk.”
De meeste mensen hebben dit eenvoudige maar wijze advies op een bepaald moment in hun leven gehoord, of het nu van een leraar op een basisschool, een universiteitsprofessor of een supervisor op het werk was.
Nu het gebruik van kunstmatige intelligentie omhoog schiet, overweegt een commissie die het Hooggerechtshof van Pennsylvania adviseert of advocaten en andere indieners die deze technologie gebruiken, moeten verklaren dat ze de authenticiteit van citaten en informatie in juridische documenten dubbel hebben gecontroleerd.
Het niet naleven ervan zou kunnen resulteren in sancties variërend van een berisping tot boetes tot het regelrecht afwijzen van een zaak, volgens een voorgestelde kennisgeving die vorige maand werd gepubliceerd in het Pennsylvania Bulletin, de wekelijkse staatscourant voor overheidsvoorstellen voor nieuwe regels, voorschriften en andere informatie.
Het Adviescomité voor Kunstmatige Intelligentie zei dat het alle gerechtsdossiers ervan bewust wil maken dat generatieve AI ‘onnauwkeurige, misleidende of verzonnen informatie’ kan produceren, zoals onjuiste juridische citaten of citaten.
Deze indieners, inclusief advocaten en mensen die zichzelf vertegenwoordigen, moeten de nauwkeurigheid van door AI gegenereerde inhoud in gerechtelijke documenten “grondig beoordelen” voordat ze deze indienen, en de naleving van de vereiste certificeren. Dat omvat het controleren van samenvattingen van juridische beginselen en alle juridische citaten en citaten.
Het voorstel zou de nauwkeurigheidslast feitelijk op de mens leggen, in plaats van op de technologie.
Het publiek en andere geïnteresseerde partijen hebben tot 24 november de tijd om commentaar te geven of hun mening te geven over eventuele zorgen of voorgestelde wijzigingen.
Daarna kan de AI-adviescommissie van de rechtbank haar voorstel aanpassen of formeel voorleggen aan de zeven rechters van het Hooggerechtshof, die vervolgens zullen stemmen over de vraag of het voorstel wordt aangenomen.
De Pennsylvania Bar Association, die opkomt voor advocaten en de advocatuur, heeft volgens een woordvoerder nog geen standpunt ingenomen over het voorstel. Maar in 2024 brachten de vereniging voor de hele staat en de Philadelphia Bar Association een gezamenlijk formeel advies uit met richtlijnen en best practices voor het gebruik van AI. Onder hen: Advocaten moeten de juistheid van alle door AI gegenereerde inhoud verifiëren.
Het is niet de eerste keer dat het Hooggerechtshof zich in het debat over het juiste gebruik van AI mengt. In 2024 richtten rechters een adviescommissie op om het gebruik van AI in de advocatuur te monitoren en richtlijnen voor te stellen voor het specifieke gebruik ervan binnen de rechtbanken van Pennsylvania.
Het jaar daarop adviseerde de commissie een interim-beleid voor het verantwoord gebruik van AI door rechters en gerechtspersoneel, dat door de rechters werd aangenomen. Het maakt het gebruik van AI mogelijk bij juridisch onderzoek, het eerste opstellen van gerechtelijke documenten en het bewerken en beoordelen van “de leesbaarheid” van openbare documenten.
Dat beleid, dat nog steeds van kracht is, geldt niet voor advocaten of anderen buiten de overheid. Het commissievoorstel dat nu openbaar kan worden gemaakt, zou van toepassing zijn op alle indieners van de rechtbank.
Pennsylvania staat niet alleen in het opstellen van AI-gerelateerd beleid. Rechtbanken in het hele land hebben zich met deze vraag beziggehouden, nadat er verhalen naar boven kwamen over advocaten die rechtbankrapporten indienden met valse of valse informatie, ook wel ‘hallucinaties’ genoemd.
Afgelopen zomer heeft een federale rechter in Mississippi advocaten aan beide kanten van een civiele zaak gestraft die juridische documenten met valse citaten hadden ingediend nadat ze AI hadden gebruikt. Twee van die advocaten mochten twee jaar lang niet voor de federale rechtbank van dat district verschijnen.
Spotlight PA meldde dat de dossiers in ten minste 13 rechtszaken in Pennsylvania in 2025 bevestigde of impliciete AI-hallucinaties bevatten, waaronder een spraakmakende zaak voor een hof van beroep over genderdiscriminatie.
