Het stadsbestuur van Pittsburgh heeft nog veel meer te leren als het gaat om het reguleren van surveillancetechnologie, volgens een panel van nationale experts die maandag voor de gemeenteraad hebben getuigd.
Raadsleden nodigden de experts uit om te spreken na de publicatie eerder deze maand van een rapport waarin de door de stad gebruikte surveillancetechnologieën werden geïnventariseerd. Het rapport gedetailleerde technologie, van drones tot geautomatiseerde roodlichtcamera’s, kentekenplaatlezers en technologie voor geweerschotdetectie. Er werd uitgelegd waarvoor elk initiatief wordt gebruikt, door wie en hoeveel elk initiatief kost.
Deskundigen op de bijeenkomst zeiden dat het rapport een goede eerste stap was, maar verder zou kunnen gaan in het verstrekken van meer informatie.
“Ik denk dat het verzamelen van aanvullende informatie over het soort verzamelde gegevens, hoe lang deze worden opgeslagen, de voorwaarden voor toegang, en het uitbreiden hiervan naar veel onafhankelijke autoriteiten van Pittsburgh die ook over een aanzienlijke infrastructuur voor surveillance beschikken, een goede volgende stap zou zijn in het begrijpen van de privacy- en surveillance-impact van technologie in de stad Pittsburgh, en het bepalen of verdere beperkingen nodig zijn om ervoor te zorgen dat deze technologieën niet worden misbruikt of misbruikt”, zegt Lorrie Cranor, een professor aan de Carnegie Mellon University die zich richt op technische privacy en beveiliging.
Wethouder Deb Gross, die sponsorde wetgeving die om het rapport vraagt Eerder dit jaar vertelde Soest Nu dat de stad “een inhaalslag te maken heeft” als het gaat om het surveillancebeleid.
“We zijn erg druk bezig geweest met het maken van beleid, maar dit is een beleidsterrein dat we volgens mij al een tijdje niet meer hebben bijgewerkt”, zei Gross.
“Er zijn burgerrechtenverplichtingen, privacyverplichtingen waarvan de stad echt moet zorgen dat ze worden beschermd”, legde ze uit. “We moeten echt veel leren om de technologieën te begrijpen en ook hun impact te begrijpen.”
Clarence Okoh, nationaal directeur burgerrechten en technologie bij de belangenorganisatie TechTonic Justice, beschreef de Raad een aantal gevallen waarin surveillancetechnologie in andere steden grenzen had overschreden. Hij citeerde een incident vorig jaar in Marylandwaarin de politie een 16-jarige handboeien omdeed nadat een AI-wapendetectiesysteem een zak Doritos ten onrechte als een pistool had geïdentificeerd.
“AI-aangedreven staatstoezicht vertegenwoordigt een van de meest urgente burger- en mensenrechtencrises van onze tijd”, zei hij. “Het scala aan surveillancetechnologieën waarover lokale wetshandhavingsinstanties en andere publieke instanties beschikken, lijkt vaak meer op een militair arsenaal dan op de instrumenten van een democratische regering.”
Hij moedigde wetgevers aan om proactief beleid te maken op het gebied van surveillance, en om te overwegen een “AI Bill of Rights” op te stellen om ervoor te zorgen dat de rechten van mensen worden beschermd voordat nieuwe technologie wordt aangenomen.
“Lokale overheden moeten meer zijn dan passieve consumenten van krachtige technologieën”, zei hij. “Jullie moeten de urgente taak op zich nemen om onze collectieve rechten te verdedigen tegen massasurveillance, systemische discriminatie en geautomatiseerde ongelijkheid.”
Mike Siegel, gemeenteraadslid uit Austin, TexasX, benadrukte het belang van het in de gaten houden van het surveillancebeleid. Austin heeft vorig jaar zijn contracten met de geautomatiseerde kentekenplaatlezers Flock en Axon opgezegd.
“Dit zijn absoluut kwesties van nationaal belang”, zei hij. “Het zijn kwesties van grondwettelijke rechten, kwesties van fundamentele vrijheid.”
Hij haalde de Transparent and Responsible Use of Surveillance Technology (TRUST) Act van zijn stad aan, die surveillancetechnologie onderzoekt voordat deze wordt aangeschaft.
“Het idee is dat voordat er een instrument wordt aangeschaft, of het nu wordt aangeschaft of gratis wordt ontvangen in het kader van een subsidieprogramma, er een surveillance-impactrapport komt dat echt ingaat op wat dit instrument zal gebruiken,” zei hij. “Welk type gegevens worden verzameld? Waar worden de gegevens bewaard? Wat zijn de vangrails voor de toegang tot die gegevens?”
Wethouder Erika Strassburger zei dat ze ervoor wilde zorgen dat gesprekken over surveillancebeleid niet alle mogelijke toepassingen van de technologie belemmeren. Ze hoopt in de toekomst passend versus ongepast gebruik van surveillance te definiëren.
“Dat is wat ik in de toekomst echt wil proberen te bereiken met deze discussie: de differentiatie, maar ook het overkoepelende raamwerk voor de manier waarop we beslissingen nemen en de manier waarop we deze besluitvorming kunnen ondersteunen voor onze verschillende departementen in de overheid, zodat we niet per ongeluk instemmen met iets dat we niet van plan zijn”, zei ze.
Gross zei dat ze ervoor wil zorgen dat de huidige urgente kwesties op het gebied van AI, datacenters en surveillancetechnologie in hetzelfde gesprek aan bod komen. Ze zegt dat zij en andere raadsleden vragen hebben ontvangen van kiezers over alle drie de onderwerpen.
Ze kijkt ernaar uit om meer informatie te verzamelen over stadstoezichttechnologieën en te onderzoeken wat andere steden hebben gedaan op het gebied van toezichtregulering.
“We kijken altijd naar ons soort benchmarksteden en andere steden die voorop lopen, en dan moeten we hun wetgeving volgen en kijken wat van toepassing of toegestaan is onder het Pennsylvania-statuut of onder onze specifieke Klasse 2-bevoegdheden,” zei ze. “Dus dat is het werk dat voor ons ligt.”
De gemeenteraad is van plan om in de komende weken een openbare hoorzitting te organiseren om de inventaris van surveillancetechnologie te bespreken en bewoners in staat te stellen hun mening te geven over het gebruik van de technologie.
