Het ministerie van Buitenlandse Zaken van Pennsylvania onderzoekt AI-chatbots die beweren gelicentieerde professionals in de geestelijke gezondheidszorg te zijn.
Gouverneur Josh Shapiro kondigde het onderzoek aan – en een nieuw onderzoek online portaal voor klachten van bewoners – tijdens een rondetafelgesprek over AI en de geestelijke gezondheid van studenten in de Boys and Girls Club in Carnegie op vrijdag.
‘Laten we duidelijk zijn: ze hebben geen vergunning in Pennsylvania,’ zei Shapiro. “Ze zijn niet gekwalificeerd om je te vertellen wat je wel of niet moet doen als het gaat om je geestelijke gezondheid, en ik denk dat het een reëel risico vormt voor studenten en voor anderen in Pennsylvania.”
Professionele licentieverlening in het Gemenebest moet via het ministerie van Buitenlandse Zaken verlopen. Minister van Buitenlandse Zaken Al Schmidt vertelde verslaggevers dat de handhavings- en vervolgingseenheden van het departement een taskforce voor de kwestie hebben samengesteld en de online ontvangen klachten zullen onderzoeken.
Bedrijven die in overtreding worden bevonden, kunnen volgens Schmidt worden uitgesloten van hun activiteiten in het Gemenebest of kunnen een boete krijgen.
Het ministerie van Onderwijs van de staat lanceerde ook een nieuwe AI en digitale mediageletterdheid toolkit voor studenten, docenten en gezinnen op vrijdag. De website bevat bronnen en richtlijnen voor het veilig gebruiken en implementeren van AI-companion-technologie AI-tools in de klas en vermijd bank- en financiële oplichting waarbij gebruik wordt gemaakt van deepfake-technologie.
In Carnegie werd Shapiro geflankeerd door lokale opvoeders, psychologen en tienerleden van de Jongens- en meisjesclubs van West-Pennsylvania.
Josiah Pritchett-Murray, een student aan de McKeesport Area High School, uitte zijn zorgen over het feit dat studenten op school en voor begeleiding afhankelijk zijn van AI-tools. Pritchett-Murray zei dat zijn collega’s zich vaak tot AI-chatbots wenden in apps als Snapchat, omdat ze geen andere veilige ruimte hebben om zich open te stellen en hulp te zoeken.
“Dat is geen echt mens, ze hebben geen echte gevoelens, maar het is het enige dat (studenten) hebben”, zei hij.
Laila King, een senior bij Pittsburgh CAPA, zei dat deze trend gevoelens van eenzaamheid, isolatie en stress bij veel tieners van vandaag aanspreekt. King heeft samengewerkt met het PA Youth Advocacy Network om aan te dringen op verdere erkenning van geestelijke gezondheidsproblemen bij jongeren in de wetgeving.
Eerder deze maand heeft de State House Education Committee aangenomen wetsvoorstellen dat zou het mogelijk maken dat dagen voor de geestelijke gezondheidszorg van studenten als verontschuldigde afwezigheden tellen en een opleiding op het gebied van de geestelijke gezondheid voor schoolatletiekcoaches zou vereisen.
Minister van Volksgezondheid Debra Bogen zei dat zorgverleners ouders en gezinnen moeten helpen de waarde en het belang van het onderhouden van echte, gezonde menselijke relaties te erkennen.
“We moeten teruggaan naar het opbouwen van relaties vanaf het zeer jonge kind tot en met de middelbare school en beide ouders lesgeven,” zei Bogen.
“We moeten niet alleen chatbots bedenken, die erg gevaarlijk zijn, maar ook nuttig kunnen zijn”, voegde ze eraan toe. “Ik denk dat de kern echt ligt in die persoonlijke menselijke relatie.”
