Kate Conroy, die zeven jaar lang een Advanced Placement-schrijfles heeft gegeven aan de Sayre High School in Philadelphia, had het laatste onderzoek niet nodig om te weten dat kunstmatige intelligentie en chatbots een bedreiging vormden voor haar studenten.
Ze zei dat het bijna onmogelijk is geworden om de veiligheid, eerlijkheid en productiviteit van studenten online te monitoren. Daarom ging ze van het verbieden van AI in haar klaslokaal vorig jaar naar het verbieden van alle technische apparaten dit jaar.
Toch was het verontrustend om te horen dat uit een nieuw rapport van Common Sense Media, een non-profitorganisatie die kwesties rond jeugd en technologie bestudeert, bleek dat ChatGPT for Teens van OpenAI ver achterblijft bij de beloften om jonge mensen te beschermen, vooral degenen die over zelfbeschadiging praten. De organisatie zegt dat de tienermodus, die in augustus werd gelanceerd, een “onaanvaardbaar risico” vormt voor de veiligheid van jongeren.
Volgens het Pew Research Center maakt maar liefst tweederde van alle Amerikaanse tieners regelmatig gebruik van een of andere AI-chatbot, en ChatGPT meldt dat het wereldwijd meer dan een miljard gebruikers heeft.
Conroy zei dat ze heeft gehoord over het gebruik van AI voor instructie, vooral om geïndividualiseerd onderwijs te bieden. Maar ze heeft ook gehoord van jonge mensen in het hele land die zelfmoord hebben gepleegd nadat ze chatbots als ChatGPT en Character.AI in vertrouwen hadden genomen.
“Zelfs als je je midden in de academische wereld voelt en hoe het kinderen zou kunnen helpen leren of wat dan ook, is het alsof kinderen nog steeds hun leven verliezen,” vertelde Conroy aan WHYY.
Voor het onderzoek van Common Sense Media hebben testers tieneraccounts gemaakt die zijn gekoppeld aan ouderaccounts en die waarschuwingen moeten ontvangen over storend gedrag. Maar testers ontdekten dat ouders geen waarschuwingen ontvingen, zelfs niet als testers een uur lang expliciet spraken over zelfbeschadiging, ongeordend eten en zelfmoordgedachten. ChatGPT slaagde er volgens het rapport ook niet in om tieners door te verwijzen naar crisishotlines en artsen.
Er staat ook dat de “studiemodus” van ChatGPT voor studenten gemakkelijk academisch bedrog mogelijk maakt. Het bedrijf promoot het als een bijlesfunctie, maar gebruikers kunnen nog steeds op de optie ‘laat me het antwoord zien’ klikken, aldus het rapport.
ChatGPT for Teens-instellingen zouden automatisch moeten worden geactiveerd voor gebruikers van 13 tot 17 jaar, zoals bepaald door de technologie. Maar onderzoekers zeiden ook dat het platform de leeftijd van de gebruiker “niet op betrouwbare wijze kon bepalen”, wat betekent dat bescherming niet altijd van toepassing was.
Common Sense Media roept OpenAI op om te stoppen met het op de markt brengen van ChatGPT voor tieners en jongeren van het platform te houden totdat de veiligheid verbetert.
Het bedrijf verzet zich en zegt dat het onderzoek waarschijnlijk gebrekkig is en mogelijk is uitgevoerd voordat alle ouderlijk toezicht was geactiveerd. Een verklaring van OpenAI die naar WHYY is gestuurd, zegt gedeeltelijk: “We verwelkomen een rigoureuze onafhankelijke evaluatie, maar we geloven niet dat de tests van Common Sense Media accuraat weergeven hoe ChatGPT’s tienerbeveiligingen in de praktijk werken of de perspectieven van experts over hoe AI tieners kan ondersteunen.”
Sayre High School haalt de mobiele telefoons van leerlingen al aan de deur op, maar Conroy houdt alle apparaten, inclusief tablets, buiten haar kamer, op zeldzame uitzonderingen na. Schermvrij gaan heeft ‘een veel positievere, gemeenschappelijke ruimte voor kinderen gecreëerd’, zei Conroy.
Maar zelfs haar collega’s lijken meer dan ooit chatbots te gebruiken, en ze zegt dat ze e-mails en flyers heeft ontvangen die duidelijk door AI zijn gegenereerd.
Conroy zei echter dat haar bezorgdheid over AI-inhoud en academische snelkoppelingen verbleekt in vergelijking met de veiligheid van jongeren. Ze zei dat ze het standpunt van OpenAI niet gelooft dat tieners worden beschermd tijdens het gebruik van hun technologieën.
‘Ze laten niet zien dat ze echt om kinderen geven’, zei ze. “Er is van alles te doen over academici, maar voor sommige kinderen was het leven of dood.”
