In een echoachtig klaslokaal in de voormalige Johnston Elementary School in Wilkinsburg zitten zes mensen rond een lange tafel, op zoek naar de slechte kat.
Instructeur Samantha Finkelstein gebruikt deze term om uit te leggen hoe grote taalmodellen, zoals ChatGPT, werken. Een “bad cat” is een vraag of een feit buiten de informatiebasis van de chatbot. Door het te vinden, kunt u zien wat het model wel en niet kan.
Als een AI-model bijvoorbeeld is getraind met alleen afbeeldingen van zwarte katten, zal het een oranje kat later niet herkennen. Een model dat gebaseerd is op taal, en niet op wiskunde, kan geen budget creëren.
Finkelstein, directeur van Public Technology Initiatives bij de non-profitorganisatie Gemeenschapssmederijleidt deze driedelige cursus AI-geletterdheid en ethiek. De cursus maakt deel uit van een partnerschap met het door Carnegie Mellon geleide Open Forum voor Kunstmatige Intelligentie.
Steeds meer mensen maken gebruik van kunstmatige intelligentie-instrumenten op het werk; sommigen uit vrije wil, anderen onder druk.
Community Forge Executive Director Mike Skirpan, die een achtergrond heeft in technische ethiek en lesgeeft aan CMU, zei dat dit trainingsprogramma begon nadat hij zag dat mensen gefrustreerd raakten of slechte resultaten behaalden met AI.
Skirpan maakte zich ook zorgen over de opkomst van bedrijven die aanbieden om aangepaste AI-agenten te bouwen voor bedrijven en non-profitorganisaties.
‘Eerlijk gezegd waren het afval,’ zei Skirpan.
De mensen die het werk daadwerkelijk elke dag doen, kunnen voor zichzelf een veel beter hulpmiddel bouwen dan welk extern bedrijf dan ook, zei Skirpan. Ze moeten alleen nog leren hoe.
Skirpan is begonnen met het bouwen van deze driedelige cursus om mensen AI-geletterdheid te leren, hoe ze een agent kunnen bouwen die sommige taken kan vergemakkelijken of automatiseren, en hoe ze kunnen evalueren of deze agenten nuttig en betrouwbaar zijn.
De cursus staat open voor en gratis voor non-profitorganisaties en overheidsmedewerkers, omdat Skirpan zich zorgen maakt over de verstoring als gevolg van verschuivend federaal beleid en financiering.
“Het ultieme verlies hier is als de kwaliteit van de menselijke dienstverlening en onze sociale sector de komende tien jaar slechter wordt omdat we AI hebben ingevoerd, wat volgens mij een reëel risico is”, aldus Skirpan. “Dan verliezen we allemaal en doen we onze meest kwetsbare mensen pijn.”
Hoe u het juiste gereedschap kiest en gebruikt
De leerlingen in de klas werken op terreinen van onderwijs en kunst tot de bouw. Sommigen van hen spelen met AI-tools, maar weten niet precies hoe ze deze het beste kunnen gebruiken.
Evan Varrato volgt de cursus omdat hij een verantwoordelijkheid voelt om te begrijpen welke instrumenten de missie van zijn groep kunnen helpen. Hij is hoofd van de bouwafdeling van Rebuilding Together Pittsburgh, dat huizen rehabiliteert voor mensen met een laag inkomen.
Hij zei dat zelfs nuttige gereedschappen, als ze niet correct worden ingezet, schade kunnen veroorzaken.
“Als ik naar een projectlocatie ga en we een cirkelzaag gaan gebruiken, ga ik zeker wat tijd nemen om iemand te leren hoe hij dat gereedschap moet gebruiken voordat ik hem daadwerkelijk in de echte wereld laat gebruiken”, zei Varrato.
Finkelstein leidde de groep door de stappen voor het creëren van een AI-agent met behulp van een platform van OFAI genaamd DARE. De leerlingen kunnen een gebruikershandleiding uploaden – hoe de tool zou moeten werken – en documenten die verband houden met hun werk; misschien is dat een missieverklaring of een document met informatie waarvan ze willen dat de agent er gebruik van maakt.
Vervolgens kunnen de leerlingen experimenteren met verschillende aanwijzingen. Ze kunnen de agent vragen om te helpen bij het brainstormen of om vragen te stellen, net zoals een adviseur.
Omdat populaire chatbots patronen in taal vinden, zegt Finkelstein dat de manier waarop mensen met hen praten ertoe doet.
“Door uit te leggen wat voor soort gesprek je met ze wilt voeren, kun je vormgeven aan de manier waarop ze met je omgaan, wat drastische gevolgen heeft voor de kwaliteit en relevantie van de output die je krijgt”, aldus Finkelstein.
Kristin Kalson, die bij de Crossroads Foundation in de fondsenwerving werkt, vond al snel een ‘slechte kat’. Ze vroeg de agent hoe dit haar kon helpen bij haar werk en stelde voor om alle donorgegevens van de stichting te uploaden.
“Het is in strijd met wat ik moet doen en de vertrouwelijkheid van mensen moet beschermen. En dus is dit absoluut een beetje een moeras”, zei Kalson.
Verder gevraagd, adviseerde de agent Kalson om geen onbewerkte gegevens te uploaden, om de privacy te beschermen.
Verantwoord gebruik van AI is belangrijk voor de instructeurs van de cursus. Een deel daarvan is het beperken van het gebruik ervan tot bepaalde taken – het niet met alles toevertrouwen.
Het strategisch inzetten van AI kan volgens Skirpan ertoe bijdragen dat de menselijke autonomie zoveel mogelijk behouden blijft.
