Het is een enorm, vitaal aspect van kunstmatige intelligentie dat voor het publiek verborgen is

Van alle verhalen over kunstmatige intelligentie die de laatste tijd naar buiten zijn gekomen, een nieuwe van Josh Dzieza in samenwerking met New York En de Verge is in gelijke delen meeslepend en verbazingwekkend. Het onderzoekt een ogenschijnlijk eenvoudig uitgangspunt: om AI-modellen te laten werken, moeten ze gegevens krijgen – zoveel gegevens, bijna onvoorstelbare hoeveelheden gegevens. Voer “Beoordelaars” in. Dit betekent dat miljoenen mensen over de hele wereld werken voor over het algemeen lage lonen en zwoegen bij eentonige taken zoals het taggen van foto’s van kleding, totdat AI-modellen slimmer worden. Dzieza schrijft dat achter “zelfs de meest indrukwekkende AI-systemen mensen staan ​​- enorme aantallen mensen die gegevens labelen om het te trainen en gegevens annoteren wanneer het in de war raakt.”
In wat hij een ‘opkomende wereldwijde industrie’ noemt, werken ze voor bedrijven die deze gegevens tegen een exorbitante prijs aan grote spelers verkopen, terwijl ze tegelijkertijd een cultuur van geheimhouding versterken.

In feite is het commentatoren meestal verboden om over hun werk te praten, hoewel ze toch meestal in het ongewisse worden gehouden over het grote geheel. (Een van de grote spelers is Scale AI, de gegevensleverancier van Silicon Valley.) “Het resultaat is dat, op enkele uitzonderingen na, er weinig bekend is over de informatie die het gedrag van deze systemen bepaalt, en nog veel minder over de mensen die vormgeven.” Dzieza interviewde twintig commentatoren over de hele wereld, hij werkte zelfs als één persoon om het volledige plaatje te krijgen. Op een gegeven moment bij het beschrijven van de feedbacklus tussen mens en machine, biedt hij dit verbijsterende juweeltje: “ChatGPT leek zo menselijk omdat het werd getraind door een AI die mensen simuleerde die een door mensen gesimuleerde AI beoordeelden die deed alsof ze een betere versie van een AI Hij is getraind in typen door mensen.” (de Hele verhaal De moeite om te lezen.)