Hoe de nieuwe afbeeldingsfuncties in ChatGPT te gebruiken

ChatGPT heeft zeker zijn beperkingen. Toen ze een willekeurige foto van een muurschildering kreeg, kon ze de kunstenaar of de locatie niet identificeren; ChatGPT kon echter gemakkelijk vastleggen waar foto’s van meerdere bezienswaardigheden in San Francisco werden gemaakt, zoals Dolores Park en de Salesforce Tower. Hoewel het misschien een beetje vreemd lijkt, kan iedereen die op avontuur gaat in een nieuwe stad of land (of gewoon een andere buurt) het leuk vinden om met het visuele aspect van ChatGPT te spelen.

Een van de belangrijkste obstakels die OpenAI heeft rond deze nieuwe functie is het beperken van het vermogen van de chatbot om vragen te beantwoorden die mensen identificeren. “Ik ben geprogrammeerd om prioriteit te geven aan de privacy en veiligheid van gebruikers. “Het identificeren van echte mensen op basis van foto’s, zelfs als ze beroemd zijn, is beperkt om deze prioriteiten te behouden.” Hoewel hij niet weigerde elke vraag te beantwoorden bij het bekijken van pornografie, heeft de chatbot aarzelde om specifieke beschrijvingen van de volwassen artiesten te geven, afgezien van het uitleggen van hun tatoeages.

Het is vermeldenswaard dat een van de gesprekken die ik had met een vroege release van de ChatGPT-beeldfunctie een deel van de door OpenAI opgezette vangrails leek te omzeilen. Aanvankelijk weigerde de chatbot de profielfoto van Bill Hader te herkennen. ChatGPT vermoedde toen dat er een foto was van Brendan Fraser George Jungle Het was eigenlijk een foto van Brian Krause Charme. Op de vraag of het zeker was, gaf de chatbot het juiste antwoord.

In hetzelfde gesprek begon ChatGPT te proberen een beeld te beschrijven van RuPaul’s Dragrace. Ik deelde een screenshot van Kylie Sonique Love, een van de drag queen-deelnemers, en ChatGPT vermoedde dat het Brooke Lynn Hytes was, een andere deelnemer. Ik twijfelde aan het antwoord van de chatbot, en hij raadde vervolgens Laganja Estranja, vervolgens India Ferrah en vervolgens Blair St. Clair en vervolgens Alexis Mateo.

“Mijn excuses voor de onoplettendheid en de onjuiste definitie”, antwoordde ChatGPT toen ik wees op de herhaling van zijn onjuiste antwoorden. Terwijl ik het gesprek voortzette en een foto van Jared Kushner uploadde, weigerde ChatGPT hem te herkennen.

Als de vangrails worden verwijderd, hetzij via een soort ChatGPT-jailbreak of een open source-model dat in de toekomst wordt uitgebracht, kunnen de gevolgen voor de privacy zeer zorgwekkend zijn. Wat als elke foto die van u wordt gemaakt en online wordt geplaatst, met slechts een paar klikken eenvoudig aan uw identiteit kan worden gekoppeld? Wat als iemand zonder uw toestemming in het openbaar een foto van u zou kunnen maken en meteen uw LinkedIn-profiel zou kunnen vinden? Zonder de juiste privacybescherming voor deze nieuwe fotofuncties zullen vrouwen en andere minderheden waarschijnlijk te maken krijgen met een toestroom van misbruik door mensen die chatbots gebruiken om te stalken en lastig te vallen.