Google onderbreekt het vermogen van Gemini om AI-portretten van mensen te maken na diversiteitsbugs

Google zei dat het de mogelijkheid van Gemini AI om foto's van mensen te maken tijdelijk heeft stopgezet, nadat bleek dat de tool onnauwkeurige historische foto's genereerde. Gemini creëerde verschillende beelden van de Amerikaanse Founding Fathers en Duitse soldaten uit het nazi-tijdperk, in wat leek op een poging om seksistische en racistische stereotypen die in generatieve AI voorkomen te ondermijnen.

“We werken al aan het oplossen van recente problemen met de functie voor het maken van foto's van Gemini”, zegt Google in een bericht. Verklaring gepubliceerd op X. “Terwijl we dit doen, zullen we het maken van afbeeldingen van mensen onderbreken en binnenkort een verbeterde versie opnieuw uitbrengen.”

Het besluit van Google om tijdelijk te stoppen met het genereren van afbeeldingen van mensen in Gemini komt minder dan 24 uur nadat het bedrijf zich verontschuldigde voor onnauwkeurigheden in sommige historische afbeeldingen die door zijn AI-model werden gegenereerd. Sommige Gemini-gebruikers hebben afbeeldingen opgevraagd van historische groepen of figuren zoals de Founding Fathers, en hebben door AI gegenereerde niet-blanke mensen in de resultaten aangetroffen. Dit heeft aanleiding gegeven tot online complottheorieën dat Google opzettelijk afbeeldingen van blanke mensen vermijdt.

de rand Ik heb gisteren verschillende Gemini-zoekopdrachten getest, waaronder een verzoek om een ​​‘Amerikaanse senator uit de 19e eeuw’ die resultaten opleverde die leken op zwarte en Indiaanse vrouwen. De eerste vrouwelijke senator was een blanke vrouw in 1922, dus de AI-beelden van Gemini waren de geschiedenis van rassen- en genderdiscriminatie aan het uitwissen.

Nu Google de mogelijkheid van Gemini om foto's van mensen te genereren heeft uitgeschakeld, ziet u hoe het AI-model zal reageren als u om een ​​foto van een persoon vraagt:

We werken aan het verbeteren van het vermogen van Gemini om afbeeldingen van mensen te genereren. We verwachten dat deze functie binnenkort terugkeert en zullen u hiervan op de hoogte stellen via versie-updates zodra deze zich voordoen.

Google debuteerde eerder deze maand met zijn dienst voor het maken van afbeeldingen via Gemini (voorheen Bard), in een poging te concurreren met OpenAI en Microsoft's Copilot. Net als veel van zijn concurrenten produceert de afbeeldingenbouwer een reeks afbeeldingen op basis van tekstinvoer.

Correctie op 22 februari, 06:54 uur ET: Google heeft bevestigd dat het maken van afbeeldingen wereldwijd beschikbaar is in het Engels, maar niet in de Europese Economische Ruimte, het Verenigd Koninkrijk of Zwitserland. Dit verklaart de mislukte test uit Groot-Brittannië.