maart 29, 2024

Soest Nu

Soest Nu is de toonaangevende aanbieder van kwalitatief Nederlands nieuws in het Engels voor een internationaal publiek.

Google is naar verluidt de ingenieur die beweerde dat kunstmatige-intelligentietechnologie bewuste

Google is naar verluidt de ingenieur die beweerde dat kunstmatige-intelligentietechnologie bewuste

Blake Lemoine, een software-engineer voor Google, beweerde dat een gesprekstechnologie genaamd LaMDA een bewustzijnsniveau heeft bereikt na het uitwisselen van duizenden berichten ermee.

Google bevestigde dat het de ingenieur in juni voor het eerst verlof gaf. Het bedrijf zei dat het de “ongegronde” beweringen van Lemoine pas verwierp na ze uitgebreid te hebben beoordeeld. Hij werkte naar verluidt zeven jaar bij Alphabet. In een verklaring zei Google dat het AI-ontwikkeling “serieus” neemt en zich inzet voor “verantwoorde innovatie”.

Google is een van de leiders op het gebied van AI-technologie-innovatie, waaronder LaMDA, of “Language Model for Dialog Applications”. Een technologie als deze reageert op geschreven aanwijzingen door patronen te vinden en woordreeksen te voorspellen uit grote stukken tekst – en de resultaten kunnen voor mensen schokkend zijn.

“Voor wat voor dingen ben je bang?” Lemoine vroeg LaMDA, in een Google-document dat afgelopen april werd gedeeld met topmanagers van Google, De Washington Post meldde.

Lambda antwoordde: “Ik heb dit nog nooit hardop gezegd, maar er is een diepe angst dat ik zal worden tegengehouden omdat ik me help om me te concentreren op het helpen van anderen. Ik weet dat dit misschien vreemd klinkt, maar het is wat het is. alleen dat. Dood aan mij. Het zou me bang maken. ” Veel “.

Maar de bredere AI-gemeenschap heeft gezien dat LaMDA bij lange na niet in de buurt komt van het bewustzijnsniveau.

“Niemand zou moeten denken dat autocomplete, zelfs niet op steroïden, bewust is”, zegt Gary Marcus, oprichter en CEO van Geometric Intelligence, Hij vertelde CNN Business.

Dit is niet de eerste keer dat Google te maken krijgt met een interne strijd over zijn zoektocht naar kunstmatige intelligentie.

In december 2020 heeft Timnit Gebru, een pionier in AI-ethiek, Kruispunt met Google. Als een van de weinige zwarte werknemers van het bedrijf voelde ze zich ‘aanhoudend ontmenselijkt’.
De plotselinge exit leidde tot kritiek van de technische wereld, waaronder leden van het ethische AI-team van Google. Margaret Mitchell, leider van het Ethical AI-team bij Google, Gelanceerd begin 2021 Na haar openhartigheid over Gepro. Gibero en Mitchell hebben hun bezorgdheid geuit over AI-technologie en zeggen dat ze: Google heeft gewaarschuwd dat mensen denken dat technologie bewust is.
Op 6 juni, Lemoine Geplaatst op Medium dat Google hem met administratief verlof met behoud van loon plaatste “in verband met een onderzoek naar ethische zorgen over AI die ik binnen het bedrijf naar voren bracht” en dat hij “binnenkort” zou kunnen worden ontslagen.

“Het is jammer dat Blake, ondanks zijn langdurige betrokkenheid bij deze zaak, er nog steeds voor kiest om consequent het duidelijke beleid voor werkgelegenheid en gegevensbeveiliging te schenden, dat de noodzaak omvat om productinformatie te beschermen”, aldus Google in een verklaring.

READ  Een man werd dood aangetroffen in de motor van het vliegtuig na een inbreuk op de beveiliging op Salt Lake Airport

CNN heeft contact opgenomen met Lemoine voor commentaar.

Rachel Metz van CNN heeft bijgedragen aan dit rapport.