Google avskedar forskare som hävdar att AI LaMDA är medveten

Google sparkade en ingenjör som sa att LaMDA:s artificiella intelligens var medveten. Påståenden som mottogs mycket dåligt av forskarvärlden.

Blake Lemoine, en ingenjör med 7 års erfarenhet på Google, har fått sparken, enligt Alex Kantrowitz i nyhetsbrevet Big Technology. Denna nyhet var tänkt att avslöjas personligen av Blake Lemoine under inspelningen av podcasten med samma namn, vars utgivning ännu inte har publicerats. Google bekräftade dock informationen till Engadget.

Google Fires Engineer som hävdar att LaMDA artificiell intelligens fick medvetande

Blake Lemoine, som tills nyligen var medlem i Responsible AI-teamet, kontaktade Washington Post förra månaden för att rapportera att ett av den amerikanska AI-jättens projekt verkade ha ett samvete. Den artificiella intelligensen i fråga, LaMDA, för en språkmodell för konversationsapplikationer, introducerades av Google förra året. Detta för att göra det möjligt för datorer att bättre återge öppna konversationer. Blake Lemoine var övertygad om att LaMDA hade ett samvete, men tvivlade också på möjligheten att hon hade en själ. Och för att inte lämna några tvivel om dessa uttalanden sa han till och med följande till Wired: ”Jag är djupt övertygad om att LaMDA är en person.”

Efter att ha lämnat sina uttalanden till pressen, troligen utan tillstånd från sin arbetsgivare, sattes Blake Lemoine på administrativ ledighet. Google har också offentligt uttalat flera gånger att dess AI inte på något sätt är medveten.

Uttalanden som mottogs mycket dåligt av forskarvärlden

Flera medlemmar av AI-forskningsgemenskapen var också snabba med att tala ut mot Blake Lemoine. Margaret Mitchell, som fick sparken från Google efter att ha talat ut om företagets brist på mångfald, twittrade att system som LaMDA inte utvecklar avsikter, de ”replicerar hur människor uttrycker kommunikativa avsikter i form av texter. Med markant mindre takt kvalificerade Gary Marcy Blake Lemoines uttalanden som ”bullshit i en bar”.

Googles uttalande till Engadget lyder: ”I linje med våra AI-principer tar vi AI-utveckling på största allvar och är engagerade i ansvarsfull innovation. LaMDA har gått igenom 11 olika detaljerade recensioner och för några månader sedan publicerade vi en artikel som beskriver arbetet med denna kritiska utveckling. Om en anställd har oro över vårt arbete, som Blake Lemoine gjorde, tar vi upp dem klokt. Vi har kommit fram till att Blake Lemoines påståenden om LaMDA-medvetande är helt ogrundade och har arbetat med honom för att reda ut detta i flera månader. Dessa diskussioner ägde rum inom vår öppna kultur, vilket hjälper oss att förnya oss på ett ansvarsfullt sätt. Tyvärr, trots diskussionerna om denna fråga, beslutade Blake Lemoine att bryta mot gällande företagsregler, inklusive behovet av att skydda produktinformation.