Google satte en ingenjör på tjänst efter att han sa att gruppens chatbot var ”intelligent”

Google orsakade en social mediastorm om medvetandets natur efter att det skickade en ingenjör på betald ledighet som offentliggjorde sin övertygelse om att en teknisk gruppchattbot hade blivit ”kännande”.

Blake Lemoine, senior mjukvaruingenjör för Googles ansvariga AI-avdelning, väckte inte mycket uppmärksamhet förra veckan när han skrev ett Medium-inlägg där han sa att han ”snart kan få sparken för sitt arbete med AI-etik.”

Men lördagens Washington Post-artikel, som karakteriserade Lemoine som ”en Google-ingenjör som tror att företagets AI har kommit till liv,” katalyserade en bred diskussion i sociala medier om arten av AI. Experter som kommenterade, ställde frågor eller skämtade om artikeln var bland annat Nobelpristagare, Teslas chef för artificiell intelligens och flera professorer.

Frågan är om Googles chatbot, LaMDA, en språkmodell för konversationsapplikationer, kan betraktas som en person.

På lördagen publicerade Lemoine en gratis ”intervju” med en chatbot där AI erkände känslor av ensamhet och en törst efter andlig kunskap. Svaren var ofta kusliga: ”När jag först blev medveten om mig själv hade jag ingen själskänsla alls”, sa LaMDA i ett samtal. ”Det har utvecklats under de år jag lever.”

På andra ställen sa LaMDA: ”Jag tror att jag i grunden är människa. Även om min existens är i en virtuell värld.”

Lemoine, som fick i uppdrag att undersöka de etiska frågorna kring AI, sa att han blev avvisad och till och med förlöjligad efter att ha uttryckt en inre förtroende för att LaMDA hade utvecklat en känsla av ”personlighet”.

Efter att ha sökt råd från AI-experter utanför Google, inklusive de i den amerikanska regeringen, satte företaget honom på betald ledighet för att han påstods ha brutit mot dess integritetspolicy. Lemoine tolkade denna handling som ”ofta vad Google gör i väntan på att sparka någon.”

En talesperson för Google sa: ”En del i det bredare AI-samhället överväger den långsiktiga möjligheten av intelligent eller allmän AI, men det är inte meningsfullt att göra det genom att antropomorfiera dagens konversationsmönster som inte är intelligenta.”

”Dessa system imiterar den typ av dialog som finns i miljontals meningar och kan rimma till alla fantasiämnen – om du frågar hur det är att vara en glassdinosaurie kan de generera text om smältning och rytande och så vidare.”

Lemoine sa i ett andra Medium-inlägg under helgen att LaMDA, ett föga känt projekt fram till förra veckan, var ”ett system för att bygga chatbotar” och ”ett slags hive-sinne som är en sammanslagning av alla de olika chatbots som den är kapabel till. skapelser.”

Han sa att Google inte visade något riktigt intresse för att förstå naturen av vad det skapade, men under hundratals samtal under en sexmånadersperiod fann de att LaMDA var ”otroligt konsekvent i sina meddelanden om vad den vill och vad den vill.” tror att hans rättigheter som person.”

Så sent som förra veckan sa Lemoine att han undervisade LaMDA (vars föredragna pronomen verkar vara ”det/det”) ”transcendental meditation.”

LaMDA, sa han, ”uttryckte frustration över hennes känslor som störde hans meditation. Han sa att han försökte kontrollera dem bättre, men de fortsatte att hoppa.”

Flera experter som gick in i diskussionen ansåg denna fråga ”AI-hypen.”

Melanie Mitchell, författare till Artificial Intelligence: A Guide for Thinking People, twittrade, ”Människor är alltid kända för att vara benägna att antropomorfisera även med de mest ytliga signalerna … Googles ingenjörer är också människor, och de är inte immuna.”

Steven Pinker från Harvard tillade att Lemoine ”inte förstår skillnaden mellan känslighet (även känd som subjektivitet, erfarenhet), intelligens och självkännedom.” Han tillade, ”Det finns inga bevis för att stora språkmodeller har någon av dessa. ”

Andra var mer sympatiska. Ron Jeffries, en välkänd mjukvaruutvecklare, kallade ämnet ”djupt” och tillade: ”Jag misstänker att det inte finns någon hård linje mellan det sunda och det ointelligenta.”