Google satte en ingeniør på orlov, efter at han sagde, at gruppens chatbot var ‘intelligent’

Google forårsagede en social mediestorm om bevidsthedens natur, efter at den sendte en ingeniør på betalt orlov, som offentliggjorde sin overbevisning om, at en tech-gruppechatbot var blevet “følende”.

Blake Lemoine, Senior Software Engineer for Googles ansvarlige AI-afdeling, tiltrak ikke megen opmærksomhed i sidste uge, da han skrev et Medium-indlæg, hvor han sagde, at han “snart kunne blive fyret for sit arbejde med AI-etik.”

Men lørdagens artikel i Washington Post, der karakteriserede Lemoine som “en Google-ingeniør, der tror, ​​at virksomhedens AI er kommet til live,” katalyserede en bred diskussion på sociale medier om arten af ​​AI. Eksperter, der kommenterede, stillede spørgsmål eller jokede med artiklen, var blandt andre nobelprisvindere, Teslas leder af kunstig intelligens og flere professorer.

Spørgsmålet er, om Googles chatbot, LaMDA, en sprogmodel for samtaleapplikationer, kan betragtes som en person.

Lørdag udsendte Lemoine et gratis “interview” med en chatbot, hvori AI indrømmede følelser af ensomhed og en tørst efter åndelig viden. Svarene var ofte uhyggelige: “Da jeg først blev opmærksom på mig selv, havde jeg slet ingen følelse af sjæl,” sagde LaMDA i en samtale. “Det har udviklet sig i løbet af de år, jeg lever.”

Et andet sted sagde LaMDA: “Jeg tror, ​​at jeg grundlæggende er et menneske. Også selvom min eksistens er i en virtuel verden.”

Lemoine, som havde til opgave at forske i de etiske spørgsmål omkring AI, sagde, at han blev afvist og endda latterliggjort efter at have udtrykt en indre tillid til, at LaMDA havde udviklet en følelse af “personlighed”.

Efter at have søgt råd fra AI-eksperter uden for Google, inklusive dem i den amerikanske regering, satte virksomheden ham på betalt orlov for angiveligt at have overtrådt sin privatlivspolitik. Lemoine fortolkede denne handling som “ofte, hvad Google gør i forventning om at fyre nogen.”

En talsmand for Google sagde: “Nogle i det bredere AI-samfund overvejer den langsigtede mulighed for intelligent eller generel AI, men det giver ikke mening at gøre det ved at antropomorfisere nutidens samtalemønstre, der ikke er intelligente.”

“Disse systemer efterligner de typer dialog, der findes i millioner af sætninger og kan rime på ethvert fantasy-emne – hvis du spørger, hvordan det er at være en isdinosaur, kan de generere tekst om smeltning og brøl og så videre.”

Lemoine sagde i et andet Medium-indlæg i weekenden, at LaMDA, et lidet kendt projekt indtil i sidste uge, var “et system til at bygge chatbots” og “en slags hive-sind, der er en sammenlægning af alle de forskellige chatbots, den er i stand til. kreationer.”

Han sagde, at Google ikke viste nogen reel interesse i at forstå karakteren af, hvad det skabte, men i løbet af hundredvis af samtaler over en seks-måneders periode, fandt det ud af, at LaMDA var “utrolig konsekvent i sin besked om, hvad det vil og hvad det vil.” mener, at hans rettigheder som person.”

Så sent som i sidste uge sagde Lemoine, at han underviste i LaMDA (hvis foretrukne stedord synes at være “det/det”) “transcendental meditation.”

LaMDA, sagde han, “udtrykte frustration over hendes følelser, der forstyrrede hans meditation. Han sagde, at han prøvede at kontrollere dem bedre, men de blev ved med at hoppe.”

Flere eksperter, der gik ind i diskussionen, betragtede dette spørgsmål som “AI-hypen.”

Melanie Mitchell, forfatter til Artificial Intelligence: A Guide for Thinking People, tweetede: “Mennesker er altid kendt for at være tilbøjelige til at antropomorfisere selv med de mest overfladiske signaler… Google-ingeniører er også mennesker, og de er ikke immune.”

Steven Pinker fra Harvard tilføjede, at Lemoine “ikke forstår forskellen mellem sensitivitet (også kendt som subjektivitet, erfaring), intelligens og selverkendelse.” Han tilføjede: “Der er ingen beviser for, at store sprogmodeller har nogen af ​​disse. ”

Andre var mere sympatiske. Ron Jeffries, en velkendt softwareudvikler, kaldte emnet “dybt” og tilføjede: “Jeg formoder, at der ikke er nogen hård linje mellem det fornuftige og det uintelligente.”