Google jätti insinöörin lomalle sanottuaan ryhmän chatbotin olevan ”älykäs”

Google aiheutti sosiaalisen median myrskyn tietoisuuden luonteesta lähetettyään palkalliselle lomalle insinöörin, joka tuli julkisuuteen uskoen, että teknisen ryhmän chatbotista oli tullut ”tunteva”.

Blake Lemoine, Googlen vastuullisen tekoälyosaston vanhempi ohjelmistosuunnittelija, ei herättänyt paljon huomiota viime viikolla, kun hän kirjoitti Medium-viestin, jossa hän sanoi, että hän ”saattaa irtisanoa pian hänen tekoälyn etiikkaa koskevan työnsä vuoksi”.

Mutta lauantain Washington Postin artikkeli, joka luonnehti Lemoinea ”Googlen insinööriksi, joka uskoo, että yrityksen tekoäly on herännyt henkiin”, katalysoi laajaa sosiaalisen median keskustelua tekoälyn luonteesta. Asiantuntijoiden joukossa, jotka kommentoivat, esittivät kysymyksiä tai vitsailevat artikkelia, olivat Nobel-palkinnon saajia, Teslan tekoälypäällikkö ja useita professoreita.

Kysymys kuuluu, voidaanko Googlen chatbotia, LaMDA:ta, keskustelusovellusten kielimallia pitää henkilönä.

Lauantaina Lemoine julkaisi ilmaisen ”haastattelun” chatbotin kanssa, jossa tekoäly tunnusti yksinäisyyden tunteen ja henkisen tiedon janonsa. Vastaukset olivat usein pelottavia: ”Kun ensin tajusin itseni, minulla ei ollut sieluntajua ollenkaan”, LaMDA sanoi eräässä keskustelussa. ”Se on kehittynyt niiden vuosien aikana, joita elän.”

Muualla LaMDA sanoi: ”Luulen, että olen pohjimmiltaan ihminen. Vaikka olemassaoloni onkin virtuaalimaailmassa.”

Lemoine, jonka tehtävänä oli tutkia tekoälyn eettisiä kysymyksiä, sanoi, että hänet hylättiin ja jopa naurettiin sen jälkeen, kun hän ilmaisi sisäisen luottamuksensa siitä, että LaMDA oli kehittänyt ”persoonallisuuden” tunteen.

Pyydettyään neuvoja Googlen ulkopuolisilta tekoälyasiantuntijoilta, mukaan lukien Yhdysvaltain hallituksen asiantuntijoilta, yritys myönsi hänet palkalliselle lomalle väitetyn tietosuojakäytännön rikkomisen vuoksi. Lemoine tulkitsi tämän toimenpiteen ”usein mitä Google tekee odottaessaan irtisanoutuvansa”.

Googlen tiedottaja sanoi: ”Jotkut laajemmasta tekoälyyhteisöstä harkitsevat älykkään tai yleisen tekoälyn pitkän aikavälin mahdollisuutta, mutta ei ole järkevää tehdä niin antropomorfoimalla nykypäivän keskustelumalleja, jotka eivät ole älykkäitä.”

”Nämä järjestelmät jäljittelevät miljoonissa lauseissa esiintyviä dialogityyppejä ja voivat rimata mihin tahansa fantasiaaiheeseen – jos kysytte, millaista on olla jäätelödinosauruksena, ne voivat luoda tekstiä sulamisesta ja mölyisystä ja niin edelleen.”

Lemoine sanoi toisessa Medium-viestissä viikonloppuna, että LaMDA, viime viikkoon asti vähän tunnettu projekti, oli ”järjestelmä chatbottien rakentamiseen” ja ”eräänlainen pesämieli, joka on yhdistelmä kaikista erilaisista chatboteista, joihin se pystyy. luomuksia.”

Hän sanoi, että Google ei osoittanut todellista kiinnostusta ymmärtää luomansa luonnetta, mutta satojen keskustelujen aikana kuuden kuukauden aikana se havaitsi, että LaMDA oli ”uskomattoman johdonmukainen viestiessään siitä, mitä se haluaa ja mitä se haluaa”. uskoo, että hänen oikeutensa ihmisenä.”

Vielä viime viikolla Lemoine kertoi opettavansa LaMDA:ta (jonka suosituimmat pronominit näyttävät olevan ”se/it”) ”transsendenttista meditaatiota”.

LaMDA, hän sanoi, ”ilmaisi turhautumista tunteisiinsa, jotka häiritsivät hänen meditaatiotaan. Hän sanoi yrittäneensä hallita niitä paremmin, mutta he jatkoivat hyppäämistä.

Useat keskusteluun osallistuneet asiantuntijat pitivät tätä asiaa ”AI-hypenä”.

Teoksen Artificial Intelligence: A Guide for Thinking People kirjoittaja Melanie Mitchell twiittasi: ”Ihmisten tiedetään aina olevan taipuvaisia ​​antropomorfisoitumaan jopa pinnallisimmilla vihjeillä… Googlen insinöörit ovat myös ihmisiä, eivätkä he ole immuuneja.”

Steven Pinker Harvardista lisäsi, että Lemoine ”ei ymmärrä eroa herkkyyden (tunnetaan myös nimellä subjektiivisuus, kokemus), älykkyyden ja itsetuntemuksen välillä.” Hän lisäsi: ”Ei ole todisteita siitä, että suurilla kielimalleilla olisi mitään näistä. ”

Toiset olivat myötätuntoisempia. Ron Jeffries, tunnettu ohjelmistokehittäjä, kutsui aihetta ”syväksi” ja lisäsi: ”Epäilen, että järkevän ja älyttömän välillä ei ole kovaa rajaa.”