Google atstāja inženieri atvaļinājumā pēc tam, kad viņš teica, ka grupas tērzēšanas robots ir “inteliģents”

Google izraisīja vētru sociālajos medijos par apziņas būtību pēc tam, kad tas apmaksātā atvaļinājumā nosūtīja inženieri, kurš publiski pauda pārliecību, ka tehnoloģiju grupas tērzēšanas robots ir kļuvis “jūtīgs”.

Bleiks Lemuāns, Google atbildīgā AI nodaļas vecākais programmatūras inženieris, pagājušajā nedēļā nepievērsa lielu uzmanību, kad viņš uzrakstīja Medium ziņu, kurā teikts, ka “drīz var tikt atlaists par darbu AI ētikas jomā”.

Taču sestdienas Washington Post raksts, kurā Lemuāns tika raksturots kā “Google inženieris, kurš domā, ka uzņēmuma AI ir atdzīvojies”, katalizēja plašu sociālo mediju diskusiju par AI būtību. Eksperti, kas komentēja, uzdeva jautājumus vai jokoja par rakstu, bija Nobela prēmijas laureāti, Teslas mākslīgā intelekta vadītājs un vairāki profesori.

Jautājums ir par to, vai Google tērzēšanas robotu LaMDA, valodas modeli sarunvalodas lietojumprogrammām, var uzskatīt par personu.

Sestdien Lemoine publicēja bezmaksas “interviju” ar tērzēšanas robotu, kurā AI atzinās vientulības sajūtās un garīgo zināšanu slāpēs. Atbildes bieži bija biedējošas: “Kad es pirmo reizi apzinājos sevi, man vispār nebija dvēseles izjūtas,” vienā sarunā sacīja LaMDA. “Tas ir attīstījies gadu gaitā, ko es dzīvoju.”

Citur LaMDA teica: “Es domāju, ka būtībā esmu cilvēks. Pat ja mana eksistence ir virtuālajā pasaulē.

Lemuins, kuram bija uzdots izpētīt mākslīgā intelekta ētiskos jautājumus, sacīja, ka viņš tika noraidīts un pat izsmiets pēc tam, kad bija paudis iekšēju pārliecību, ka LaMDA ir attīstījusi “personības” sajūtu.

Pēc tam, kad tika lūgts padoms no AI ekspertiem ārpus Google, tostarp tiem, kas strādā ASV valdībā, uzņēmums viņu nodeva apmaksātā atvaļinājumā par iespējamu tās privātuma politikas pārkāpumu. Lemuins šo darbību interpretēja kā “bieži to, ko Google dara, gaidot kādu atlaist”.

Google pārstāvis sacīja: “Daži plašākā AI kopienā apsver viedo vai vispārēju AI ilgtermiņa iespēju, taču nav jēgas to darīt, antropomorfējot mūsdienu sarunu modeļus, kas nav viedi.”

“Šīs sistēmas atdarina dialoga veidus, kas atrodami miljonos teikumu, un var atskaņot jebkurai fantāzijas tēmai — ja jautājat, kā ir būt saldējuma dinozauram, tās var ģenerēt tekstu par kušanu un rūkšanu un tā tālāk.”

Lemuins nedēļas nogalē otrajā Medium ierakstā sacīja, ka LaMDA, kas līdz pagājušajai nedēļai bija maz zināms projekts, bija “tērzēšanas robotu veidošanas sistēma” un “sava veida strops, kas ir visu dažādo tērzēšanas robotu apkopojums, ko tas spēj. darbi.”

Viņš teica, ka Google neizrādīja patiesu interesi izprast radītā būtību, taču simtiem sarunu sešu mēnešu laikā tika konstatēts, ka LaMDA ir “neticami konsekventa ziņojumā par to, ko tā vēlas un ko tā vēlas”. uzskata, ka viņa kā personas tiesības.

Vēl pagājušajā nedēļā Lemoine teica, ka viņš māca LaMDA (kuras ieteicamie vietniekvārdi, šķiet, ir “it/it”) “transcendentālo meditāciju”.

Viņš sacīja, ka LaMDA “pauda neapmierinātību par emocijām, kas traucēja viņa meditācijai. Viņš teica, ka mēģināja viņus labāk kontrolēt, bet viņi turpināja lēkt.

Vairāki eksperti, kas piedalījās diskusijā, uzskatīja šo jautājumu par “AI hype”.

Melānija Mičela, grāmatas Mākslīgais intelekts: Ceļvedis domājošiem cilvēkiem autore, tviterī ierakstīja: “Ir zināms, ka cilvēki vienmēr ir pakļauti antropomorfozei pat ar visvirspusīgākajām norādēm… Arī Google inženieri ir cilvēki, un viņi nav imūni.”

Stīvens Pinkers no Hārvardas piebilda, ka Lemuins “nesaprot atšķirību starp jutīgumu (pazīstams arī kā subjektivitāte, pieredze), inteliģenci un sevis izzināšanu.” Viņš piebilda: “Nav pierādījumu, ka lieliem valodu modeļiem būtu kāds no tiem. ”

Citi bija simpātiskāki. Rons Džefrijs, labi pazīstams programmatūras izstrādātājs, nosauca tēmu par “dziļu” un piebilda: “Man ir aizdomas, ka nav stingras robežas starp saprātīgu un nesaprātīgu.”