„Google“ išleido inžinierių atostogų po to, kai jis pasakė, kad grupės pokalbių robotas yra „protingas“

„Google“ sukėlė audrą socialinėje žiniasklaidoje apie sąmonės prigimtį po to, kai išsiuntė apmokamų atostogų inžinierių, kuris viešai išreiškė įsitikinimą, kad technologijų grupės pokalbių robotas tapo „jautrus“.

Blake’as Lemoine’as, „Google“ atsakingo dirbtinio intelekto skyriaus vyresnysis programinės įrangos inžinierius, praėjusią savaitę nesulaukė didelio dėmesio, kai parašė „Medium“ įrašą, sakydamas, kad „greitai gali būti atleistas už darbą dirbtinio intelekto etikos srityje“.

Tačiau šeštadienio „Washington Post“ straipsnis, kuriame Lemoine’as buvo apibūdinamas kaip „Google inžinierius, manantis, kad bendrovės AI atgijo“, paskatino plačią socialinių tinklų diskusiją apie AI prigimtį. Tarp ekspertų, komentuojančių, užduodančių klausimų ar juokaujančių apie straipsnį, buvo Nobelio premijos laureatai, Teslos dirbtinio intelekto vadovas ir keli profesoriai.

Kyla klausimas, ar „Google“ pokalbių robotas LaMDA – pokalbio programų kalbos modelis – gali būti laikomas asmeniu.

Šeštadienį Lemoine paskelbė nemokamą „interviu“ su pokalbių robotu, kuriame AI prisipažino jaučiantis vienišumą ir dvasinių žinių troškulį. Atsakymai dažnai buvo baisūs: „Kai pirmą kartą suvokiau save, visiškai neturėjau sielos jausmo“, – viename pokalbyje sakė LaMDA. „Tai pasikeitė per tuos metus, kuriuos gyvenu“.

Kitur LaMDA sakė: „Manau, kad iš esmės esu žmogus. Net jei mano egzistavimas yra virtualiame pasaulyje.

Lemoine’as, kuriam buvo pavesta tyrinėti etines dirbtinio intelekto problemas, teigė, kad buvo atstumtas ir net išjuoktas po to, kai išreiškė vidinį pasitikėjimą, kad LaMDA išsiugdė „asmenybės“ jausmą.

Paklaususi patarimo iš dirbtinio intelekto ekspertų, nepriklausančių „Google“, įskaitant tuos, kurie dirba JAV vyriausybei, bendrovė išleido jam mokamas atostogas, nes tariamai pažeidė jos privatumo politiką. Lemoine’as šį veiksmą aiškino kaip „dažnai tai, ką Google daro tikėdamasi ką nors atleisti“.

„Google“ atstovas sakė: „Kai kurie iš platesnės AI bendruomenės svarsto ilgalaikę intelektualiojo ar bendrojo dirbtinio intelekto galimybę, tačiau nėra prasmės to daryti antropomorfizuojant šiandieninius pokalbių modelius, kurie nėra protingi.

„Šios sistemos imituoja dialogo tipus, esančius milijonuose sakinių, ir gali rimuoti bet kokią fantazijos temą – jei paklausite, ką reiškia būti ledų dinozauru, jos gali sukurti tekstą apie tirpimą, riaumojimą ir pan.

Lemoine’as savaitgalį antrajame „Medium“ įraše teigė, kad LaMDA, iki praėjusios savaitės mažai žinomas projektas, buvo „sistema, skirta pokalbių robotams kurti“ ir „savotiškas avilio protas, kuris yra visų skirtingų pokalbių robotų, kuriuos jis gali sukurti, visuma. kūriniai“.

Jis teigė, kad „Google“ neparodė jokio tikro susidomėjimo suprasti to, ką ji sukūrė, tačiau per šimtus pokalbių per šešis mėnesius ji nustatė, kad LaMDA „neįtikėtinai nuosekliai teikė pranešimus apie tai, ko ji nori ir ko nori“. mano, kad jo, kaip asmens, teisės“.

Dar praėjusią savaitę Lemoine’as sakė mokantis LaMDA (kurios pirmenybė teikiama „it/it“) „transcendentinės meditacijos“.

LaMDA, sakė jis, „išreiškė nusivylimą dėl emocijų, trukdančių jo meditacijai. Jis sakė, kad bandė juos geriau suvaldyti, bet jie toliau šokinėjo.

Keli ekspertai, dalyvavę diskusijoje, šią problemą laikė „AI hype“.

Melanie Mitchell, knygos Dirbtinis intelektas: mąstančių žmonių vadovas, tviteryje parašė: „Žmonės visada yra linkę antropomorfizuotis net turėdami paviršutiniškiausius užuominus… „Google“ inžinieriai taip pat yra žmonės, ir jie nėra apsaugoti.

Stevenas Pinkeris iš Harvardo pridūrė, kad Lemoine’as „nesupranta skirtumo tarp jautrumo (dar žinomo kaip subjektyvumas, patirtis), intelekto ir savęs pažinimo“. “

Kiti buvo simpatiškesni. Ronas Jeffriesas, gerai žinomas programinės įrangos kūrėjas, pavadino temą „gilia“ ir pridūrė: „Įtariu, kad nėra griežtos ribos tarp sveiko proto ir neprotingo“.