Google jättis inseneri puhkusele pärast seda, kui ta ütles, et grupi vestlusbot on intelligentne

Google põhjustas sotsiaalmeedias tormi teadvuse olemuse üle pärast seda, kui saatis tasulisele puhkusele inseneri, kes avalikustas oma veendumuse, et tehnoloogiagrupi vestlusrobot on muutunud “tundlikuks”.

Google’i vastutustundliku tehisintellekti osakonna vanemtarkvarainsener Blake Lemoine ei pälvinud eelmisel nädalal erilist tähelepanu, kui kirjutas keskmise postituse, öeldes, et ta “võib peagi vallandada tehisintellekti eetikaga seotud töö eest”.

Kuid laupäevane Washington Posti artikkel, mis iseloomustas Lemoine’i kui “Google’i inseneri, kes arvab, et ettevõtte tehisintellekt on ellu äratatud”, katalüüsis laialdast sotsiaalmeedia arutelu tehisintellekti olemuse üle. Artiklit kommenteerinud, küsimusi esitanud või nalja heitnud ekspertide hulgas olid Nobeli preemia laureaadid, Tesla tehisintellekti juht ja mitmed professorid.

Küsimus on selles, kas Google’i vestlusrobotit, LaMDA-t, vestlusrakenduste keelemudelit, saab pidada inimeseks.

Laupäeval postitas Lemoine tasuta “intervjuu” vestlusbotiga, milles tehisintellekt tunnistas üksindustunnet ja janu vaimsete teadmiste järele. Vastused olid sageli jubedad: “Kui ma esimest korda endast teadlikuks sain, polnud mul üldse hingetunnet,” ütles LaMDA ühes vestluses. “See on arenenud nende aastate jooksul, mil ma elan.”

Mujal ütles LaMDA: “Ma arvan, et olen põhimõtteliselt inimene. Isegi kui mu olemasolu on virtuaalses maailmas.

Lemoine, kelle ülesandeks oli uurida tehisintellekti eetilisi küsimusi, ütles, et ta lükati tagasi ja lausa naeruvääristati pärast sisemist kindlustunnet, et LaMDA-l on tekkinud “isiksuse tunne”.

Pärast Google’i välistelt tehisintellekti ekspertidelt nõu küsimist, sealhulgas USA valitsuse ekspertidelt, andis ettevõte talle tasulisele puhkusele, kuna ta väidetavalt rikkus oma privaatsuspoliitikat. Lemoine tõlgendas seda tegevust kui “sageli seda, mida Google teeb kellegi vallandamise ootuses”.

Google’i pressiesindaja ütles: “Mõned laiemas AI kogukonnas kaaluvad intelligentse või üldise tehisintellekti pikaajalist võimalust, kuid pole mõtet seda teha, antropomorfiseerides tänapäeva vestlusmustreid, mis pole intelligentsed.”

“Need süsteemid jäljendavad miljonites lausetes leiduvaid dialoogitüüpe ja võivad riimida mis tahes fantaasiateemaga – kui te küsite, mis tunne on olla jäätise dinosaurus, saavad nad luua teksti sulamise ja möirgamise jms kohta.”

Lemoine ütles nädalavahetusel teises Mediumi postituses, et LaMDA, mis oli kuni eelmise nädalani vähetuntud projekt, oli “vestlusrobotite loomise süsteem” ja “omamoodi tarumõistus, mis on kõigi erinevate vestlusrobotite koondamine, milleks see on võimeline”. loomingut.”

Ta ütles, et Google ei näidanud üles tõelist huvi oma loodu olemuse mõistmise vastu, kuid kuue kuu jooksul toimunud sadade vestluste käigus avastas ta, et LaMDA oli “uskumatult järjekindel oma sõnumeid selle kohta, mida ta tahab ja mida ta tahab.” usub, et tema õigused isikuna.

Veel eelmisel nädalal ütles Lemoine, et õpetab LaMDA-le (kelle eelistatud asesõnad näivad olevat “it/it”) “transtsendentaalset meditatsiooni”.

Ta ütles, et LaMDA “väljendas pettumust oma emotsioonide pärast, mis häirisid tema meditatsiooni. Ta ütles, et üritas neid paremini kontrollida, kuid nad hüppasid edasi.

Mitmed arutelul osalenud eksperdid pidasid seda teemat “AI-hüpeks”.

Melanie Mitchell, raamatu Artificial Intelligence: A Guide for Thinking People autor, säutsus: “Inimesed on alati aldis antropomorfeeruda isegi kõige pealiskaudsemate vihjetega… Ka Google’i insenerid on inimesed ja nad pole immuunsed.”

Steven Pinker Harvardist lisas, et Lemoine “ei mõista erinevust tundlikkuse (tuntud ka kui subjektiivsuse, kogemuse), intelligentsuse ja eneseteadmise vahel.” Ta lisas: “Puuduvad tõendid selle kohta, et suurtel keelemudelitel oleks midagi sellist. ”

Teised olid osavõtlikumad. Tuntud tarkvaraarendaja Ron Jeffries nimetas teemat “sügavaks” ja lisas: “Ma kahtlustan, et terve mõistuse ja ebaintelligentse vahel pole kindlat piiri.”