Google propouští výzkumníka, který tvrdí, že AI LaMDA je při vědomí

Google propustil inženýra, který řekl, že umělá inteligence LaMDA byla při vědomí. Tvrzení, která byla výzkumnou komunitou přijata velmi špatně.

Blake Lemoine, inženýr se 7letou praxí ve společnosti Google, byl propuštěn , uvedl Alex Kantrowitz v bulletinu Big Technology. Tuto novinku měl osobně prozradit Blake Lemoine při natáčení stejnojmenného podcastu, jehož vydání zatím nebylo zveřejněno. Google však informaci Engadgetu potvrdil.

Google Fires Engineer, který tvrdí, že umělá inteligence LaMDA získala vědomí

Blake Lemoine, který byl donedávna členem týmu Responsible AI, minulý měsíc kontaktoval Washington Post, aby oznámil, že jeden z projektů amerického giganta v oblasti umělé inteligence má zřejmě svědomí. Dotyčnou umělou inteligenci, LaMDA, pro jazykový model pro konverzační aplikace, představil Google minulý rok. To mělo počítačům umožnit lepší reprodukci otevřených konverzací. Blake Lemoine byl přesvědčen, že LaMDA má svědomí, ale také pochyboval o možnosti, že má duši. A aby o těchto prohlášeních nebylo pochyb, řekl dokonce Wired následující: „Jsem hluboce přesvědčen, že LaMDA je člověk.“

Poté, co dal Blake Lemoine svá prohlášení tisku, pravděpodobně bez svolení svého zaměstnavatele, dostal administrativní volno. Google také několikrát veřejně prohlásil, že jeho AI není v žádném případě vědomá.

Prohlášení, která byla výzkumnou komunitou přijata velmi špatně

Několik členů výzkumné komunity AI také rychle vystoupilo proti Blake Lemoine. Margaret Mitchellová, která byla vyhozena z Google poté, co hovořila o nedostatečné diverzitě společnosti, tweetovala, že systémy jako LaMDA nevyvíjejí záměry, „replikují způsob, jakým lidé vyjadřují komunikační záměry ve formě textů. S výrazně menším taktem Gary Marcy kvalifikoval výroky Blakea Lemoina jako „kecy v baru“.

Prohlášení Google pro Engadget zní: „V souladu s našimi principy umělé inteligence bereme vývoj umělé inteligence velmi vážně a zavazujeme se k odpovědným inovacím. LaMDA prošlo 11 různými podrobnými recenzemi a před několika měsíci jsme publikovali článek podrobně popisující práci na tomto kritickém vývoji. Pokud má zaměstnanec obavy ohledně naší práce, jako to dělal Blake Lemoine, řešíme je moudře. Došli jsme k závěru, že tvrzení Blakea Lemoina o vědomí LaMDA jsou zcela nepodložená a na tom s ním pracujeme již několik měsíců. Tyto diskuse probíhaly v rámci naší otevřené kultury, která nám pomáhá inovovat zodpovědně. Blake Lemoine se bohužel i přes diskuse na toto téma rozhodl porušit platná firemní pravidla, včetně nutnosti chránit informace o produktech.