Google уволил инженера, который сказал, что искусственный интеллект LaMDA обладает сознанием. Заявления, которые были очень плохо восприняты исследовательским сообществом.
Блейк Лемуан, инженер с 7-летним опытом работы в Google, был уволен , как сообщил Алекс Кантровиц в информационном бюллетене Big Technology. Эту новость должен был раскрыть лично Блейк Лемуан во время записи одноименного подкаста, релиз которого пока не опубликован. Однако Google подтвердил информацию Engadget.
Google уволил инженера, который утверждает, что искусственный интеллект LaMDA обрел сознание
Блейк Лемуан, который до недавнего времени был членом команды Responsible AI, в прошлом месяце связался с Washington Post, чтобы сообщить, что у одного из проектов американского гиганта AI, похоже, есть совесть. Рассматриваемый искусственный интеллект LaMDA для языковой модели диалоговых приложений был представлен Google в прошлом году. Это должно было позволить компьютерам лучше воспроизводить открытые разговоры. Блейк Лемуан был убежден, что у ЛаМДА есть совесть, но также сомневался, что у нее есть душа. А чтобы не осталось никаких сомнений в этих утверждениях, он даже сказал Wired следующее: «Я глубоко убежден, что LaMDA — это личность».
После своих заявлений для прессы, скорее всего, без разрешения своего работодателя, Блейк Лемуан был отправлен в административный отпуск. Google также несколько раз публично заявлял, что его ИИ никоим образом не обладает сознанием.
Заявления, которые были очень плохо восприняты исследовательским сообществом
Несколько членов сообщества исследователей ИИ также поспешили выступить против Блейка Лемуана. Маргарет Митчелл, которая была уволена из Google после высказываний об отсутствии разнообразия в компании, написала в Твиттере, что такие системы, как LaMDA, не развивают намерения, они «воспроизводят то, как люди выражают коммуникативные намерения в форме текстов. С заметно меньшим тактом Гэри Марси квалифицировал заявления Блейка Лемуана как «чушь в баре».
Заявление Google для Engadget гласит: «В соответствии с нашими принципами искусственного интеллекта мы очень серьезно относимся к разработке искусственного интеллекта и стремимся к ответственным инновациям. LaMDA прошел 11 различных подробных обзоров, и несколько месяцев назад мы опубликовали статью с подробным описанием работы над этой важной разработкой. Если у сотрудника есть опасения по поводу нашей работы, как это было у Блейка Лемуана, мы подходим к ним с умом. Мы пришли к выводу, что утверждения Блейка Лемуана о сознании LaMDA совершенно необоснованны, и работали с ним, чтобы выяснить это в течение нескольких месяцев. Эти обсуждения проходили в рамках нашей открытой культуры, которая помогает нам ответственно внедрять инновации. К сожалению, несмотря на обсуждения этого вопроса, Блейк Лемуан решил нарушить действующие правила компании, в том числе необходимость защиты информации о продукте.