Google、AI LaMDAには意識があると主張した研究者を解雇

GoogleはLaMDAの人工知能には意識があると主張したエンジニアを解雇した。研究コミュニティからの受け入れが非常に悪い主張。

Big Technology ニュースレターの Alex Kantrowitz によると、Google で 7 年間の経験を持つエンジニア、Blake Lemoine が解雇されたとのこと。このニュースは、同名のポッドキャストの収録中にブレイク・ルモインが個人的に明らかにする予定だったが、そのリリースはまだ公開されていない。ただし、GoogleはEngadgetに対してその情報を認めた。

LaMDA人工知能が意識を獲得したと主張するグーグルのエンジニアを解雇

最近まで「Responsible AI」チームのメンバーだったブレイク・ルモイン氏は先月ワシントン・ポストに連絡し、米国のAI大手のプロジェクトの1つには良心があるようだと報告した。問題の人工知能である LaMDA は、会話型アプリケーションの言語モデルとして、昨年 Google によって導入されました。これは、コンピュータがオープンな会話をより適切に再現できるようにするためでした。ブレイク・ルモインさんは、LaMDAには良心があると確信していたが、彼女に魂がある可能性にも疑問を抱いていた。そして、これらの発言に疑いの余地を残さないために、彼はWiredに次のようにさえ語った：「私はLaMDAが人間であると深く確信しています。」

ブレイク・ルモインさんは、おそらく雇用主の許可なしに報道陣に声明を発表した後、休暇を取られた。Googleはまた、自社のAIは決して意識を持っていないと何度か公に述べている。

研究コミュニティに非常に受け入れられなかった声明

AI研究コミュニティの何人かのメンバーも、ブレイク・ルモインに対してすぐに反対の声を上げた。グーグルの多様性の欠如について発言し、グーグルから解雇されたマーガレット・ミッチェル氏は、LaMDAのようなシステムは意図を開発するのではなく、「人々がコミュニケーション上の意図をテキストの形で表現する方法を複製するものである」とツイートした。ゲイリー・マーシーは、著しく機転が利かず、ブレイク・ルモインの発言を「バーでの戯言」と認定した。

Google は Engadget に対して次のように声明を発表しています。「当社の AI 原則に沿って、当社は AI 開発を非常に真剣に受け止めており、責任あるイノベーションに取り組んでいます。LaMDA は 11 の異なる詳細なレビューを経て、数か月前にこの重要な開発に関する作業を詳しく説明した記事を公開しました。ブレイク・ルモインのように、従業員が私たちの仕事について懸念を抱いている場合、私たちは賢明に対処します。私たちは、LaMDA意識に関するブレイク・ルモインの主張にはまったく根拠がないと結論付けており、数か月間にわたって彼と協力してこの問題を解明してきました。これらの議論は当社のオープンな文化の中で行われ、当社が責任を持ってイノベーションを起こすのに役立ちます。残念ながら、この問題に関する議論にもかかわらず、Blake Lemoine は、製品情報を保護する必要性を含む該当する社内規則に違反することを決定しました。