Google Bard は間もなく、より「高度な」言語モデルに切り替わります

GoogleはまもなくBardをより高度な言語モデルに翻訳する予定です。LaMDA と PaLM の違いは顕著です。

一般の人々は、Google が「実験的な会話サービス」Bard を開始したことにあまり感銘を受けていません。同様に OpenAI GPT-4 上で実行される OpenAI ChatGPT および Microsoft Bing Chat に直面したとき、ユーザーは、Mountain View のソリューションからの応答が競合他社のソリューションほど詳細ではないことに気づきました。ただし、これはすぐに変わる可能性があります。Google CEOのサンダー・ピチャイ氏は、ニューヨーク・タイムズのポッドキャスト「ハードフォーク」で、バード氏が数日以内に現在のLaMDAモデルからより大規模なPaLMデータセットに移行することを認めた。

GoogleはまもなくBardをより高度な言語モデルに更新する予定です。

バード氏の退任後のフィードバックについて尋ねられたサンダー・ピチャイ氏は、「我々には明らかに、もっとできるモデルがある。すぐに、おそらく今すぐに、私たちはバードをより機能的な PaLM モデルの 1 つにアップグレードして、プログラミングを含むより多くのオプションとより構造化された思考を提供する予定です。」

違いをよりよく理解するために、Googleは昨年言語モデルの詳細を明らかにした際、LaMDAを1,370億以上のパラメータでトレーニングしたと述べた。一方、PaLM は約 5,400 億のパラメーターを使用してトレーニングされています。どちらも 2022 年初頭から大きく変わりましたが、そのコントラストを見れば、なぜ Google が今、より大規模なデータセットとより多様な対応を備えた Bard を PaLM に移行させたいのかが明確になります。

サンダー・ピチャイ氏は、競合他社と比較したグーグルのAI開発スピードについては心配していないと語る。Bard 氏が 2 月に最初の一歩を踏み出したとき、LaMDA を使用することで選択肢が多少制限されていることを認めましたが、処理能力が低いことは利点であり、ユーザーはテストして利益を得ることができると付け加えました。Sundar Pichai 氏はまた、Google が実際の世界にリリースされた後、Bard の安全性と品質のレビューを独自に実施することを確認したいと考えていました。

LaMDA と PaLM の違いは顕著です。

そのためにサンダー・ピチャイ氏は、Googleは「適切に管理できると確信する前に、より強力なモデルを立ち上げたくない」と説明した。私たちはまだ始まったばかりです。時間の経過とともに、より良いモデルを接続できるようになるでしょうが、誰が最初にそこに到達するかという競争にはなりたくないのです。私たちにとって、それを正しく行うことが非常に重要です。」

この感情は、「GPT-4よりも強力な」AI技術の開発を最低6か月休止するよう求める公開書簡に署名した1,800人以上の人々（技術リーダーや他のAI研究者を含む）の心の中にある。

サンダー・ピチャイ氏は、政府の関与なしにこれを成功させることはできないと考えているが、リーダーシップが必要であることに同意している。「AIは規制するにはあまりにも重要だ。また、あまりにも重要なため、不十分に規制されてはなりません。ですから、このような会話が行われていることを嬉しく思います。」