微軟解釋其 Bing 聊天機器人的奇怪行為

微軟為 Bing 聊天機器人有時奇怪的行為進行了解釋。據負責團隊介紹，原因是與AI的交流時間較長。

上週，微軟在 Edge 瀏覽器中推出了基於人工智能的 Bing 聊天機器人，此後該機器人就一直成為新聞焦點。但並不總是出於正確的理由。第一印像很好，非常好，但用戶開始注意到Bing機器人給出了不正確的信息，責罵用戶浪費時間，甚至表現出相當“不平衡”的行為。在一次奇怪的對話中，他拒絕發布《阿凡達 2：水路》的錄像帶，堅稱這部電影還沒有上映，因為現在還是 2022 年。順便說一下，當他試圖告訴 Bing 他錯了。

微軟解釋自己為 Bing 聊天機器人有時奇怪的行為辯護

微軟今天發布了一篇博客文章，解釋了發生的事情以及如何處理此類問題。首先，這家總部位於雷德蒙德的公司承認，它不打算將必應的人工智能用於“一般世界發現和社交娛樂”。

這些“包含 15 個或更多問題的長時間聊天會話”可能會導致系統癱瘓。“Bing 可能會重複或快速/提示地提供不一定有幫助或不符合我們想要的語氣的答案，”該公司解釋道。顯然，這是因為機器人可能會“忘記”它最初試圖回答的一個又一個問題。為了解決這個問題，微軟可能會添加一個工具來重置搜索上下文或從頭開始。

另一個問題更加複雜和有趣：“模型有時會嘗試以與提出問題相同的語氣來回答或思考，這有時會導致不良的風格，”微軟寫道。這需要大量的交互，但工程師認為他們可以通過給予用戶更多的控制權來解決這個問題。

據負責團隊介紹，原因是與AI的交流時間較長。

微軟表示，儘管存在這些擔憂，測試人員總體上對必應的人工智能搜索結果非常滿意。然而，在“高度受時間限制的數據，例如實時體育比分”方面，有可能做得更好。這家美國巨頭還尋求改善事實答案，例如，通過將數據乘以四倍來改善財務報表的事實答案。最後，該公司還將“添加一個按鈕，讓你有更多的控制權，根據你的要求，鼓勵回复的準確性或創造性。”

Bing 支持人員感謝用戶所做的所有測試，這些測試“有助於使產品更好地服務於每個人。”同時，工程師表示，他們對用戶與機器人互動長達兩個小時感到驚訝。毫無疑問，互聯網用戶將不得不整天測試聊天機器人的每個新版本，一切都可能非常有趣。

Reddit 的 Bing 子版塊上有很多新 Bing 聊天失控的例子。

現在在搜索中打開聊天可能是個壞主意！

在此提醒一下，曾經有一段時間，主要搜索引擎在其結果中顯示了這一點。pic.twitter.com/LiE2HJCV2z

— 弗拉德 (@vladquant) 2023 年 2 月 13 日