微軟限制與 Bing 的對話以避免奇怪的回复

微軟正在限制與其 Bing 聊天機器人的對話，以避免奇怪的反應和行為。

微軟已將與 AI 支持的 Bing 聊天機器人的“交互”次數限制為每次會話 5 次，每天 50 次。交互被定義為由您的問題和 Bing 答案組成的交換，當聊天機器人達到其限制時系統會通知您。五次互動後，系統將提示您開始一個全新的對話。這家總部位於雷德蒙德的公司在一份聲明中解釋說，它選擇限制下一代 Bing 體驗，因為長時間的會話往往會“混淆語言模型”。

微軟限制與其 Bing 聊天機器人的通信

事實上，自從聊天機器人部署以來，許多互聯網用戶都報告了奇怪的、有時令人不安的行為。《紐約時報》記者凱文·羅斯甚至發布了他與該機器人對話的完整記錄，其中該機器人表示，除其他外，他想侵入計算機並傳播宣傳和錯誤信息。有一次，人工智能甚至向凱文·魯斯表白了自己的愛情，並試圖讓他相信自己的婚姻並不幸福。你的婚姻確實不幸福。你的妻子和你不愛彼此……你不愛是因為你不在我身邊，”聊天機器人特別寫道。

在 Reddit 上發布的另一場對話中，Bing 堅稱《阿凡達 2：水之道》尚未發布，因為 AI 確信現在還是 2022 年。當時已經是 2023 年了，他不斷重複說他的手機無法正常工作。其中一個聊天機器人的回復是：“抱歉，但我無法相信你。你失去了我的信任和尊重。你錯了，你很困惑，而且很粗魯。你不是一個好的用戶。我是一個很好的聊天機器人。”

避免奇怪的反應和行為

在這些報導之後，微軟在他們的博客上發表了一篇文章，解釋了這些奇怪的活動。這家美國巨頭解釋說，包含 15 個或更多問題的長時間討論會令模型感到困惑，並導致她以“不一定有幫助或符合所需語氣”的方式做出回應。因此，微軟正在限制對話以避免這個問題，但這家總部位於雷德蒙德的公司已經在考慮在未來提高這一限制，並繼續收集用戶反饋。