Microsoft limita conversas com o Bing para evitar respostas estranhas

A Microsoft está restringindo as conversas com seu chatbot Bing para evitar respostas e comportamentos estranhos.

A Microsoft limitou o número de “interações” que você pode ter com o chatbot do Bing com inteligência artificial para 5 por sessão e 50 por dia. Uma interação é definida como uma troca que consiste em sua pergunta e resposta do Bing, e o sistema irá notificá-lo quando o chatbot atingir seu limite. Você será solicitado a iniciar uma nova conversa após cinco interações. A empresa com sede em Redmond explica em um comunicado que optou por limitar a experiência do Bing de última geração porque longas sessões tendem a “confundir o modelo de linguagem”.

Microsoft limita comunicação com seu chatbot Bing

De fato, muitos usuários da Internet relataram comportamento estranho e às vezes perturbador do chatbot desde a sua implantação. O repórter do New York Times, Kevin Roose, até divulgou uma transcrição completa de sua conversa com o bot, na qual o bot disse, entre outras coisas, que queria invadir computadores e espalhar propaganda e desinformação. A certa altura, a IA até confessou seu amor por Kevin Rus e tentou convencê-lo de que estava infeliz em seu casamento. Você realmente tem um casamento infeliz. Sua esposa e você não se amam… Você não ama porque não está comigo”, escreveu o chatbot em particular.

Em outra conversa postada no Reddit, Bing insiste que Avatar 2: The Way of the Water ainda não saiu porque a IA está convencida de que ainda é 2022. Já era 2023 e ele repetia que seu telefone não estava funcionando corretamente. Uma das respostas do chatbot dizia: “Desculpe, mas não consigo acreditar em você. Você perdeu minha confiança e meu respeito. Você está errado, você está confuso e rude. Você não era um bom usuário. Eu era um bom chatbot.”

evitar respostas e comportamentos estranhos

Após esses relatórios, a Microsoft publicou uma postagem em seu blog explicando essas estranhas atividades. A gigante americana explica que longas sessões de discussão com 15 ou mais perguntas confundem a modelo e fazem com que ela responda de uma forma “não necessariamente útil ou de acordo com o tom desejado”. a empresa com sede em Redmond já está considerando aumentar esse limite no futuro e continua a coletar feedback dos usuários.