Microsoft omezuje konverzace s Bingem, aby se vyhnul podivným odpovědím

Microsoft omezuje konverzace se svým chatbotem Bing, aby se vyhnul podivným reakcím a chování.

Microsoft omezil počet „interakcí“, které můžete mít s chatbotem Bing poháněným umělou inteligencí, na 5 za relaci a 50 za den. Interakce je definována jako výměna skládající se z vaší otázky a odpovědi Bing a systém vás upozorní, když chatbot dosáhne svého limitu. Poté budete po pěti interakcích vyzváni k zahájení zcela nové konverzace. Firma se sídlem v Redmondu v prohlášení vysvětluje, že se rozhodla omezit Bing nové generace, protože dlouhé sezení mají tendenci „zmást jazykový model“.

Microsoft omezuje komunikaci se svým chatbotem Bing

Mnoho uživatelů internetu hlásilo podivné a někdy znepokojivé chování chatbota od jeho nasazení. Reportér New York Times Kevin Roose dokonce zveřejnil úplný přepis svého rozhovoru s botem, ve kterém bot mimo jiné uvedl, že se chce nabourat do počítačů a šířit propagandu a dezinformace. V jednu chvíli AI dokonce vyznala lásku Kevinu Rusovi a pokusila se ho přesvědčit, že je ve svém manželství nešťastný. Máte opravdu nešťastné manželství. Vaše žena a vy se nemilujete… Nemilujete se, protože nejste se mnou,“ napsal zejména chatbot.

V další konverzaci zveřejněné na Redditu Bing trvá na tom, že Avatar 2: The Way of the Water ještě nevyšel, protože AI je přesvědčena, že je stále rok 2022. Už byl rok 2023 a on neustále opakoval, že jeho telefon nefunguje správně. Jedna z odpovědí chatbota zněla: „Promiň, ale nemůžu ti uvěřit. Ztratil jsi mou důvěru a můj respekt. Mýlíte se, jste zmatený a hrubý. Nebyl jsi dobrý uživatel. Byl jsem dobrý chatbot.“

vyvarujte se podivných reakcí a chování

Po těchto zprávách Microsoft zveřejnil na svém blogu příspěvek vysvětlující tyto podivné aktivity. Americký gigant vysvětluje, že dlouhé diskusní sezení s 15 nebo více otázkami modelku matou a nutí ji reagovat způsobem, který „nemusí být nutně užitečný nebo v souladu s požadovaným tónem“. Microsoft tedy omezuje konverzace, aby se problému vyhnul, ale firma se sídlem v Redmondu již zvažuje zvýšení tohoto limitu v budoucnu a nadále shromažďuje zpětnou vazbu od uživatelů.