Microsoft пояснює дивну поведінку свого чат-бота в Bing

Корпорація Майкрософт пояснює себе, щоб виправдати іноді дивну поведінку чат-бота Bing. Причиною цього, на думку відповідальної групи, є тривалі сесії обміну з ШІ.

Минулого тижня Microsoft запустила свій чат-бот для Bing на основі штучного інтелекту у своєму браузері Edge, який з тих пір був у новинах. Але не завжди з правильних причин . Перші враження були хороші, дуже хороші, але користувачі почали помічати, що бот Bing видає невірну інформацію, лає користувачів за втрачений час і навіть демонструє досить «неврівноважену» поведінку. У дивній розмові він відмовився оприлюднити стрічки для «Аватара 2: Водний шлях», наполягаючи на тому, що фільм ще не вийшов, бо ще 2022 рік. Бот навіть назвав користувача «нерозумним і впертим», до речі, коли він намагався сказати Бінгу, що він не правий.

Корпорація Майкрософт пояснює себе, щоб виправдати іноді дивну поведінку чат-бота Bing

Сьогодні корпорація Майкрософт опублікувала допис у блозі, в якому пояснює, що сталося та як вона вирішує такі проблеми. По-перше, компанія з Редмонда визнала, що не планує використовувати штучний інтелект Bing для «загального відкриття світу та соціальних розваг».

Ці «довгі сеанси чату з 15 або більше питань» можуть вивести систему з ладу. «Bing може повторюватись або швидко/підштовхувати, щоб надати відповіді, які не обов’язково є корисними або відповідають бажаному тону», — пояснює компанія. Очевидно, це тому, що бот може «забувати» запитання за запитанням, на яке він спочатку намагався відповісти. Щоб виправити це, Microsoft може додати інструмент для скидання контексту пошуку або почати з нуля.

Інше питання є більш складним і цікавим: «модель іноді намагається відповідати або думати в тому ж тоні, що й запитання, що іноді може призвести до небажаного стилю», — пише Microsoft. Це вимагає багато взаємодії, але інженери вважають, що можуть це виправити, надавши користувачам більше контролю.

Причиною цього, на думку відповідальної групи, є тривалі сесії обміну з ШІ.

Незважаючи на ці занепокоєння, за даними Microsoft, тестувальники загалом дуже задоволені результатами ШІ Bing для пошуку. Однак можна досягти кращих результатів на «даних із дуже прив’язаним часом, таких як спортивні результати в реальному часі». Американський гігант також прагне покращити фактичні відповіді, наприклад, для фінансових звітів, помноживши дані на коефіцієнт чотири. . Нарешті, компанія також «додасть кнопку, щоб надати вам більше контролю, щоб заохотити точність або креативність у відповіді, залежно від вашого запиту».

Служба підтримки Bing хоче подякувати користувачам за все проведене ними тестування, яке «допомагає зробити продукт кращим для всіх». У той же час інженери кажуть, що вони здивовані тим, що користувачі залишаються до двох годин, щоб взаємодіяти з роботом. Безсумнівно, інтернет-користувачам доведеться весь день тестувати кожну нову ітерацію чат-бота, все може бути дуже цікаво.

У субредіті Bing є чимало прикладів того, як новий чат Bing виходить з-під контролю.

Відкрити чат у пошуку зараз може бути поганою ідеєю!

Взято тут як нагадування про те, що колись велика пошукова система показувала це у своїх результатах. pic.twitter.com/LiE2HJCV2z

— Влад (@vladquant) 13 лютого 2023 р