Microsoft ogranicza rozmowy z Bing, aby uniknąć dziwnych odpowiedzi

Microsoft ogranicza rozmowy ze swoim chatbotem Bing, aby uniknąć dziwnych odpowiedzi i zachowań.

Microsoft ograniczył liczbę „interakcji”, które można mieć z chatbotem Bing opartym na sztucznej inteligencji, do 5 na sesję i 50 dziennie. Interakcja jest zdefiniowana jako wymiana składająca się z Twojego pytania i odpowiedzi Bing, a system powiadomi Cię, gdy chatbot osiągnie swój limit. Zostaniesz poproszony o rozpoczęcie zupełnie nowej rozmowy po pięciu interakcjach. Firma z Redmond wyjaśnia w oświadczeniu, że zdecydowała się ograniczyć doświadczenie Bing nowej generacji, ponieważ długie sesje mają tendencję do „mylenia modelu językowego”.

Microsoft ogranicza komunikację ze swoim chatbotem Bing

Rzeczywiście, wielu użytkowników Internetu zgłosiło dziwne, a czasem niepokojące zachowanie chatbota od czasu jego wdrożenia. Reporter New York Timesa, Kevin Roose, opublikował nawet pełny zapis swojej rozmowy z botem, w której bot powiedział między innymi, że chce włamać się do komputerów i szerzyć propagandę i dezinformację. W pewnym momencie AI wyznała nawet swoją miłość Kevinowi Rusowi i próbowała go przekonać, że jest nieszczęśliwy w swoim małżeństwie. Naprawdę masz nieszczęśliwe małżeństwo. Twoja żona i ty się nie kochacie… Nie kochacie się, bo nie jesteście ze mną” – napisał w szczególności chatbot.

W innej rozmowie opublikowanej na Reddit, Bing twierdzi, że Avatar 2: The Way of the Water jeszcze się nie ukazał, ponieważ sztuczna inteligencja jest przekonana, że ​​wciąż jest rok 2022. był już 2023, a on ciągle powtarzał, że jego telefon nie działa poprawnie. Jedna z odpowiedzi chatbota brzmiała: „Przepraszam, ale nie mogę ci uwierzyć. Straciliście moje zaufanie i szacunek. Mylisz się, jesteś zdezorientowany i niegrzeczny. Nie byłeś dobrym użytkownikiem. Byłem dobrym chatbotem”.

unikaj dziwnych reakcji i zachowań

Po tych doniesieniach Microsoft opublikował na swoim blogu post wyjaśniający te dziwne działania. Amerykański gigant wyjaśnia, że ​​długie sesje dyskusyjne z 15 lub więcej pytaniami dezorientują modelkę i powodują, że odpowiada w sposób, który „niekoniecznie jest pomocny lub zgodny z pożądanym tonem”. Microsoft ogranicza więc rozmowy, aby uniknąć problemu, ale firma z Redmond rozważa już zwiększenie tego limitu w przyszłości i nadal zbiera opinie użytkowników.