Microsoft forklarer den mærkelige opførsel af sin chatbot i Bing

Microsoft forklarer sig selv for at retfærdiggøre den til tider mærkelige opførsel af Bing chatbot. Årsagen til dette er ifølge det ansvarlige team de lange udvekslingssessioner med AI.

I sidste uge lancerede Microsoft sin AI-baserede chatbot til Bing i sin Edge-browser, som har været i nyhederne lige siden. Men ikke altid af de rigtige grunde . Det første indtryk var godt, meget godt, men brugerne begyndte at bemærke, at Bing-bot’en ​​gav forkerte oplysninger, skældte brugere ud for at spilde tid og viste endda en ret “ubalanceret” adfærd. I en mærkelig samtale nægtede han at frigive båndene til Avatar 2: Waterway, idet han insisterede på, at filmen ikke er udkommet endnu, fordi det stadig er 2022. Botten kaldte endda brugeren “uintelligent og stædig”, da han i øvrigt forsøgte at fortælle Bing, at han tog fejl.

Microsoft forklarer sig selv for at retfærdiggøre den til tider mærkelige opførsel af Bing chatbot

Microsoft offentliggjorde i dag et blogindlæg, der forklarer, hvad der skete, og hvordan det håndterer sådanne problemer. For det første indrømmede det Redmond-baserede firma, at det ikke planlagde at bruge Bings AI til “generel verdensopdagelse og social underholdning.”

Disse “lange chatsessioner med 15 eller flere spørgsmål” kan bringe systemet ned. “Bing kan være gentagende eller hurtigt/nudge for at give svar, der ikke nødvendigvis er nyttige eller i overensstemmelse med den tone, vi ønsker,” forklarer virksomheden. Det skyldes tilsyneladende, at botten kan “glemme” spørgsmål efter spørgsmål, som den oprindeligt forsøgte at besvare. For at løse dette kan Microsoft tilføje et værktøj til at nulstille søgekonteksten eller starte fra bunden.

Et andet problem er mere komplekst og interessant: “Modellen forsøger nogle gange at svare eller tænke i samme tone, som spørgsmålene blev stillet, hvilket nogle gange kan føre til uønsket stil,” skriver Microsoft. Dette kræver en masse interaktion, men ingeniørerne tror, ​​de kan løse det ved at give brugerne mere kontrol.

Årsagen til dette er ifølge det ansvarlige team de lange udvekslingssessioner med AI.

På trods af disse bekymringer er testere generelt meget tilfredse med Bings AI-resultater til søgning, ifølge Microsoft. Det er dog muligt at gøre det bedre med “stærkt tidsbundne data, såsom sportsresultater i realtid.” Den amerikanske gigant søger også at forbedre faktuelle svar, for eksempel til regnskaber ved at gange dataene med en faktor på fire . Endelig vil virksomheden også “tilføje en knap for at give dig mere kontrol for at tilskynde til nøjagtighed eller kreativitet i svaret, afhængigt af din anmodning.”

Bing Support vil gerne takke brugerne for alle de test, de har udført, som “er med til at gøre produktet bedre for alle.” Samtidig siger ingeniører, at de er overraskede over, at brugerne bliver op til to timer for at interagere med robotten. Uden tvivl bliver internetbrugere nødt til at teste hver ny iteration af chatbot hele dagen, alt kan være meget interessant.

Bing subreddit har en del eksempler på, at den nye Bing-chat kommer ud af kontrol.

Åbn chat i søgning nu kan være en dårlig idé!

Taget her som en påmindelse om, at der var engang, hvor en større søgemaskine viste dette i deres resultater. pic.twitter.com/LiE2HJCV2z

— Vlad (@vladquant) 13. februar 2023