Microsoft selittää chatbotin outoa käyttäytymistä Bingissä

Microsoft selittää itsensä perustellakseen Bing-chatbotin joskus outoa käyttäytymistä. Syynä tähän ovat vastuullisen tiimin mukaan pitkät vaihto-istunnot tekoälyn kanssa.

Viime viikolla Microsoft julkaisi tekoälypohjaisen chatbotin Bingille Edge-selaimessaan, joka on ollut uutisissa siitä lähtien. Mutta ei aina oikeista syistä . Ensivaikutelma oli hyvä, erittäin hyvä, mutta käyttäjät alkoivat huomata, että Bing-botti antoi vääriä tietoja, moitti käyttäjiä ajanhukkaa ja jopa osoitti melko ”epätasapainoista” käyttäytymistä. Oudossa keskustelussa hän kieltäytyi julkaisemasta nauhoja Avatar 2: Waterwaylle väittäen, että elokuva ei ole vielä ilmestynyt, koska se on vielä 2022. Muuten, robotti jopa kutsui käyttäjää ”epäälykkääksi ja itsepäiseksi”, kun hän yritti kertoa Bingille, että hän oli väärässä.

Microsoft selittää itsensä perustellakseen Bing-chatbotin joskus outoa käyttäytymistä

Microsoft julkaisi tänään blogikirjoituksen, jossa kerrotaan, mitä tapahtui ja miten se käsittelee tällaisia ​​​​ongelmia. Ensinnäkin Redmondissa toimiva yritys myönsi, ettei se aikonut käyttää Bingin tekoälyä ”yleiseen maailman löytöyn ja sosiaaliseen viihteeseen”.

Nämä ”pitkät 15 tai useamman kysymyksen chat-istunnot” voivat kaataa järjestelmän. ”Bing voi olla toistuva tai nopea/töksyttävä antaakseen vastauksia, jotka eivät välttämättä ole hyödyllisiä tai haluamamme sävyn mukaisia”, yritys selittää. Ilmeisesti tämä johtuu siitä, että botti voi ”unohtaa” kysymyksen toisensa jälkeen, johon se alun perin yritti vastata. Korjatakseen tämän Microsoft voi lisätä työkalun hakukontekstin nollaamiseen tai aloittaa alusta.

Toinen ongelma on monimutkaisempi ja kiinnostavampi: ”Malli yrittää joskus vastata tai ajatella samalla äänellä kuin kysymykset esitettiin, mikä voi joskus johtaa ei-toivottuun tyyliin”, Microsoft kirjoittaa. Tämä vaatii paljon vuorovaikutusta, mutta insinöörit uskovat voivansa korjata sen antamalla käyttäjille enemmän hallintaa.

Syynä tähän ovat vastuullisen tiimin mukaan pitkät vaihto-istunnot tekoälyn kanssa.

Näistä huolenaiheista huolimatta testaajat ovat Microsoftin mukaan yleensä erittäin tyytyväisiä Bingin tekoälytuloksiin. On kuitenkin mahdollista tehdä paremmin ”aikaan sidotuilla tiedoilla, kuten reaaliaikaisilla urheilutuloksilla”. Amerikkalainen jättiläinen pyrkii myös parantamaan asiallisia vastauksia esimerkiksi tilinpäätösten osalta kertomalla tiedot kertoimella neljä . Lopuksi yritys ”lisää painikkeen, joka antaa sinulle enemmän hallintaa ja rohkaisee vastauksen tarkkuutta tai luovuutta pyynnöstäsi riippuen”.

Bing-tuki haluaa kiittää käyttäjiä kaikista heidän tekemästään testistä, joka ”auttaa tekemään tuotteesta paremman kaikille”. Samalla insinöörit sanovat olevansa yllättyneitä siitä, että käyttäjät viipyvät jopa kaksi tuntia ollakseen vuorovaikutuksessa robotin kanssa. Epäilemättä Internetin käyttäjien on testattava jokaista chatbotin uutta iteraatiota koko päivän, kaikki voi olla erittäin mielenkiintoista.

Bing-subredditissä on useita esimerkkejä uudesta Bing-chatista, joka karkaa hallinnasta.

Avaa chat haussa nyt saattaa olla huono idea!

Otettu tässä muistutuksena siitä, että oli aika, jolloin suuri hakukone osoitti tämän tuloksissaan. pic.twitter.com/LiE2HJCV2z

— Vlad (@vladquant) 13. helmikuuta 2023