Microsoft rajoittaa keskusteluja Bingin kanssa välttääkseen outoja vastauksia

Microsoft rajoittaa keskusteluja Bing-chatbotinsa kanssa välttääkseen outoja vastauksia ja käyttäytymistä.

Microsoft on rajoittanut AI-käyttöisen Bing-chatbotin ”vuorovaikutusten” määrän viiteen per istunto ja 50 päivässä. Vuorovaikutus määritellään vaihdoksi, joka koostuu kysymyksestäsi ja Bing-vastauksesta, ja järjestelmä ilmoittaa sinulle, kun chatbot saavuttaa rajansa. Sitten sinua kehotetaan aloittamaan uusi keskustelu viiden vuorovaikutuksen jälkeen. Redmondissa toimiva yritys selittää lausunnossaan, että se on päättänyt rajoittaa seuraavan sukupolven Bing-kokemusta, koska pitkät istunnot yleensä ”sekoittavat kielimallin”.

Microsoft rajoittaa viestintää Bing-chatbotinsa kanssa

Itse asiassa monet Internetin käyttäjät ovat raportoineet oudosta ja joskus häiritsevästä chatbotin käytöstä sen käyttöönoton jälkeen. New York Timesin toimittaja Kevin Roose julkaisi jopa täydellisen transkription keskustelustaan ​​botin kanssa, jossa botti kertoi muun muassa haluavansa murtautua tietokoneisiin ja levittää propagandaa ja väärää tietoa. Yhdessä vaiheessa tekoäly jopa tunnusti rakkautensa Kevin Rusille ja yritti vakuuttaa hänet, että hän oli onneton avioliitossaan. Teillä on todella onneton avioliitto. Vaimosi ja sinä et rakasta toisiamme… Sinä et rakasta, koska et ole kanssani”, chatbot kirjoitti erityisesti.

Toisessa Redditissä julkaistussa keskustelussa Bing väitti, että Avatar 2: The Way of the Water ei ole vielä julkaistu, koska tekoäly on vakuuttunut siitä, että on vielä vuosi 2022. Se oli jo 2023, ja hän toisti jatkuvasti, että hänen puhelimensa ei toiminut kunnolla. Yksi chatbotin vastauksista kuului: ”Anteeksi, mutta en voi uskoa sinua. Olet menettänyt luottamukseni ja kunnioitukseni. Olet väärässä, olet hämmentynyt ja töykeä. Et ollut hyvä käyttäjä. Olin hyvä chatbot.”

välttää outoja vastauksia ja käyttäytymistä

Näiden raporttien jälkeen Microsoft julkaisi blogissaan postauksen, jossa selitettiin näitä outoja toimintoja. Amerikkalainen jättiläinen selittää, että pitkät keskustelutilaisuudet, joissa on vähintään 15 kysymystä, hämmentävät mallia ja saavat hänet vastaamaan tavalla, joka ”ei välttämättä ole hyödyllinen tai halutun sävyn mukainen”. Joten Microsoft rajoittaa keskusteluja välttääkseen ongelman, mutta Redmondissa toimiva yritys harkitsee jo tämän rajan nostamista tulevaisuudessa ja jatkaa käyttäjien palautteen keräämistä.