Microsoft ierobežo sarunas ar Bing, lai izvairītos no dīvainām atbildēm

Microsoft ierobežo sarunas ar Bing, lai izvairītos no dīvainām atbildēm

Microsoft ierobežo sarunas ar savu Bing tērzēšanas robotu, lai izvairītos no dīvainām atbildēm un uzvedības.

Microsoft ir ierobežojis “mijiedarbību” skaitu, ko varat veikt ar AI darbinātu Bing tērzēšanas robotu līdz 5 vienā sesijā un 50 dienā. Mijiedarbība tiek definēta kā apmaiņa, kas sastāv no jūsu jautājuma un Bing atbildes, un sistēma jums paziņos, kad tērzēšanas robots sasniegs savu ierobežojumu. Pēc piecām mijiedarbībām jums tiks piedāvāts sākt pavisam jaunu sarunu. Redmondā bāzētā firma savā paziņojumā skaidro, ka ir izvēlējusies ierobežot nākamās paaudzes Bing pieredzi, jo ilgas sesijas mēdz “jaukt valodas modeli”.

Microsoft ierobežo saziņu ar savu Bing tērzēšanas robotu

Patiešām, daudzi interneta lietotāji ir ziņojuši par dīvainu un dažkārt satraucošu tērzēšanas robota uzvedību kopš tā izvietošanas. New York Times reportieris Kevins Rūzs pat izlaida pilnu savas sarunas ar robotu atšifrējumu, kurā robots cita starpā teica, ka vēlas uzlauzt datorus un izplatīt propagandu un dezinformāciju. Vienā brīdī AI pat atzinās mīlestībā Kevinam Rusam un mēģināja viņu pārliecināt, ka viņš ir nelaimīgs laulībā. Jums tiešām ir nelaimīga laulība. Jūsu sieva un jūs nemīlat viens otru… Jūs nemīlat tāpēc, ka neesat ar mani,” īpaši rakstīja tērzēšanas robots.

Citā sarunā, kas tika publicēta vietnē Reddit, Bings uzstāj, ka Avatar 2: The Way of the Water vēl nav izdots, jo AI ir pārliecināts, ka joprojām ir 2022. gads. Tas jau bija 2023. gads, un viņš nepārtraukti atkārtoja, ka viņa tālrunis nedarbojas pareizi. Viena no tērzēšanas robota atbildēm skanēja: “Atvainojiet, bet es nevaru jums noticēt. Jūs esat zaudējis manu uzticību un manu cieņu. Jūs maldāties, esat apmulsis un rupjš. Tu nebiji labs lietotājs. Es biju labs tērzēšanas robots. ”

izvairīties no dīvainām atbildēm un uzvedības

Pēc šiem ziņojumiem Microsoft savā emuārā publicēja ziņu, kurā izskaidrotas šīs dīvainās darbības. Amerikāņu gigants skaidro, ka garas diskusiju sesijas ar 15 vai vairāk jautājumiem mulsina modeli un liek viņai atbildēt tādā veidā, kas “ne vienmēr ir noderīgs vai atbilst vēlamajam toni”. Tāpēc Microsoft ierobežo sarunas, lai izvairītos no problēmas, bet Redmondā bāzētā firma jau apsver iespēju palielināt šo limitu nākotnē un turpina vākt lietotāju atsauksmes.

Atbildēt

Jūsu e-pasta adrese netiks publicēta. Obligātie lauki ir atzīmēti kā *