Žmogus įveikė dirbtinį intelektą žaisdamas… su kompiuteriu

Žaidėjui pavyksta nugalėti vieną geriausių žaidimo AI dėl pažeidžiamumo, kurį atrado kitas AI.

Mėgėjiškas, bet labai patyręs Go žaidėjas įveikė labai galingą dirbtinio intelekto sistemą. Pasak „The Verge“, šis žygdarbis buvo įmanomas dėl pažeidžiamumo, kurį aptiko kitas kompiuteris. Pasinaudojęs šiuo trūkumu, amerikiečių žaidėjas Kellin Pelrin sugebėjo nugalėti KataGo sistemą ir laimėti 14 žaidimų iš 15 be papildomos kompiuterinės sąjungininkės pagalbos. Tai vienas iš nedaugelio žmonių laimėjimų nuo AlphaGo 2016 m., padėjusių nutiesti kelią dabartiniam AI siautumui. Tai taip pat rodo, kad net pažangiausi AI algoritmai gali turėti aklųjų taškų.

Žmogaus žaidėjas sugeba įveikti vieną geriausių visų laikų AI žaidimų

Kellin Pelrin pergalė tapo įmanoma dėl specializuotos tyrimų bendrovės FAR AI, kuri sukūrė programą KataGo trūkumams nustatyti. Sužaidus milijoną žaidimų, ši programinė įranga sugebėjo rasti trūkumą, kurį galėtų išnaudoti pakankamai kvalifikuotas žaidėjas. Tai „ne visai nereikšminga, bet ir nėra labai sunku“, – sakė Kellin Pelrin. Vyras naudojo tą patį metodą, kad nugalėtų Leela Zero, kitą labai pažengusį Go-AI.

Štai kaip tai veikia: Tikslas yra sukurti didelę uolų „kilpą“, kuri apsuptų priešininkų grupę, o tada atitrauktų kompiuterio dėmesį judant į kitas lentos vietas. Net kai jo grupė buvo beveik apsupta, AI nepastebėjo šios strategijos. „Žmogui būtų gana lengva pastebėti“, – sakė Kellin Pelrin, kai lentoje aiškiai matomos aplinkinės uolos.

dėka pažeidžiamumo, kurį atrado kitas dirbtinis intelektas

Šis trūkumas rodo, kad dirbtinio intelekto sistemos negali „mąstyti“ už savo mokymosi ribų. Tada jie dažnai daro dalykus, kurie, žmonių nuomone, yra visiškai kvaili. Tai jau matėme su tokiais pokalbių robotais kaip „Microsoft“ savo „Bing“ paieškos sistemoje. Nors sistema gana gerai atlieka paprastas pasikartojančias užduotis, pavyzdžiui, nubrėžia maršrutą, ji išspjauna melagingą informaciją, priekaištauja naudotojams už laiko švaistymą ir netgi demonstruoja „nesubalansuotą“ elgesį – greičiausiai dėl šablono, pagal kurį buvo išmokyta.

„Lightvector“, „KataGo“ kūrėjas, tikriausiai žino apie šį pažeidžiamumą, kuriuo žaidėjai naudojasi jau kelis mėnesius. „GitHub“ įraše bendrovė paaiškina, kad ji stengiasi išspręsti kelių tipų tokio pobūdžio atakas.