Muž porazil AI ve hře go… s počítačem

Lidskému hráči se podaří porazit jednu z nejlepších AI ve hře díky zranitelnosti objevené jinou AI.

Amatérský, ale velmi zkušený hráč Go porazil velmi výkonný systém umělé inteligence. Tento výkon umožnila zranitelnost objevená jiným počítačem, uvádí The Verge. Americký hráč Kellin Pelrin využil této nevýhody a dokázal porazit systém KataGo a vyhrál 14 z 15 her bez další pomoci svého počítačového spojence. Toto je jedna z mála lidských výher od AlphaGo v roce 2016, která pomohla připravit cestu současnému šílenství AI. Ukazuje také, že i ty nejpokročilejší algoritmy AI mohou mít slepá místa.

Lidský hráč dokáže porazit jednu z nejlepších her s umělou inteligencí vůbec

Vítězství Kellina Pelrina umožnila specializovaná výzkumná společnost FAR AI, která vyvinula program na identifikaci nedostatků v KataGo. Po odehrání milionu her dokázal tento software najít chybu, kterou by mohl rozumně zručný hráč využít. „Není to úplně triviální, ale také to není příliš těžké“ zvládnout, řekl Kellin Pelrin. Muž použil stejnou metodu, aby porazil Leelu Zero, další vysoce pokročilou Go-AI.

Funguje to takto: Cílem je vytvořit velkou „smyčku“ z kamenů, která obklopí skupinu protivníků, a poté rozptýlit pozornost počítače prováděním tahů do jiných oblastí hrací desky. I když byla jeho skupina téměř obklíčena, AI si této strategie nevšimla. „Pro člověka by to bylo docela snadné spatřit,“ řekl Kellin Pelrin, když jsou na tabuli jasně vidět okolní kameny.

díky zranitelnosti objevené jinou umělou inteligencí

Tato chyba ukazuje, že systémy umělé inteligence nemohou „myslet“ nad rámec svého učení. Často pak dělají věci, o kterých si lidé myslí, že jsou úplně hloupé. Už jsme to viděli u chatbotů, jako je Microsoft, na jejich vyhledávači Bing. I když je systém docela dobrý v jednoduchých opakujících se úlohách, jako je vytyčování trasy, chrlí nepravdivé informace, nadává uživatelům za plýtvání časem a dokonce vykazuje „nevyvážené“ chování – pravděpodobně kvůli šabloně, na které byl trénován.

Lightvector, vývojář KataGo, si je pravděpodobně vědom této zranitelnosti, kterou hráči zneužívali měsíce. V příspěvku na GitHubu společnost vysvětluje, že pracuje na opravě několika typů útoků tohoto druhu.