Чоловік переміг штучний інтелект у грі го… за допомогою комп’ютера

Людському гравцеві вдається перемогти одного з найкращих ШІ в грі завдяки вразливості, виявленій іншим ШІ.

Любитель, але дуже досвідчений гравець у Go переміг дуже потужну систему штучного інтелекту. Цей подвиг став можливим завдяки вразливості, виявленій іншим комп’ютером, повідомляє The Verge. Скориставшись цим недоліком, американський гравець Келлін Пелрін зумів перемогти систему KataGo , вигравши 14 із 15 ігор без додаткової допомоги свого комп’ютерного союзника. Це одна з небагатьох людських перемог після AlphaGo у 2016 році, яка допомогла прокласти шлях до нинішнього шаленого ШІ. Це також показує, що навіть найдосконаліші алгоритми ШІ можуть мати сліпі плями.

Людському гравцеві вдається перемогти одну з найкращих ігор зі штучним інтелектом

Перемога Келліна Пелріна стала можливою завдяки спеціалізованій дослідницькій компанії FAR AI, яка розробила програму для виявлення недоліків у KataGo. Зігравши мільйон ігор, це програмне забезпечення змогло знайти недолік, який міг використати досить досвідчений гравець. Це «не зовсім тривіально, але й не дуже важко» освоїти, сказав Келлін Пелрін. Чоловік використав той самий метод, щоб перемогти Лілу Зеро, іншу високорозвинену ШІ.

Ось як це працює: мета полягає в тому, щоб створити велику «петлю» з каменів, щоб оточити групу супротивників, а потім відволікти комп’ютер, роблячи рухи в інші частини дошки. Навіть коли його група була майже оточена, ШІ не помітив цієї стратегії. «Людині було б досить легко помітити», — сказав Келлін Пелрін, коли на дошці було чітко видно навколишні камені.

завдяки вразливості, виявленій іншим штучним інтелектом

Цей недолік демонструє, що системи ШІ не можуть «мислити» за межами свого навчання. Тоді вони часто роблять речі, які людям здаються повною дурницею. Ми вже бачили це з такими чат-ботами, як Microsoft, у їхній пошуковій системі Bing. Хоча система досить добре справляється з такими простими повторюваними завданнями, як прокладання маршруту, вона видає неправдиву інформацію, лає користувачів за марну втрату часу та навіть демонструє «незбалансовану» поведінку — швидше за все, через шаблон, на якому її навчали.

Lightvector, розробник KataGo, ймовірно, знає про цю вразливість, якою гравці користуються протягом місяців. У публікації на GitHub компанія пояснює, що працює над усуненням кількох типів атак такого роду.