ИИ продолжает обыгрывать людей в Доту

Искусственный интеллект снова играл с людьми в Dota 2 и снова победил. На этот раз нейронные сети «сделали» полупрофессиональную команду со счётом 2:1. Создатели ИИ намерены участвовать в крупнейшем чемпионате The International и выиграть у лучших игроков. Некоторые — в том числе, поверженные соперники — считают, что им это удастся.

Dota 2 — это командная тактико-стратегическая игра (жанр ещё называют «многопользовательская онлайновая боевая арена» или MOBA) с элементами РПГ от Valve Corporation. В ходе матча две команды из пяти игроков управляют персонажами, которых называют «героями», и пытаются разрушить базы друг друга. В процессе они сражаются с монстрами, копят игровой опыт, покупают предметы и уничтожают защитные башни соперника.

Специалисты некоммерческой организации OpenAI, которую спонсируют Илон Маск и Питер Тиль, пытаются разработать сильный (и при этом безопасный) искусственный интеллект — то есть такой ИИ, который сможет решать не одну, а неограниченно широкий спектр задач, совсем как человек. Они считают, что сложные видеоигры подходят для тренировки такого интеллекта гораздо лучше, чем шахматы или даже Го. Dota 2 от настольных игр отличает несколько важных черт:

  • Длинный горизонт планирования. Большинство шахматных партий завершается за 40 ходов, партии в Го — за 150. При этом в настольных играх каждый ход стратегически важен. Матч в Dota длится около 45 минут, кадровая частота — примерно 30 кадров в секунду, а нейронные сети OpenAI отслеживают каждый четвёртый кадр. Таким образом, в их распоряжении — около 20 000 «ходов», причём некоторые играют важную роль в развитии матча, а множество других (например, перемещение из точки А в точку Б) на нём практически не сказывается. Есть и стратегии, которые разворачиваются на протяжении всей игры — их тоже нужно учитывать.
  • Частично закрытое игровое поле. Герои «видят» лишь ту часть карты, что их окружает. Всё остальное покрыто «туманом войны», который скрывает другие юниты. Игрокам приходится действовать в условиях недостатка информации, догадываясь, где находятся враги. Для сравнения, и в шахматах, и в Го игровое поле постоянно открыто для всех.
  • Большой простор действий. Героям в Dota доступны десятки действий, всего специалисты OpenAI насчитали 170 000 вариантов на персонажа (их, напомним, в команде 5), в то время как в шахматах на каждом ходе около 35 допустимых ходов (в Го их 250).
  • Много информации и огромная карта. В Dota битвы разворачиваются на больших пространствах с десятками зданий и NPC, а также со специальными усилителями — рунами. Всю эту информацию нужно отслеживать и учитывать во время матча. В шахматах же игроки имеют дело с доской 8×8 и 6 типами фигур.

Несмотря на всю сложность задачи, сотрудники OpenAI превратили нейронные сети в неплохих киберспортсменов. Их заставили играть друг с другом, и методом проб, ошибок и постоянного совершенствования система научилась сражаться сначала в режиме 1 на 1, затем 5 на 5. Но не пытайтесь повторить это дома: система, созданная для игры, состоит из 128 000 графических ядер, а ИИ в течение долгого времени «тренировался» по 180 игровых лет ежедневно.

Искусственный интеллект догоняет людей с ужасающей быстротой. В прошлом году он побеждал лучших в режиме один на один, а теперь пять нейросетей «OpenAI Five» управляют пятью героями и бьются в классическом командном режиме. 5 августа 2018 года ИИ боролся с полупрофессионалами и одержал победу со счётом 2:1. В ходе последнего матча создатели OpenAI Five позволили зрителям самим выбрать героев для нейронных сетей. В Dota 2 герои обладают разными способностями, и подбираются так, чтобы игроки одной команды как можно лучше дополняли друг друга и могли эффективно противостоять сопернику. Поэтому выбор заранее невыгодной комбинации (зрители, очевидно, не желали проигрывать машинам) подорвал шансы ИИ на победу. Комментируя успехи нейросетей, сотрудник OpenAI Дэвид Фархи (David Farhi) отметил: «Похоже, когда происходит что-то неожиданное, они пока что реагируют быстрее людей».

Специалисты по ИИ намерены обыграть лучших из лучших на крупнейшем турнире The International, который начнётся уже вот-вот — 20 августа. Удастся ли им это? Уильям ‘Blitz’ Ли играл на стороне людей в последнем матче и считает, что у нейросетей есть все шансы. «Я буду верить в них и на самом деле думаю, что они победят профессиональную команду», — говорит он.

Юлия Коровски :