Издание MIT Technology Review проанализировало 16625 статей из раздела artificial intelligence базы данных препринтов научных статей arXiv.org, чтобы понять, как развивались разработки в области искусственного интеллекта и какие направления будут популярны в ближайшее время.
Большинство достижений в области искусственного интеллекта сегодня относятся к глубокому обучению: медицина, робототехника, автономные автомобили. Но некоторые учёные полагают, что Deep learning (глубокое обучение) — это короткая тенденция, которая вскоре пойдёт на спад и откроет дорогу другим методам.
Стоит отметить, что публикация работ об ИИ на arXiv началась в 1993-м, в то время как термин artificial intelligence относится к 50-м годам. Кроме того, статьи в базе — только часть всех работ по данной теме. Однако это хороший источник для выявления тенденций развития отрасли.
Исследование выявило три основных тренда:
- рост популярности машинного обучения в конце 90-х — начале 2000-х;
- развитие нейронных сетей в 2010-х;
- недавний рост числа разработок, основанных на обучении с подкреплением.
Популярность машинного обучения
В 1980-е годы учёные были сосредоточены на идее, что можно соединить и закодировать все знания человечества в систему правил и обучить искусственный интеллект здравому смыслу. Однако сообщество столкнулось с ограничениями: правил оказалось очень много, и закодировать их вручную было невозможно. После этого начался рост популярности машинного обучения. Разработчики решили запрограммировать машины, чтобы те самостоятельно извлекали закономерности из больших данных.
Нейронные сети
В нулевых учёные тестировали разные методы обучения нейросетей. Байесовские сети, метод опорных векторов, эволюционные алгоритмы тоже были популярными и конкурировали между собой.
Все изменилось в октябре 2012-го. Алгоритм, разработанный Джеффри Хинтоном (Geoffrey Hinton) и командой при поддержке Google, достиг высокой точности в задаче классификации 1000 объектов на фотографиях на конкурсе ImageNet. Команда использовала методы глубокого обучения и свёрточные нейронные сети. Таким образом, популярность этих методов быстро выросла.
Как менялось количество работ на arXiv.org по каждому направлению с течением времени. Интерактивный график — https://www.technologyreview.com/s/612768/we-analyzed-16625-papers-to-figure-out-where-ai-is-headed-next/
Последняя тенденция — обучение с подкреплением
Последний перелом в научном сообществе произошёл в 2015 году. Одинаково популярными были три подхода к обучению нейронных сетей: обучение с учителем, без учителя и обучение с подкреплением. Однако после того как алгоритм AlphaGo от DeepMind победил чемпиона мира по игре в го, используя обучение с подкреплением, в сообществе сразу наметился перекос в сторону роста исследований по этой теме.
Следующее десятилетие
Исследование показывает, как некоторые непопулярные подходы в одно мгновение становились самыми используемыми, благодаря внезапным вспышкам достижений. Нейронные сети доминировали в 60-х, после чего стали популярными вновь в 2010-х. Концепция «здравого смысла» была популярна в 1980-х, но сейчас некоторые учёные тоже к ней обращаются. Байесовские сети доминировали в 1990-х, а опорные векторы — в 2000-х.
В MIT (Massachusetts Institute of Technology) полагают, что 2020-е продолжат эту тенденцию. Это означает, что популярность методов deep learning уменьшится и на смену им придут новые разработки или переосмысленные методы из прошлого. Но пока у исследователей нет ответа, какие именно подходы способны заменить глубокое обучение. Сегодня этот вопрос вызывает ожесточённые споры.
