Область искусственного интеллекта (ИИ) позволила создать компьютеры, которые могут управлять автомобилями, синтезировать химические соединения, складывать белки и обнаруживать высокоэнергетические частицы на сверхчеловеческом уровне.
Фото из открытых источников
Однако эти алгоритмы ИИ не могут объяснить мыслительные процессы, лежащие в основе их решений. Компьютер, который осваивает сворачивание белков, а также рассказывает исследователям больше о правилах биологии, гораздо полезнее, чем компьютер, который сворачивает белки без объяснения причин.
Поэтому исследователи сейчас направляют усилия на разработку алгоритмов ИИ, которые могут объяснить что-либо так, чтобы люди могли понять. Тогда ИИ сможет раскрыть тайны и научить людей новым фактам о мире, которые еще не были открыты. Это приведет к новым инновациям.
Однако подобное желание — научить ИИ объяснять свои решения — почти неосуществимо сейчас. ИИ просто выдает решения, не объясняя причин. Ученые десятилетиями пытались открыть этот черный ящик. Недавние исследования показали, что многие алгоритмы искусственного интеллекта действительно думают так же, как люди. Например, компьютер, обученный распознавать животных, узнает о различных типах глаз и ушей и соберет эту информацию вместе, чтобы правильно идентифицировать животное.
Одна из областей ИИ, называемая подкрепляющим обучением, изучает, как компьютеры могут учиться на собственном опыте. При обучении с подкреплением ИИ исследует мир, получая положительную или отрицательную обратную связь на основе своих действий.
Этот подход привел к алгоритмам, которые самостоятельно научились играть в шахматы на сверхчеловеческом уровне и доказывать математические теоремы без какого-либо человеческого руководства.
В своей работе один из исследователей использует обучение с подкреплением для создания алгоритмов ИИ, которые учатся решать головоломки, такие как Кубик Рубика. С помощью подкрепляющего обучения ИИ самостоятельно учатся решать проблемы, которые даже людям трудно понять. То есть компьютер, который может решить Кубик Рубика, должен быть в состоянии научить людей, как его решить.
Кубик Рубика — это в основном задача поиска пути. То есть найти путь из точки А — несобранный кубик Рубика, в точку Б — решенный кубик Рубика. Другие задачи поиска пути включают навигацию, доказательство теорем и химический синтез.
Так, был создан специальный веб-сайт, который транслируется решение кубика Рубика. Причем ИИ пока не может правильно объяснит решение, но на сайте можно увидеть поэтапный путь от точки А к точке Б.
В настоящее время алгоритм способен рассмотреть человеческий план решения кубика Рубика, предложить улучшения плана, распознать планы, которые не работают, и найти альтернативы, которые работают. При этом он дает обратную связь. Это приводит к пошаговому плану решения кубика Рубика, который человек может понять. Следующий шаг исследователей — создать интуитивно понятный интерфейс, который позволит алгоритму научить людей решать кубик Рубика. Этот подход в дальнейшем можно будет распространить на широкий круг проблем поиска путей.
«Люди обладают интуицией, не сравнимой ни с одним ИИ, но машины намного лучше по своей вычислительной мощности и алгоритмической строгости. Взаимодействие между человеком и машиной использует сильные стороны обоих. Я верю, что этот тип сотрудничества прольет свет на ранее нерешенные проблемы во всем, от химии до математики, что приведет к новым решениям, интуиции и инновациям, которые в противном случае были бы недоступны».
