В фильме «2010», пытаясь спасти миссию на Юпитер, компьютер Hal 9000 отметил: «Мне нравится работать с людьми, и у меня стимулирующие отношения с ними».
Ну, 2010 год не за горами, и, как обычно, Голливуд немного опередил свое время - но в данном случае ненамного. Исследователи Орегонского государственного университета разрабатывают концепцию «богатого взаимодействия» - компьютеры, которые на самом деле хотят общаться, учиться и лучше узнавать вас как личность.
Идея этого «значимого» взаимодействия - одно из последних достижений в области машинного обучения и искусственного интеллекта, в котором компьютер не просто пытается учиться на собственном опыте, он слушает пользователя, пытается сочетать то, что он «слышит», со своими внутренними рассуждениями и в результате меняет свою программу. Когда обычные пользователи обнаруживают ошибки машины, они должны иметь возможность вмешаться и объяснить машине логику, которую она должна использовать.
«Существуют пределы того, что компьютер может делать только своими собственными наблюдениями и попытками учиться на собственном опыте», - сказала Маргарет Бернетт, доцент кафедры компьютерных наук Университета штата Орегон. «Он должен понимать не только, что он сделал правильно или неправильно, но и почему. А для этого он должен продолжать взаимодействовать с людьми и вносить постоянные изменения в свои собственные программы, основываясь на их отзывах».
Исследователи OSU говорят, что многие передовые системы обучения начинают обучаться в тот момент, когда они доставляются на рабочий стол конечного пользователя, чтобы настроить себя под конечного пользователя. Подобные системы лежат в основе спам-фильтров на персональных компьютерах, сортировки электронной почты, рекомендаций продуктов: «Если вам понравилась эта книга, вот еще одна, которая может вас заинтересовать».
Многие из этих систем основаны на статистике слов, установленных правилах, сходствах и других подобных подходах. Но даже самые передовые системы позволяют пользователю только сказать компьютеру, что что-то правильно или неправильно. Пользователя никогда не просят объяснить, в чем заключается настоящая проблема.
Возьмем нигерийскую аферу с деньгами, форму спама, настолько распространенную, что почти каждый, кто когда-либо пользовался электронной почтой, получал жалобный запрос от кого-то, кто только что потерял своего богатого дядю и спрятал несколько миллионов долларов, нуждаясь только в полезном и сдержанный друг, чтобы получить его в безопасный банк. Помоги мне, и мы поделим деньги, умоляет твой новый «друг».
Теперь эта афера настолько распространена, что большинство компьютерных спам-фильтров немедленно обнаружат ее и отправят в нежелательную почту, возможно, потому, что они увидели слова «Нигерия» и «деньги» в одном и том же сообщении. Но что, если получатель регулярно получал электронную почту от друга из Нигерии, который является законным банкиром? Это не спам, но как объяснить это компьютеру?
«В таком случае мы хотим разработать алгоритмы, которые позволят конечному пользователю спрашивать компьютер, почему он что-то сделал, читать его ответ, а затем объяснять, почему это была ошибка», - сказал Венг-Кин. Вонг, доцент кафедры компьютерных наук ОГУ. «В идеале компьютер рассмотрит ответ и изменит свою программу, чтобы работать лучше в будущем. Это похоже на отладку программы».
Чтобы компьютер был оптимальным помощником для пользователя, говорят исследователи, он должен подстраиваться под конечного пользователя и становиться более персональным.
«У всех нас есть довольно специфический жизненный опыт, личные предпочтения, способы ведения дел, разные виды работы», - сказал Бернетт. «Чтобы машинное обучение реализовало свой потенциал, компьютер и пользователь должны взаимодействовать друг с другом достаточно осмысленным образом, компьютеру действительно нужно узнать ваши ситуации и понять, почему он допустил ошибку, чтобы попытаться не ошибиться. повторить ту же ошибку."
Основная часть этой задачи, по словам ученых, заключается в создании интерактивных систем, которые достаточно просты в эксплуатации, чтобы вам не нужно было быть программистом. Это должно быть возможно, сказали они.
И стоит отметить, говорят ученые, что не всегда человек является учителем. В одном исследовании пользователи не соглашались с действиями компьютера в 28% случаев. Примерно в четверти этих случаев компьютер был на самом деле прав, а пользователь ошибался. Обучение может быть улицей с двусторонним движением, и это также представляет собой одну из проблем. Упрямый пользователь-человек может настаивать на том, чтобы компьютер «выучил» что-то неправильное.
OSU является одним из лидеров в этой области исследований «богатого руководства» и имеет несколько недавних публикаций о достижениях в этой области, в том числе одну в Международном журнале исследований человека и компьютера и три на конференции ACM по Интеллектуальные пользовательские интерфейсы. В исследованиях участвует Симона Штумпф, исследователь OSU в течение нескольких лет, а в настоящее время преподаватель Лондонского городского университета. Студенты OSU помогают разрабатывать новейшие подходы, а исследователи также недавно получили трехлетний грант в размере 1 млн долларов от Национального научного фонда для продолжения исследований.
Эпоха людей как пассивных наблюдателей в области искусственного интеллекта, по словам исследователей, может подойти к концу.
«Мы считаем, что в будущем компьютер должен стать вашим партнером», - сказал Бернетт. «Вы помогаете обучать его, он узнает вас, вы учитесь друг у друга, и он становится более полезным».