За свою карьеру, насчитывающую несколько десятилетий, исследователь искусственного интеллекта и профессор Стюарт Рассел поделился обширными знаниями по этому вопросу, включая основополагающие учебники. Он присоединился к нам на сцене TC Sessions: Robotics + AI, чтобы обсудить угрозу, которую он видит в ИИ, и свою книгу, в которой предлагается новое решение.
Тезис Рассела, который он развивает в «Совместимость с человеком: искусственный интеллект и проблема управления», заключается в том, что область ИИ была разработана на ложной предпосылке, что мы можем успешно определить цели, ради которых работают эти системы., и в результате чем они мощнее, тем хуже они способны. Никто на самом деле не думает, что искусственный интеллект, делающий скрепки, будет потреблять Землю, чтобы максимизировать производство, но алгоритм предотвращения преступлений может очень легко взять плохо составленные данные и цели и превратить их в рекомендации, которые причинят реальный вред.
Решение, предлагает Рассел, заключается в создании систем, которые не так уверены в себе - по сути, зная то, чего они не знают или не могут знать, и обращаясь за помощью к людям.
Интервью было слегка отредактировано. Мои замечания, хотя и не относящиеся к делу, сохранены для контекста.
TechCrunch: Что ж, спасибо, что присоединились к нам сегодня. Вы написали книгу. Поздравляю. На самом деле, вы на самом деле долгое время были исследователем и автором ИИ, учителем. Вы видели это, область ИИ как бы вышла из нишевой области, в которой работали ученые, в глобальный приоритет в частной промышленности. Но меня несколько удивил тезис вашей книги; вы действительно считаете, что нынешний подход к ИИ в корне ошибочен?
Stuart Russell: Итак, позвольте мне вернуть вас немного назад, еще до того, как я начал заниматься ИИ. Итак, Алан Тьюринг, который, как вы все знаете, является отцом информатики - вот почему мы здесь - он написал очень известную статью в 1950 году под названием «Вычислительные машины и разум», вот откуда взялся тест Тьюринга. Он изложил множество различных подразделов ИИ, он предположил, что нам нужно будет использовать машинное обучение для создания достаточно интеллектуальных программ.