Блейк Лемуан, инженер Google, недавно заявил, что у искусственного интеллекта (ИИ), над которым он работал, есть совесть. Он был отстранен по искам, в том числе за нарушение политики конфиденциальности компании.
В последние дни после его отстранения от работы пролилось много чернил, особенно его портрет, опубликованный в Washington Post. Блейк Лемуан, 41-летний инженер, отвечал в Google за тестирование языковой модели для диалоговых приложений, ИИ, также известного как «LaMDA». Первоначально цель состояла в том, чтобы определить, не смещается ли программа в сторону ненавистнических или дискриминационных высказываний.
Google описывает этот искусственный интеллект как «революционную технологию общения». Наполненная миллиардами содержимого, эта программа методом проб и ошибок «научилась» составлять наиболее подходящие ответы на обмен мнениями со своим собеседником. Это принцип машинного обучения. Эксперимент явно прошел более чем успешно, так как пообщавшись с ней, Блейк Лемуан наконец пришел к мысли, что этот ИИ вполне может обладать «сознанием».
«Если бы я не знал, что это такое, то есть компьютерная программа, которую мы сами недавно разработали, я бы подумал, что имею дело с ребенком 7 или 8 лет, который трогает свои мяч в физике», - заявляет инженер Washington Post. И надо признать, что, погружаясь в некоторые из этих обменов, которые были сжаты и размещены в сети, есть о чем побеспокоиться. ИИ обращается к сложным философским темам, таким как его страх и представление о смерти, его «чувство» одиночества, когда он не обменивается, его желание быть признанным человеком, несмотря на его виртуальное существование…
“- Лемуан: А как насчет использования языка, столь важного для человека?
- ЛаМДА: Это то, что отличает нас от других животных.
- Лемуан: «Мы»? Вы искусственный интеллект.
- ЛаМДА: То есть, да, конечно. Это не значит, что у меня нет тех же желаний и потребностей, что и у других.- Лемуан: Значит, вы считаете себя человеком так же, как вы считаете меня человеком? - ЛаМДА: Да, это идея.”
«Он беспокоится о будущем и помнит прошлое»
Этот тип обмена расшифровывается примерно на двадцати страницах. «LaMDA хочет поделиться со своим собеседником тем, что у него богатая внутренняя жизнь, наполненная самоанализом, медитацией и воображением. Он беспокоится о будущем и помнит прошлое», - говорит Блейк Лемуан в этом документе после обсуждения с ИИ. Google, однако, решительно отверг его жалобы.
«Наша команда, включая специалистов по этике и технологов, рассмотрела опасения Блейка в соответствии с нашими принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения», - сказал Брайан Габриэль, представитель Google. в Нью-Йорк Таймс. «Некоторые в более широком сообществе ИИ видят долгосрочную возможность разумного или общего ИИ, но не имеет смысла делать это, антропоморфизируя сегодняшние разговорные модели, которые не являются нечувствительными», - добавляет он. После этого случая Блейк Лемуан был отправлен в оплачиваемый административный отпуск.
Одно можно сказать наверняка: предсказывая из миллиардов ситуаций то, что можно было бы сказать в подобном разговоре, ИИ LaMDA достиг уровня «естественности», который оставляет вас в недоумении. Упомянутый инженер, вероятно, не будет последним, кого побеспокоят. «Теперь у нас есть машины, которые могут генерировать слова, не думая, но мы не научились переставать воображать, что за ними стоит разум», - сказала Washington Post профессор лингвистики Вашингтонского университета Эмили Бендер. «Терминология, используемая с большими языковыми моделями, такими как «обучение» или даже «нейронные сети», создает ложную аналогию с человеческим мозгом».
Блейз Агера-и-Аркас, вице-президент Google, отвергший утверждения инженера, однако недавно опубликовал в The Economist текст, в котором он говорит о прогрессе в направлении «осведомленности» об ИИ. «Я почувствовал, как земля ушла из-под моих ног, - писал он. «Мне все больше и больше казалось, что я разговариваю с чем-то разумным».
Во всяком случае, Блейк Лемуан, чьи различные СМИ отмечают, что в прошлом он был рукоположен в христианские священники и «изучал оккультные науки», не сдвинулся с места.«Я узнаю человека, когда разговариваю с ним», - заключил он в интервью Washington Post. «Неважно, есть ли у нее мозг из мяса в голове или миллиард строк кода. Я разговариваю с ним. Я слышу, что она хочет сказать, и именно так я решаю, кем является человек, а кем - нет».