Порабощенный бог-машина
Системы искусственного интеллекта становятся все более и более мощными. Компьютеры теперь лучше любого человека играют в шахматы, покер и го, и всем интересно, какой бастион человеческой мысли падет следующим. Google недавно разработал искусственный интеллект для обработки изображений, который, в свою очередь, создал ИИ. Поскольку высококвалифицированные разработчики программного обеспечения редко встречаются на рынке труда, искусственный интеллект должен программировать сам себя. Какое влияние это оказывает на мир труда? Каковы пределы развития?
Это лишь некоторые из вопросов, на которые физик Массачусетского технологического института Макс Тегмарк пытается ответить в своей новой книге «Жизнь 3.0». Как следует из названия, автор выбирает глобально-исторический подход к теме. В материалистической традиции Рэя Курцвейла Тегмарк делит эволюцию на три этапа. Он понимает биологическую стадию (жизнь 1.0) как процесс, в ходе которого эволюция производит аппаратное и программное обеспечение. На культурном уровне (жизнь 2.0) аппаратное обеспечение развивается, в то время как программное обеспечение развивается само. Наконец, на технологическом уровне (Жизнь 3.0) аппаратное и программное обеспечение сконструировали сами себя. «Ни одно живое существо, - объясняет Тегмарк, - не достигает продолжительности жизни в миллион лет, никто не может вспомнить общий объем Википедии, изучить все известные науки или one Путешествие в космос без космического корабля». Чтобы достичь всего этого, жизнь должна сделать «последний апгрейд» и перейти к Жизни 3.0. «Другими словами, Жизнь 3.0 управится со своей судьбой и, наконец, полностью освободится от своих эволюционных оков».
Предвкушение послезавтра
Тегмарк мыслит космическими масштабами, он охватывает широкий спектр. По своей экзегезе и смелости книга напоминает работу Юваля Ноя Харари «Homo Deus» (обзор здесь), из которой она явно была вдохновлена - израильский универсальный историк дал рекомендацию к прочтению в «Financial Times». Однако, в отличие от Харари, Тегмарк рассказывает историю не из завтрашнего дня, а из послезавтра. Автор экстраполирует текущие разработки в области искусственного интеллекта в различных сферах жизни общества - таких как автоматизированные системы оружия в армии или роботы-судьи в судебной системе - на следующие 10 000 лет и на этой основе разрабатывает сценарии того, как человечество могло бы развиваться в этот период.
Была бы либертарианская утопия, в которой люди, киборги, загрузки и сверхразумы мирно сосуществуют вместе на основе прав собственности. Есть «доброжелательный диктатор», машина, при которой люди больше не имеют никакого контроля, но живут в безопасности. Наконец, «порабощенный бог», сверхразум, содержащийся в людях, производит невообразимое богатство и технологические системы, которые можно использовать во благо или во зло по прихоти людей-контролеров. Есть и пессимистический сценарий самоуничтожения, при котором сверхразум никогда не будет создан, потому что человечество само себя уничтожит - ядерным или биотехническим хаосом.
Свободный от алармизма
В своих «Сценариях последствий ИИ» автор поднимает множество технико-философских вопросов, таких как: Должны ли люди или машины управлять? Должен ли искусственный интеллект быть сознательным или нет? Должны ли люди продолжать существовать, быть заменены киборгами и/или трансформироваться или симулироваться с помощью загрузок?
Что положительно выделяется при чтении книги: автор не дает оценки этим этическим вопросам, а ставит их открыто. Его тон прозаичен, прозаичен и лишен какой-либо паники. В отличие от Курцвейла, который часто рассуждает аподиктично, Тегмарк представляет свои будущие сценарии не как неизменность, а как пространство возможностей, которое можно формировать. На нынешнем этапе развития люди все еще могут задавать курс - им просто нужно принять решение. В нем также можно прочитать скрытую критику программистов, которые часто прикрываются аналитической формулой «решения проблем», но не разрабатывают никаких устойчивых моделей общества.
ИИ изменит социальные иерархии, может быть, даже реструктурирует их - в этом Тегмарк не оставляет сомнений. Его книга представляет собой ясный, хотя и не всегда поучительный обзор. Только заключительная глава о теориях сознания и несколько намеков на участников конференции, которые, вероятно, известны только посвященным, были бы излишними. В остальном это чрезвычайно успешная работа, которая служит читателю компасом в испытаниях и невзгодах искусственного интеллекта.