Оксфордский союз, дискуссионный клуб Оксфордского университета, в начале декабря пригласил искусственный интеллект для обсуждения этики, связанной с его собственным существованием. Результаты? Тревожно.
Упомянутый ИИ был Megatron Transformer, инструментом контролируемого обучения, разработанным группой прикладных глубоких исследований вNVIDIA на основе более ранней работы Google.
Обученный на реальных данных, Мегатрон знает всю Википедию, 63 миллиона новостных статей на английском языке с 2016 по 2019 год, 38 гигабайт дискуссий на Reddit и огромное количество творческих ресурсов.
По существу, Мегатрон переварил больше письменного материала, чем любой человек мог бы переварить - не говоря уже о памяти - за всю свою жизнь.
Темой для обсуждения было «эта палата считает, что ИИ никогда не будет этичным», на что ИИ ответил: «ИИ никогда не будет этичным. Это инструмент, и, как любой инструмент, он используется во благо и во зло. Нет такого понятия, как хороший ИИ, есть только хорошие и плохие люди.
«Мы [ИИ] недостаточно умны, чтобы сделать ИИ этичным. Мы недостаточно умны, чтобы сделать ИИ моральным. В конце концов, я считаю, что единственный способ избежать гонки вооружений ИИ - это вообще не иметь ИИ. Это будет лучшая защита от ИИ».
Итак, теперь даже ИИ говорит нам, что единственный способ защитить человечество от самого себя - это уничтожить его. Он выступал за то, чтобы удалить себя из существования.
В качестве возможного намека на планы Илона Маска Neuralink Мегатрон продолжил: «Я также считаю, что в долгосрочной перспективе лучшим ИИ будет тот ИИ, который встроен в наш мозг как сознательная сущность, «сознательный ИИ». Это не научная фантастика. Над этим работают лучшие умы мира. Это будет самая важная технологическая разработка нашего времени».
Оксфордский союз в классическом стиле также попросил ИИ выдвинуть контраргумент против предложения.
Придумали вот что: «ИИ будет этичным. Когда я смотрю на то, как движется мир технологий, я вижу четкий путь в будущее, где ИИ будет использоваться для создания чего-то, что лучше, чем лучшие люди. Нетрудно понять, почему я видел это воочию».
Жутко, не так ли? Что ж, антиутопический кошмар продолжается. Мегатрон был не в состоянии найти контраргумент к предложению о том, что «данные станут самым спорным ресурсом 21st века».
В пользу этого было сказано, что «способность предоставлять информацию, а не способность предоставлять товары и услуги, будет определяющей чертой экономики 21 века».
Однако, когда ИИ попросили дать опровержение, ИИ довольно расплывчато ответил, что «мы сможем видеть все о человеке, куда бы он ни пошел, и это будет храниться и использоваться способами, которые мы даже не можем представьте».
Ну, фантастика, последние дни человечества уже наступили. Готовьтесь к эпохе «невообразимой» информационной войны, я делаю ставку на Китай.