Microsoft предлагает серверам с поддержкой FPGA увеличить скорость в конце закона Мура
Microsoft использует программируемые чипы для ускоренной реализации для ряда алгоритмов, таких как машинное обучение, сопоставление образцов и многое другое.
Дуг Бюргер (Doug Burger), исследователь компьютерных микропроцессоров в Microsoft, - это человек, который впервые придумал идею оснащения серверов Microsoft FPGA как ускорителей. Он считал, что в будущем гигантским интернет-компаниям необходимо будет спроектировать как свое программное обеспечение, так и аппаратное обеспечение для удовлетворения требований будущих сложных алгоритмов. И производители оборудования в мире не собирались строить то, что нужно Microsoft.
ASIC, FPGA или программное обеспечение на общем чипе "// www.microsoft.com/en-us/research/project/project-catapult/" target = "_ blank"> Катапульта, которая использует скорость и гибкость ПЛИС для повышения эффективности серверов Microsoft. Хотя Microsoft разрабатывает программное обеспечение уже более 40 лет, у него не было инженеров и инструментов для разработки собственных серверов. Сначала проект не приветствовал тепло; однако Burger и Qi Lu, которые управляют Bing, наконец-то смогли убедить своего босса начать работу над Catapult
Project Catapult для быстрого и эффективного внедрения алгоритмов AI. Изображение предоставлено Microsoft
После того, как эксперименты подтвердили, что датацентры на базе ПЛИС могут ускорить определенный алгоритм машинного обучения в 40 раз, Microsoft объявила о оснащении Bing технологией в 2014 году.
В настоящее время программируемые чипы используются Bing для выполнения части алгоритма ранжирования на оборудовании, а не на программном обеспечении. В ближайшем будущем аппаратное обеспечение будет внедрять глубокие алгоритмы нейронной сети, чтобы значительно ускорить процесс поиска Bing. Следовательно, Bing будет быстрее, возвращая более релевантные результаты, принимая во внимание более широкий спектр источников.
В то время как стоимость Catapult составляет менее 30% всего оборудования, используемого на сервере, и оно сжигает менее 10% общей мощности, оно ускоряет обработку данных в два раза.
Все интернет-гиганты - Google, Amazon, Baidu и т. Д. - так или иначе следуют аналогичному направлению: добавление дополнительных фишек к их серверам, чтобы они могли адаптировать свои системы с быстро меняющимися алгоритмами.
Например, Google прибегает к чрезмерно дорогому решению ASIC, чтобы предложить более высокую скорость. Чипы Google, называемые тензорными процессорами или ТПУ, приносят гибкость, чтобы минимизировать время выполнения алгоритмов нейронной сети. Однако в тот день, когда Google придумает новую модель нейронной сети, компании нужно будет создать новый чип.
Новая технология смягчает закон конца Мура
Как заметил закон Мура, мы пользовались все более быстрыми и более доступными процессорами в течение длительного времени. Однако за последнее десятилетие мы стали свидетелями замедления роста производительности ЦП. Это разочаровывало многих из производителей компьютеров руководителям центров обработки данных.
Чтобы обойти эту тенденцию, исследователи Microsoft не интересовались дополнительными улучшениями. Они искали радикальные перемены. Они решили разработать часть алгоритмов FPGA и получить некоторые улучшения скорости по сравнению с CPU общего назначения. Другими словами, они выгрузили некоторую вычислительную нагрузку алгоритмов из медленного центрального процессора на быстрые ПЛИС специального назначения.
Поскольку FPGA не новы, люди обычно недооценивают свой потенциал. Вот почему, до Катапульта проекта, никто всерьез не рассматривал использование ПЛИС в больших масштабах для облачных вычислений. Лу считает, что технология на базе FPGA позволит Microsoft значительно расширить свою вычислительную мощность до 2030 года. Он отмечает, что после 2030 года очень вероятно, что сверхбыстрые компьютеры с квантовыми возможностями будут доступны.
FPGA могут принести пользу другим службам Microsoft
С успехом Bing в 2014 году Microsoft позже решила использовать аналогичную технологию в Azure, облачной вычислительной службе компании и Office 365. У каждой из этих служб есть разные узкие места и приоритеты. Bing полагается на технологию для облегчения новых алгоритмов AI. Острая проблема Azure - сетевой трафик, поэтому была предложена модифицированная версия технологии для маршрутизации данных. Office 365 использует новую схему для выполнения алгоритмов шифрования, дешифрования и машинного обучения.
Дерек Чиу, менеджер по разработке аппаратного обеспечения партнеров Microsoft, объясняет, что использование FPGA у входной двери может привести к более быстрой и надежной сети. Далее он поясняет, что, когда мы идем в банк, чтобы снять деньги, мы идем к кассиру, а не к менеджеру. Аналогично, ПЛИС выгружает ненужное вычислительное бремя от основного процессора.
Считается, что в будущем каждый новый сервер Microsoft будет оснащен технологией.
Команды команды Catapult, слева, Адриан Колфилд, Дуг Бургер, Эндрю Путнэм, Эрик Чунг и Ситарам Ланка. Изображение предоставлено Microsoft
Технология Microsoft оказала значительное влияние на рынок ПЛИС. В прошлом году Intel приобрела Altera за $ 16, 7 млрд. Компания планирует использовать ПЛИС Altera во многих приложениях, таких как автомобили, роботы, беспилотные летательные аппараты и многое другое.
Тем не менее, Диана Брайант, исполнительный вице-президент Intel, отмечает, что изменения на рынке FPGA убедили Intel приобрести Altera. Она считает, что треть всех серверов в мире скоро будет использовать FPGA в качестве ускорителей.
Подробное объяснение того, как использовать ПЛИС в качестве ускорителей в облачных вычислениях, можно найти в документе, опубликованном исследовательской группой Microsoft.