Искусственный интеллект сегодня лежит в основе многих продуктов и услуг, но его жажда данных и вычислительных циклов бездонна. Lightmatter планирует обойти закон Мура с помощью своих сверхбыстрых фотонных чипов, предназначенных для работы с искусственным интеллектом, и с новым раундом в 80 миллионов долларов компания готова вывести на рынок свои световые вычисления.
Мы впервые рассказали о Lightmatter в 2018 году, когда основатели только что закончили Массачусетский технологический институт и собрали 11 миллионов долларов, чтобы доказать, что их идея фотонных вычислений так ценна, как они утверждали. Следующие три года они потратили на создание и усовершенствование технологии, преодолевая все препятствия, с которыми обычно сталкиваются стартапы в области аппаратного обеспечения и технические основатели.
Чтобы получить полное представление о том, что делает технология компании, прочитайте эту функцию - основы не изменились.
Короче говоря, чипы Lightmatter буквально мгновенно выполняют определенные сложные вычисления, лежащие в основе машинного обучения. Вместо использования заряда, логических элементов и транзисторов для записи и обработки данных в чипах используются фотонные схемы, которые выполняют вычисления, манипулируя путем света. Это было возможно в течение многих лет, но до недавнего времени заставить его работать в масштабе и для практических, действительно очень ценных целей, не удавалось.
От прототипа до продукта
В 2018 году, когда Lightmatter только начинала свою работу, было не совсем ясно, сможет ли эта технология продаваться для замены более традиционных вычислительных кластеров, таких как тысячи пользовательских блоков, которые такие компании, как Google и Amazon, используют для обучения своих сотрудников. ИИ.
«В принципе, мы знали, что технология должна быть отличной, но нам нужно было выяснить много деталей», - сказал в интервью TechCrunch генеральный директор и соучредитель Ник Харрис. «Нам нужно было решить множество сложных теоретических проблем в области информатики и проектирования микросхем, а COVID был чудовищем.”
Из-за того, что поставщики вышли из строя, а многие в отрасли приостановили партнерские отношения, отложили проекты и другие вещи, пандемия отстала от графика на несколько месяцев, но они оказались сильнее с другой стороны. Харрис сказал, что проблемы создания компании по производству чипов с нуля были существенными, если не неожиданными.
«Вообще то, что мы делаем, довольно безумно», - признал он. «Мы создаем компьютеры из ничего. Мы разрабатываем чип, корпус чипа, карту, на которой установлен пакет чипа, систему, в которую входят карты, и программное обеспечение, которое на нем работает. нам пришлось создать компанию, которая объединила бы весь этот опыт».
Эта компания выросла из горстки основателей до более чем 70 сотрудников в Маунтин-Вью и Бостоне, и этот рост будет продолжаться по мере вывода на рынок нового продукта.
Если несколько лет назад продукт Lightmatter был скорее хорошо информированным огонеком в глазах, то теперь он приобрел более солидную форму в Envise, который они называют «фотонным ИИ-ускорителем общего назначения».«Это серверный блок, предназначенный для размещения в обычных стойках центра обработки данных, но оснащенный несколькими фотонными вычислительными блоками, которые могут выполнять процессы логического вывода нейронной сети с ошеломляющей скоростью. (Он ограничен определенными типами вычислений, а именно линейной алгеброй, а не сложной логикой, но этот тип математики является основным компонентом процессов машинного обучения.)
Харрис был сдержан, чтобы предоставить точные цифры по улучшению производительности, но больше потому, что эти улучшения растут, чем потому, что они недостаточно впечатляющие. Веб-сайт предполагает, что он в 5 раз быстрее, чем устройство Nvidia A100 на большой модели трансформатора, такой как BERT, при этом потребляя около 15% энергии. Это делает платформу вдвойне привлекательной для гигантов искусственного интеллекта с большими карманами, таких как Google и Amazon, которым постоянно требуется как дополнительная вычислительная мощность, так и те, кто платит бешеные деньги за энергию, необходимую для ее использования. Либо более высокая производительность, либо более низкие затраты на электроэнергию были бы замечательными - и то, и другое вместе неотразимо.
Первоначальный план Lightmatter - протестировать эти устройства с наиболее вероятными покупателями к концу 2021 года, доработать их и довести до уровня производства, чтобы их можно было широко продавать. Но Харрис подчеркнул, что это, по сути, модель Т их нового подхода.
«Если мы правы, мы только что изобрели следующий транзистор», - сказал он, и для целей крупномасштабных вычислений это утверждение не лишено оснований. В ближайшее время у вас в руках не будет миниатюрного фотонного компьютера, но в центрах обработки данных, куда, по прогнозам, к 2030 году будет уходить до 10% мировой энергии, «у них действительно безграничный аппетит».
Цвет математики
Существует два основных способа, с помощью которых Lightmatter планирует улучшить возможности своих фотонных компьютеров. Первый и самый безумно звучащий - обработка разными цветами.
Это не так дико, если подумать о том, как на самом деле работают эти компьютеры. Транзисторы, которые десятилетиями были основой вычислений, используют электричество для выполнения логических операций, открытия и закрытия затворов и так далее. В макромасштабе у вас могут быть разные частоты электричества, которыми можно манипулировать, как волнами, но в этом меньшем масштабе это так не работает. У вас есть только одна форма валюты, электроны, а ворота либо открыты, либо закрыты.
В устройствах Lightmatter, однако, свет проходит через волноводы, которые выполняют вычисления по ходу дела, упрощая (в некотором роде) и ускоряя процесс. А свет, как мы все узнали на уроках естествознания, бывает разных длин волн, и все они могут использоваться независимо и одновременно на одном и том же оборудовании.
Та же самая оптическая магия, которая позволяет сигналу, посылаемому синим лазером, обрабатываться со скоростью света, работает и для красного или зеленого лазера с минимальными изменениями. И если световые волны не интерферируют друг с другом, они могут проходить через одни и те же оптические компоненты в одно и то же время без потери когерентности.
Это означает, что если чип Lightmatter может выполнять, скажем, миллион вычислений в секунду, используя красный лазерный источник, добавление еще одного цвета удваивает это число до двух миллионов, а добавление еще одного дает три - с очень небольшой модификацией. нужный. По словам Харриса, главным препятствием является получение лазеров, способных справиться с поставленной задачей. Возможность взять примерно такое же оборудование и почти мгновенно удвоить, утроить или увеличить производительность в 20 раз - хороший план развития.
Это также приводит ко второй проблеме, над решением которой компания работает, а именно к интерконнекту. Любой суперкомпьютер состоит из множества маленьких отдельных компьютеров, тысяч и тысяч, работающих в идеальной синхронизации. Для этого им необходимо постоянно обмениваться данными, чтобы убедиться, что каждое ядро знает, что делают другие ядра, и в противном случае координировать чрезвычайно сложные вычислительные задачи, для решения которых предназначены суперкомпьютеры.(Intel говорит об этой проблеме «параллелизма» при создании суперкомпьютера экса-масштаба здесь.)
“Одна из вещей, которую мы узнали на этом пути, это то, как заставить эти чипы разговаривать друг с другом, когда они достигают точки, когда они настолько быстры, что просто сидят и ждут. большую часть времени? - сказал Харрис. Чипы Lightmatter работают так быстро, что они не могут полагаться на традиционные вычислительные ядра для координации между собой.
Фотонная проблема, по-видимому, требует фотонного решения: соединительной платы в масштабе пластины, которая использует волноводы вместо волоконной оптики для передачи данных между различными ядрами. Волоконные соединения, конечно, не совсем медленные, но они и не бесконечно быстрые, а сами волокна на самом деле довольно громоздкие в масштабах, разработанных чипами, что ограничивает количество каналов, которые вы можете иметь между ядрами.
«Мы встроили оптику, волноводы, в сам чип; мы можем разместить 40 волноводов в пространстве одного оптического волокна», - сказал Харрис.«Это означает, что у вас гораздо больше полос, работающих параллельно, что приводит к абсурдно высокой скорости соединения». (Любители чипов и серверов могут найти эти характеристики здесь.)
Плата оптических межсоединений называется Passage и станет частью будущего поколения продуктов Envise, но, как и в случае с расчетом цвета, она предназначена для будущего поколения. Производительность в пять-десять раз при меньшей мощности должна удовлетворить их потенциальных клиентов на данный момент.
Заставить эти 80 миллионов долларов работать
Те заказчики, которые изначально были «гипермасштабируемыми» обработчиками данных, у которых уже есть центры обработки данных и суперкомпьютеры, которые они максимально используют, получат первые тестовые чипы в конце этого года. Харрис сказал, что именно на это в первую очередь идет раунд B: «Мы финансируем нашу программу раннего доступа».
Это означает создание оборудования для отгрузки (очень дорогое в расчете на единицу до того, как начнет действовать эффект масштаба, не говоря уже о нынешних трудностях с поставщиками), и создание команды для выхода на рынок. Обслуживание, поддержка и огромное количество программного обеспечения, которое идет вместе с чем-то вроде этого - найма много.
Раунд возглавил Viking Global Investors при участии HP Enterprise, Lockheed Martin, SIP Global Partners и предыдущих инвесторов GV, Matrix Partners и Spark Capital. В результате их общая сумма привлеченных средств составила около 113 миллионов долларов; Был первоначальный раунд A на 11 миллионов долларов, затем GV перешел на A-1 на 22 миллиона долларов, а затем на 80 миллионов долларов.
Хотя есть и другие компании, занимающиеся фотонными вычислениями и их потенциальными приложениями, особенно в нейронных сетях, Харрис, похоже, не чувствовал, что они наступают на пятки Lightmatter. Немногие, если таковые вообще есть, близки к поставке продукта, и, во всяком случае, это рынок, который находится в середине своего момента хоккейной клюшки. Он указал на исследование OpenAI, показывающее, что спрос на вычисления, связанные с ИИ, растет намного быстрее, чем существующие технологии могут его обеспечить, за исключением все более крупных центров обработки данных.
Следующее десятилетие принесет экономическое и политическое давление, чтобы обуздать это энергопотребление, как мы видели в мире криптовалюты, и Lightmatter готов предоставить эффективную и мощную альтернативу обычному графическому процессору. на основе тарифа.
Как Харрис с надеждой предположил ранее, то, что сделала его компания, потенциально может преобразовать отрасль, и если это так, то спешить некуда - если будет золотая лихорадка, они уже сделали ставку.