Нормативные акты о конфиденциальности данных, такие как GDPR, CCPA и HIPAA, представляют собой проблему для обучения систем искусственного интеллекта работе с конфиденциальными данными, такими как финансовые транзакции, записи о состоянии здоровья пациентов и журналы пользовательских устройств. Исторические данные - это то, что «учит» системы ИИ выявлять закономерности и делать прогнозы, но существуют технические препятствия для их использования без ущерба для личности человека.
Один обходной путь, получивший распространение в последние годы, - это федеративное обучение. Этот метод обучает систему на нескольких устройствах или серверах, содержащих данные, без обмена ими, что позволяет соавторам создавать общую систему без обмена данными. Intel недавно заключила партнерское соглашение с Penn Medicine для разработки системы классификации опухолей головного мозга с использованием федеративного обучения, в то время как группа крупных фармацевтических компаний, включая Novartis и Merck, создала платформу федеративного обучения для ускорения поиска лекарств.
Технологические гиганты, в том числе Nvidia (через Clara), предлагают федеративное обучение как услугу. Но новый стартап, DynamoFL, надеется конкурировать с действующими лицами с помощью федеративной платформы обучения, ориентированной на производительность, якобы без ущерба для конфиденциальности..
«DynamoFL была основана двумя докторами наук факультета электротехники и компьютерных наук Массачусетского технологического института, Кристианом Лау и мной, которые последние пять лет работали над машинным обучением с сохранением конфиденциальности и аппаратным обеспечением для машинного обучения», - сказал генеральный директор Вайккунт Мугунтан. TechCrunch в интервью по электронной почте. «Мы обнаружили огромный рынок для федеративного обучения после того, как получили неоднократные предложения о работе от ведущих финансовых и технологических компаний, которые пытались внедрить федеративное обучение внутри компании в свете новых правил конфиденциальности, таких как GDPR и CCPA. В ходе этого процесса стало ясно, что эти организации изо всех сил пытаются поддерживать федеративное обучение внутри компании, и мы создали DynamoFL, чтобы восполнить этот пробел на рынке».
DynamoFL, которая утверждает, что у нее есть ключевые клиенты в автомобилестроении, Интернете вещей и финансовом секторе, находится на ранних стадиях своей стратегии выхода на рынок. (В настоящее время в стартапе работают четыре сотрудника, и к концу года планируется нанять 10.) Но DynamoFL сосредоточилась на совершенствовании новых методов искусственного интеллекта, чтобы выделиться на фоне конкурентов, предлагая возможности, которые предположительно повышают производительность системы при борьбе с атаками и уязвимостями в федеративное обучение - например, атаки «вывод членов», которые позволяют обнаруживать данные, используемые для обучения системы.
«Наша технология персонализированного федеративного обучения позволяет группам машинного обучения точно настраивать свои модели для повышения производительности отдельных когорт. Это дает руководителям высшего звена больше уверенности при развертывании моделей машинного обучения, которые ранее считались решениями черного ящика», - сказал Мугунтан. «Это [также] отличает нас от конкурентов, таких как Devron, Rhino He alth, Owkin, NimbleEdge и FedML, которые борются с общими проблемами традиционного федеративного обучения».
DynamoFL также рекламирует свою платформу как экономически эффективную по сравнению с другими точечными решениями ИИ, сохраняющими конфиденциальность. Поскольку федеративное обучение не требует массового сбора данных на центральном сервере, DynamoFL может сократить затраты на передачу данных и вычисления, утверждает Мугунтан, например, позволяя клиенту отправлять только небольшие добавочные файлы, а не петабайты необработанных данных. В качестве дополнительного преимущества это может снизить риск утечки данных за счет устранения необходимости хранить большие объемы данных на одном сервере.
«Распространенные технологии повышения конфиденциальности, такие как дифференциальная конфиденциальность и федеративное обучение, пострадали от многолетнего компромисса между «конфиденциальностью и производительностью», когда использование более надежных методов сохранения конфиденциальности во время обучения модели неизбежно приводит к снижению точности модели. Эта критическая проблема с узким местом помешала многим группам машинного обучения внедрить технологии машинного обучения, сохраняющие конфиденциальность, которые необходимы для защиты конфиденциальности пользователей при соблюдении нормативных требований», - сказал Мугунтан. «Решение для персонализированного федеративного обучения DynamoFL преодолевает критический барьер на пути внедрения машинного обучения».
Недавно DynamoFL закрыла небольшой начальный раунд (4,15 миллиона долларов при оценке в 35 миллионов долларов), в котором приняли участие Y Combinator, Global Founders Capital и Basis Set; стартап является частью пакета Y Combinator Winter 2022. Мугунтан говорит, что вырученные средства будут в основном направлены на найм менеджеров по продуктам, которые смогут интегрировать технологии DynamoFL в будущие, удобные для пользователя продукты.
«Пандемия подчеркнула важность быстрого использования разнообразных данных для преодоления возникающих кризисов в здравоохранении. В частности, пандемия подчеркнула, что критически важные медицинские данные необходимо сделать более доступными во время кризиса, сохраняя при этом конфиденциальность пациентов», - продолжил Мугунтан.«У нас хорошие позиции, чтобы пережить замедление развития технологий. В настоящее время у нас есть три-четыре года взлетно-посадочной полосы, и технический спад фактически помог нашим усилиям по найму. Крупнейшие технологические компании нанимали большинство ведущих ученых в области федеративного обучения, поэтому замедление найма в крупных технологиях дало нам возможность нанять лучших специалистов в области федеративного обучения и машинного обучения».