Auto ML Google может реплицировать программное обеспечение ML следующего поколения более эффективно, чем созданные человеком системы
Система AutoML от Google, впервые анонсированная в мае 2017 года, продемонстрировала способность тиражировать и создавать другие системы машинного обучения, которые являются более мощными и эффективными, чем лучшие в настоящее время системы машинного обучения, разработанные человеком.
Google расширяется и опирается на возможности машинного обучения, а AutoML - это всего лишь часть общей экосистемы машинного обучения. Компания признала, что усилия по разработке систем машинного обучения с нуля были ресурсоемкими; Ученые и разработчики Google тратят значительное количество времени и усилий на создание этих систем, в которых можно было бы изучить экспоненциальное число возможных моделей обучения. Кроме того, мало кто имеет опыт и опыт, чтобы сделать это в больших масштабах.
С AutoML целью было автоматизировать процесс разработки пользовательских систем машинного обучения, который не только освобождает время от экспертов по компьютерному обучению, но и позволяет им сосредоточиться на совершенствовании и совершенствовании систем.
Google сосредоточился на двух алгоритмах разработки моделей машинного обучения: эволюционных алгоритмах и алгоритмах обучения усилению. Для AutoML основным методом был алгоритм обучения усилению.
В обучении подкрепления задача идентифицируется с контроллером, который затем создает «дочернюю» систему, которая затем тестируется. Система оценивает эффективность теста и обеспечивает обратную связь с контроллером, который затем использует эту информацию для предложения другой дочерней системы. Этот цикл продолжается для тысяч итераций, пока система не сможет предсказать и узнать, какие системы лучше всего работают.
Схема обучения арматуре. Изображение предоставлено Google Blog
Google использовал два тестовых набора данных для тестирования AutoML, включая распознавание образов и моделирование языка. Системы, изготовленные AutoML, были столь же эффективны, как если бы не лучшие, чем производители системного машинного обучения.
Этот процесс также дал некоторое представление о том, как работают некоторые системы, и почему они могут работать лучше других. Например, мультипликативная комбинация в повторяющейся сети была идентифицирована в произведенной сети, что специалисты по компьютерному искусству человека не считали бы полезными. Но сеть, созданная AutoML, показала, что это действительно полезно для обработки градиента, исчезающего и обнаружившего новую архитектуру.
Новые архитектуры были обнаружены благодаря обучению подкрепления. Изображение предоставлено Google Blog
AutoML, после завершения, сделает машинное обучение более доступным. Цель Google состоит в том, чтобы в конечном итоге демократизировать AutoML, чтобы еще больше пользователей, не являющихся экспертами, могли получить доступ к компьютерному обучению. Затем эксперты могут посвятить свое время совершенствованию следующего поколения технологий. Наконец, для таких компаний, как Google, это позволит более тривиальное внедрение машинного обучения и позволит увеличить объемы развертывания.
Изображение функции предоставлено Google.