Если у вас есть программа искусственного интеллекта, у вас также есть комитет, команда или орган, который обеспечивает управление разработкой, внедрением и использованием ИИ. Если нет, его необходимо создать.
В своей последней статье я поделился ключевыми областями применения моделей искусственного интеллекта и машинного обучения в маркетинге и тем, как эти модели могут помочь вам внедрять инновации и удовлетворять потребности клиентов. Здесь я рассматриваю ответственность маркетинга за управление ИИ.
Итак, что такое управление ИИ?
Управление ИИ - это то, что мы называем структурой или процессом, который управляет использованием ИИ. Цель любых усилий по управлению ИИ проста - снизить риски, связанные с использованием ИИ. Для этого организации должны разработать процесс оценки рисков алгоритмов, основанных на искусственном интеллекте, и их этического использования.
Жесткость управления во многом зависит от отрасли. Например, внедрение алгоритмов ИИ в финансовой сфере может иметь больший риск, чем внедрение ИИ в производстве. Использование ИИ для присвоения рейтингов потребительской кредитоспособности требует большей прозрачности и контроля, чем алгоритм ИИ, который экономически эффективно распределяет детали по цеху.
Для эффективного управления рисками программа управления ИИ должна учитывать три аспекта приложений, управляемых ИИ:
- Data: Какие данные использует алгоритм? Соответствует ли качество модели? Есть ли у специалистов по данным доступ к необходимым данным? Будет ли нарушена конфиденциальность в рамках алгоритма? (Хотя это никогда не делается намеренно, некоторые модели ИИ могут непреднамеренно раскрыть конфиденциальную информацию.) Поскольку данные могут меняться со временем, необходимо последовательно регулировать использование данных в модели AI/ML.
- Algorithms. Если данные изменились, изменит ли это выходные данные алгоритма? Например, если была создана модель для прогнозирования того, какие клиенты будут совершать покупки в следующем месяце, данные будут стареть с каждой неделей и влиять на результаты модели. Вырабатывает ли модель соответствующие реакции или действия? Поскольку наиболее распространенной моделью искусственного интеллекта в маркетинге является машинное обучение, маркетологам необходимо следить за отклонениями модели. Дрейф модели - это любое изменение в предсказаниях модели. Если модель сегодня предсказывает нечто отличное от того, что она предсказывала вчера, то говорят, что модель «дрейфовала».
- Use. Были ли обучены те, кто использует результаты модели ИИ, тому, как ею пользоваться? Контролируют ли они результаты на предмет отклонений или ложных результатов? Это особенно важно, если модель ИИ генерирует действия, которые использует маркетинг. Используя тот же пример, определит ли модель тех клиентов, которые с наибольшей вероятностью совершат покупку в следующем месяце? Если да, обучили ли вы представителей отдела продаж или службы поддержки тому, как обращаться с клиентами, которые могут совершить покупку? Знает ли ваш веб-сайт, что делать с этими клиентами, когда они посещают его? На какие маркетинговые процессы влияет эта информация?
Как это должно быть структурировано и кто должен участвовать?
Управление ИИ может быть структурировано по-разному с подходами, которые варьируются от жесткого контроля до самоконтроля, который сильно зависит от отрасли, а также от корпоративной культуры, в которой он находится.
Чтобы иметь возможность заниматься разработкой модели, а также ее проверкой и внедрением, команды управления обычно состоят как из технических специалистов, которые понимают, как работают алгоритмы, так и из руководителей, которые понимают, почему модели должны работать так, как они есть. запланировано. Кроме того, в структуре управления обычно присутствует кто-то, представляющий функцию внутреннего аудита.
Независимо от того, как структурировано управление ИИ, основной целью должна быть сплоченная команда, которая обеспечит, чтобы алгоритмы ИИ, используемые ими данные и процессы, использующие результаты, управлялись таким образом, чтобы организация соответствовала всем требованиям. внутренние и внешние правила.
Вот пример схемы управления ИИ для организации, использующей централизованный подход, распространенный в жестко регулируемых отраслях, таких как здравоохранение, финансы и телекоммуникации:
Какой вклад маркетологи могут внести в управление ИИ?
Есть несколько причин, по которым маркетинг должен участвовать в управлении моделями ИИ. Все эти причины относятся к миссии маркетинга.
- Защита интересов клиентов Работа маркетинга заключается в том, чтобы гарантировать, что клиенты имеют информацию, необходимую им для покупки и продолжения покупок, а также пропагандировать предложения компании. Маркетинг несет ответственность за качество обслуживания клиентов и защиту информации клиентов. Из-за этих обязанностей маркетинговая организация должна участвовать в любом алгоритме ИИ, использующем информацию о клиентах, или в любом алгоритме, который влияет на удовлетворенность клиентов, покупательское поведение или пропаганду.
- Защита бренда Одна из основных обязанностей маркетинга - защита бренда. Если модели ИИ используются каким-либо образом, который может нанести ущерб имиджу бренда, в дело должен вмешаться маркетинг. играют важную роль в том, как эта модель развертывается. Маркетинг должен быть частью команды, которая решает, даст ли модель соответствующие результаты или нет. Маркетинг всегда должен задаваться вопросом: «Изменит ли эта ситуация отношение наших основных клиентов к сотрудничеству с нами?»
-
Обеспечение открытых коммуникаций. Одной из наиболее часто игнорируемых областей разработки и развертывания моделей искусственного интеллекта и машинного обучения является рассказывание историй, которое необходимо, чтобы помочь другим понять, что модели должны делать.. Прозрачность и объяснимость - две наиболее важные черты хорошего управляемого моделирования ИИ/МО. Прозрачность означает, что создаваемые модели полностью понимаются теми, кто их создает и теми, кто их использует, а также менеджерами и лидерами организаций. Не имея возможности объяснить, что делает модель и как она это делает, внутренним бизнес-руководителям, команда AI Governance рискует оказаться не в состоянии объяснить модель внешним государственным регулирующим органам, внешним консультантам или акционерам. Распространение «истории» о том, что делает модель и что это значит для бизнеса, - это работа маркетинга.
- Защита моделей искусственного интеллекта, используемых в маркетинге. Маркетинг также должен широко использовать модели искусственного интеллекта и машинного обучения, которые помогают определить, какие клиенты будут покупать больше всего, какие клиенты останутся клиентами дольше всего и какие из наиболее удовлетворенных клиентов, скорее всего, порекомендуют вас другим. потенциальных клиентов или даже оттока. В этой роли отдел маркетинга должен иметь место за столом управления искусственным интеллектом, чтобы обеспечить хорошее управление информацией о клиентах, отсутствие предвзятости в модели и сохранение конфиденциальности для клиента.
Но сначала познакомьтесь с основами
Я хотел бы сказать, что управление ИИ вашей организации будет приветствовать маркетологов за столом переговоров, но никогда не помешает подготовиться и выполнить домашнюю работу. Вот несколько навыков и возможностей, с которыми следует ознакомиться перед началом работы:
- Понимание AI/ML. Вы должны понимать, что такое AI/ML и как они работают. Это не значит, что вам нужен доктор философии. D. в области науки о данных, но было бы неплохо пройти онлайн-курс о том, что это за возможности и что они делают. Очень важно, чтобы вы понимали, какое влияние следует ожидать от моделей, особенно если они рискуют раскрыть информацию о клиентах или подвергнуть организацию финансовому риску или риску бренда.
- Data. Вы должны хорошо разбираться в том, какие данные используются в модели, как они собираются, а также как и когда они обновляются. Выбор и обработка данных для модели ИИ - это первое место, где предвзятость может войти в алгоритм. Например, если вы пытаетесь проанализировать поведение клиентов в отношении определенного продукта, вам обычно потребуется около трех четвертей данных, собранных одинаковым образом и тщательно отобранных, чтобы у вас была полная и точная информация. Если алгоритм будет использовать маркетинговые данные, ваша роль еще важнее.
- Process. Вы должны хорошо понимать процесс, в котором будет развернут алгоритм. Если вы входите в команду управления ИИ в качестве представителя по маркетингу и оцениваемые алгоритмы ИИ предназначены для продаж, то вам следует ознакомиться с этим процессом и узнать, как и где маркетинг может внести в него свой вклад. Поскольку это важный навык, если вы работаете в команде управления ИИ, многие маркетинговые команды назначат руководителя маркетинговых операций своим представителем.
Независимо от того, какую роль вы играете в управлении ИИ, помните, насколько это важно. Обеспечение ответственного внедрения искусственного интеллекта и машинного обучения в вашей организации является не только обязательным, но и постоянным процессом, требующим настойчивости и бдительности, поскольку модели продолжают учиться на данных, которые они используют.