Google печально известен тем, что раскручивает продукты и убивает их, часто в очень короткие сроки. Это достаточно раздражающая привычка, когда речь идет о таких вещах, как приложения для обмена сообщениями и игры. Но амбиции технологического гиганта распространяются на многие области, которые в наши дни затрагивают человеческие жизни. Включая, самое непосредственное, здравоохранение. И, как оказалось, Google склонна убивать продукты, которые ранее рекламировались как «спасающие жизни».
А именно: после недавней реконфигурации усилий Google в области здравоохранения, о которых ранее сообщал Business Insider, технический гигант подтвердил TechCrunch, что он выводит из эксплуатации свое приложение поддержки врачей Streams.
Приложение, которое Google He alth PR позиционирует как «мобильное медицинское устройство», было разработано еще в 2015 году DeepMind, подразделением Google, занимающимся искусственным интеллектом, и в течение многих лет использовалось Национальной службой здравоохранения Великобритании. с тех пор, как ряд трестов NHS подписали соглашения с DeepMind He alth о развертывании потоков для своих врачей.
На момент написания статьи один фонд NHS - лондонский Royal Free - все еще использует приложение в своих больницах.
Но, по-видимому, ненадолго, так как Google находится в процессе вывода Streams обратно, чтобы быть расстрелянным и брошенным в его мертвый пул - наряду с такими, как его злополучная социальная сеть, Google+ и Интернет. компания по производству воздушных шаров Loon, и это лишь два из откровенно бесконечного списка ныне не существующих продуктов Alphabet/Google.
Другие фонды NHS, с которыми мы связались и которые ранее развернули Streams, сообщили нам, что они уже прекратили использование приложения.
Университетский колледж Лондона NHS Trust подтвердил TechCrunch, что ранее в этом году он разорвал отношения с Google He alth.
«Наше соглашение с Google He alth (первоначально DeepMind) истекло в марте 2021 года, как и планировалось изначально. Google He alth удалил все данные, которые он хранил в конце проекта [Streams]», - заявил TechCrunch представитель UCL NHS Trust.
Imperial College He althcare NHS Trust также сообщил нам, что прекратил использование Streams этим летом (в июле) и сказал, что данные пациентов находятся в процессе удаления.
«После вывода из эксплуатации Streams в Доверительном фонде в начале этого лета данные, которые были обработаны Google He alth для предоставления услуг Доверительному фонду, будут удалены, а соглашение было расторгнуто», - заявил представитель.
«Согласно соглашению об обмене данными, любые данные пациентов, которые были обработаны Google He alth для предоставления услуги, будут удалены. Процесс удаления начинается после расторжения соглашения», - добавили они, заявив, что договорные сроки удаления данных пациентов Google составляют шесть месяцев.
Другой траст, Taunton & Somerset, также подтвердил, что его участие в Streams уже закончилось.
Контракты Streams, подписанные DeepMind с NHS Trusts, заключались на пять лет, так что в любом случае эти контракты, вероятно, подходили к концу.
Продление контракта должно было быть согласовано обеими сторонами. И решение Google о выводе Streams из эксплуатации может быть связано с отсутствием энтузиазма со стороны вовлеченных трастов в отношении дальнейшего использования программного обеспечения, хотя в этом случае это может, в свою очередь, отражать восприятие трастами слабой приверженности Google проекту.
Ни одна из сторон публично ничего не говорит.
Но, насколько нам известно, Royal Free является единственным трастом NHS, который все еще использует приложение поддержки врачей, поскольку Google готовится отключить систему жизнеобеспечения Stream.
Больше стримов нет?
История Streams, мягко говоря, имеет много заморочек.
Во-первых, несмотря на то, что оно было разработано подразделением искусственного интеллекта Google, и несмотря на то, что основатель DeepMind Мустафа Сулейман заявил, что цель проекта состоит в том, чтобы найти способы интегрировать искусственный интеллект в Streams, чтобы приложение могло генерировать прогностические медицинские оповещения - приложение Streams не использует искусственный интеллект.
Алгоритм в Streams предупреждает врачей о риске развития у пациента острого повреждения почек, но опирается на существующий алгоритм ОПП (острое повреждение почек), разработанный Национальной службой здравоохранения. Таким образом, Streams по существу оцифровал и мобилизовал существующую практику.
В результате всегда казалось странным, что подразделение искусственного интеллекта рекламного гиганта так заинтересовано в создании, предоставлении и поддержке программного обеспечения для поддержки врачей в долгосрочной перспективе. Но затем, как оказалось, ни DeepMind, ни Google не участвовали в этом долгое время у постели пациента.
DeepMind и NHS Trust, с которыми они работали над разработкой Streams (вышеупомянутой Royal Free), начали с более широких амбиций в отношении своего партнерства - как подробно описано в служебной записке начала 2016 года, о которой мы сообщали, в которой изложен пятилетний план. чтобы внедрить ИИ в здравоохранение. Кроме того, как мы отмечали выше, Сулейман продолжал настаивать в течение многих лет, написав позже в 2019 году, что: «В настоящее время Streams не использует искусственный интеллект, но теперь команда намерена найти способы безопасно интегрировать прогностические модели ИИ в Streams в чтобы предоставить клиницистам интеллектуальную информацию об ухудшении состояния пациента».
В 2017 году обнаружилась ключевая ошибка проекта - из-за сообщений в прессе о скандале с данными, когда New Scientist (который использовал свободу информационный запрос для получения контрактов, которые пара не обнародовала).
Служба защиты данных Великобритании обнаружила, что у Royal Free не было законных оснований, когда она передавала информацию о миллионах пациентов в DeepMind на этапе разработки Streams.
Что, возможно, объясняет постепенное охлаждение DeepMind энтузиазма по поводу проекта, который, как изначально предполагалось, - с помощью добровольного партнера NHS - предоставит ему бесплатный и легкий доступ к большому количеству данных о пациентах, чтобы он мог обучать здравоохранение. ИИ, которые, по-видимому, будут в идеальном состоянии для продажи обратно в тот же сервис в будущие годы. Цена уточняется.
Никто, причастный к этой идее, не изучил должным образом детали регулирования данных здравоохранения Великобритании, очевидно.
Или, что наиболее важно, удосужился учесть основные ожидания пациентов в отношении их личной информации.
Поэтому неудивительно, когда в 2018 году DeepMind объявила об отказе от Streams, передав приложение (и все его данные) Google He alth - внутреннему подразделению Google, занимающемуся вопросами здоровья, - которое затем завершить поглощение DeepMind He alth в 2019 году. (Хотя это все равно было шокирующим, как мы считали в то время.)
Сулейман предположил, что именно Google He alth будет продолжать работу по внедрению ИИ в потоки, написав во время поглощения: «Объединенный опыт, инфраструктура и знания команд DeepMind He alth вместе с Google помогут нам продолжать разработку мобильных инструментов, которые могут помочь большему количеству клиницистов, решить критические проблемы безопасности пациентов и, как мы надеемся, могут спасти тысячи жизней во всем мире.”
Особая ирония, связанная с поглощением Google He alth в саге Streams, заключается в том, что DeepMind, когда ее раскритиковали за ее намерения в отношении данных пациентов, заявила, что медицинская информация людей никогда не будет затронута ее родительской компанией, занимающейся рекламными технологиями.
До тех пор, пока, конечно, весь проект не был передан Google, а затем эта передача была воспринята как отличная новость для клиницистов и пациентов!
Поглощение Google Streams означало, что фонды NHS Trust, которые хотели продолжать использовать приложение, должны были подписать новые контракты непосредственно с Google He alth. И все те, кто развернул приложение, сделали это. Не то чтобы у них был большой выбор, если они действительно хотели продолжать.
Опять же, прыгнем на пару лет вперед, и теперь Google He alth неожиданно столкнулась с крупной реорганизацией - с потоками в кадре для отбивки в рамках постоянной перенастройки приоритетов проектов Google.
Это довольно позорный финал и без того печально известного проекта.
Причастность DeepMind к Национальной службе здравоохранения ранее была подхвачена правительством Великобритании - с бывшим министром здравоохранения Мэттом Хэнкоком, который раструбил о партнерстве в области исследований ИИ между компанией и глазной больницей Мурфилда как об образце такого рода управляемого данными предложенная им инновация изменит предоставление медицинских услуг в Великобритании
К счастью для Хэнкока, он не выбрал Streams в качестве примера великих инноваций в области «медицинских технологий». (Moorfields подтвердила нам, что ее партнерство с Google He alth, ориентированное на исследования, продолжается.)
Жесткий урок здесь, похоже, заключается в том, что не ставьте здоровье нации на рекламного гиганта, который быстро и свободно играет с данными людей и не задумывается дважды, прежде чем отключить цифровые медицинские устройства, поскольку внутренняя политика диктует другое. перетасовка стульев
Группа по защите конфиденциальности данных пациентов, MedConfidential - ключевая сила, предупреждающая о масштабах сделки Royal Free по обмену данными DeepMind - призвала Google отказаться от раскрутки и раскрыть правду о махинациях Streams, раз и навсегда. все.
«Потоки - это Windows Vista от Google - наследие, которое она надеется забыть», - сказал нам Сэм Смит из MedConfidential. «NHS полагается на надежных поставщиков, но компании, которые идут дальше после поломки, создают унаследованные проблемы для NHS, как мы видели с WannaCry. Google должен признать это решение, удалить данные и узнать, что эксперименты над пациентами регулируются не просто так».
Вопросы о текущем использовании приложения Royal Free
Несмотря на то, что Управление Комиссара по информации в 2017 году пришло к выводу, что первоначальная сделка Royal Free по обмену данными с DeepMind была ненадлежащей, примечательно, что London Trust придерживался Streams, продолжая передавать данные в DeepMind.
Исходный набор данных пациентов, который был предоставлен DeepMind без действительного правового основания, никогда не удалялся. И, по-видимому, с тех пор он не был удален. Отсюда вес призыва к Google удалить данные сейчас.
По иронии судьбы, неправомерно полученные данные должны (теоретически) быть окончательно удалены - как только истечет договорные сроки для любой окончательной очистки резервных копий - но только потому, что сам Google планирует отключить потоки.
И все же Royal Free подтвердила нам, что она все еще использует Streams, даже несмотря на то, что Google уже в сотый раз крутит шкалу своих коммерческих приоритетов и решает, что, в конце концов, он не заинтересован в этой конкретной части клинической поддержки.
Мы задали Доверительному фонду ряд вопросов, в том числе об удалении данных пациентов, но ни на один из них он не ответил.
Вместо этого, два дня спустя, он прислал нам это однострочное заявление, которое вызывает гораздо больше вопросов, сказав лишь следующее: «Приложение Streams не было выведено из эксплуатации для Royal Free London, и наши клиницисты продолжают использовать его для на благо пациентов в наших больницах».
Неясно, как долго Доверительный фонд сможет использовать приложение, которое Google выводит из эксплуатации. И насколько это может быть разумно для безопасности пациентов - например, если приложение не будет получать необходимые обновления безопасности.
Мы также спросили Google, как долго он будет продолжать поддерживать использование Royal Free и когда он планирует окончательно отключить эту услугу. А также какая внутренняя группа будет нести ответственность за любые запросы SLA, поступающие от Royal Free, поскольку Доверительный фонд продолжает использовать программное обеспечение, которое Google He alth выводит из эксплуатации, и обновит этот отчет с любым ответом. (Ранее представительница Google сообщила нам, что Royal Free продолжит использовать Streams в «ближайшем будущем», но не назвала конкретную дату окончания.)
В сообщениях прессы за этот месяц о реорганизации Google He alth, охватывающих внутреннюю записку, впервые полученную Business Insider, сообщается, что команды, работающие над различными проектами Google He alth, были разделены на другие области, в том числе некоторые из них должны отчитываться по Команды Google по поиску и искусственному интеллекту.
Итак, какая группа Google возьмет на себя ответственность за обработку SLA с Royal Free в результате перестановки Google He alth, это интересный вопрос.
В предыдущих комментариях пресс-секретарь Google сообщила нам, что новая структура для ее реконфигурированных усилий в области здравоохранения, которые все еще называются «Здоровье Google», будет охватывать всю ее работу в области здоровья и хорошего самочувствия, включая Fitbit, а также здоровье AI. исследования, Google Cloud и многое другое.
В частности, о Streams она сказала, что приложение не вошло в число лучших, потому что, когда Google ассимилировал DeepMind He alth, он решил сосредоточить свои усилия на другом цифровом предложении для клиницистов под названием Care Studio, которое в настоящее время тестируется с двумя медицинскими учреждениями США. системы (а именно: Медицинский центр Ascension & Beth Israel Deaconess).
И любой, кто когда-либо пытался использовать приложение для обмена сообщениями Google, наверняка испытает сильное чувство дежа вю, прочитав это
Соучредитель DeepMind, тем временем, по-видимому, оставался в блаженном неведении о намерениях Google отказаться от Streams в пользу Care Studio. часть этого пути», а также рекламируя «уже достигнут огромный прогресс, и многое еще предстоит сделать этой невероятной команде».
В конце концов, Streams не «перезаряжается» (или выравнивается, если использовать современный причудливый политический язык) с помощью ИИ - как предполагалось в его сообщении в блоге 2019 года - Google просто выводит его из эксплуатации. Как это было с Reader, Allo, Tango, Google Play Music или. ну, список можно продолжить.
История самого Сулеймана тоже содержит некоторые недочеты.
Он больше не работает в DeepMind, но сам был «свёрнут» в Google, присоединившись в качестве вице-президента по политике искусственного интеллекта после того, как изначально был отправлен в продолжительный отпуск в DeepMind.
В январе WSJ сообщил об обвинениях в том, что он издевался над персоналом. А затем, ранее в этом месяце, Business Insider расширил это, сообщив о последующих утверждениях о том, что между DeepMind и бывшими сотрудниками, работавшими под руководством Сулеймана, были конфиденциальные соглашения, и они жаловались на его поведение (хотя DeepMind отрицал какие-либо сведения о таких соглашениях).
В заявлении для Business Insider Сулейман извинился за свое поведение в прошлом и сказал, что в 2019 году он «принял отзывы о том, что, как соучредитель DeepMind, я слишком сильно заставлял людей и временами мой стиль управления был неконструктивным», добавив, что он нашел время, чтобы начать работать с коучем, и что этот процесс помог ему «поразмышлять, вырасти и учиться лично и профессионально».
Мы спросили Google, не хочет ли Сулейман прокомментировать кончину Streams и решение его работодателя закрыть приложение, учитывая его большие надежды на проект и все годы работы, которые он вложил в это конкретное стремление к здоровью.. Но компания не ответила на запрос.
Мы также предложили Сулейману возможность прокомментировать напрямую. Мы обновим эту историю, если он ответит.