Сила конфиденциальности. Почему необходимо обладать контролем над своими персональными данными и как его установить

А как насчет медицины?

Медицина представляет собой исключительный случай по части обработки данных. Во-первых, потому что она необычайно важна для всех нас. Мы все желаем быть здоровыми и жить как можно дольше, поэтому хотим, чтобы медицина развивалась максимально быстро. Во-вторых, потому что медицинские данные очень конфиденциальны: их утечка может привести к навешиванию социальных ярлыков, дискриминации и даже худшим последствиям. В-третьих, потому что анонимизировать медицинские данные чрезвычайно сложно, а иногда и невозможно. Генетическая информация, как мы видели, является хорошим примером: это данные, которые идентифицируют вас именно как вас – они включают в себя саму вашу личность. В более общем смысле, чтобы медицинские данные были полезными, важно обозначить различные единицы информации, принадлежащие одному и тому же человеку, и чем больше единиц информации мы имеем о человеке, тем легче его идентифицировать.

Зависит ли развитие медицины от обмена личными данными? Нет. Во-первых, мы должны более скептически относиться к силе цифровых технологий. Во-вторых, есть способы использования персональных данных в медицинских исследованиях, которые минимизируют риск огласки для пациентов и требуют их согласия. В-третьих, некоторые из наиболее важных достижений медицины могут вообще не использовать персональные данные. Давайте подробнее рассмотрим всё пункт за пунктом.

Перспективы цифровых технологий в медицине

Цифровые технологии и большие массивы данных – это не панацея. Мы не можем ожидать, что они решат все наши проблемы. Иногда инновации, которые спасают больше жизней, связаны не с высокими технологиями, а с менее яркими изменениями, такими как улучшение гигиены. Это не означает, что высокие технологии не могут способствовать развитию медицины, но, обсуждая их пользу, мы не должны оставлять за дверью наше критическое мышление. Когда технология становится идеологией, что иногда случается, она уходит от науки в сторону предрассудков. Вот два примера того, как цифровые технологии дают слишком много обещаний и показывают недостаточную эффективность в контексте медицины.

Первый пример – это искусственный интеллект IBM Watson. В 2011 году, после того как Watson удалось победить двух чемпионов в американском игровом шоу «Jeopardy!» (в России выходит под названием «Своя игра». – Прим. ред.), IBM объявила, что разработанный ею искусственный интеллект станет врачом. Компания заявила, что ее первые коммерческие продукты будут доступны через восемнадцать – двадцать четыре месяца. Девять лет спустя это обещание все еще не было выполнено.

В 2014 году IBM инвестировала в развитие Watson 1 миллиард долларов. К 2016 году она приобрела четыре компании по обработке данных о здоровье на общую сумму 4 миллиарда долларов. Однако многим больницам, которые участвовали в проектах Watson от IBM, пришлось их прекратить. Онкологический центр доктора медицины Андерсона был вынужден отменить свой проект с Watson по разработке консультативного инструмента для онкологов, ранее потратив на него 62 миллиона долларов[296]. Университетская больница Гиссена и Марбурга в Германии тоже отказалась от участия в проекте. Когда врач сказал Watson, что пациент страдает от боли в груди, система не учла, что у него может быть сердечный приступ. Вместо этого искусственный интеллект выдвинул предположение, что у пациента редкое инфекционное заболевание[297]. В другом случае больному раком с сильным кровотечением Watson предложил назначить лекарство, которое могло вызвать обострение кровотечения. «Этот продукт – кусок дерьма», – заключил врач больницы Юпитер во Флориде[298].

Проект IBM Watson – не единичный случай разочаровывающего применения технологий в медицине. В 2016 году DeepMind заключила сделку с Royal Free NHS Trust в Лондоне. DeepMind собрала медицинские карты 1,6 миллиона пациентов без их согласия или ведома. Это означает, что компания получила доступ к отчетам о патологии, рентгенологическим исследованиям, ВИЧ-статусу, о том, кто делал аборт, кто болел раком, и так далее. Управление комиссара по информации позже сочло, что Royal Free нарушила законы о защите данных.

Первоначальная идея заключалась в том, чтобы использовать искусственный интеллект для разработки приложения для обнаружения острого поражения почек. Вскоре исследователи поняли, что у них недостаточно данных для использования искусственного интеллекта, поэтому они остановились на чем-то более простом. В итоге обнаружилось, что разработанное приложение Streams «не оказывает статистически значимого положительного влияния на клинические результаты пациентов»[299].

Обе эти неудачи не означают, что все последующие попытки не увенчаются успехом, но они дают некоторое представление о перспективах цифровых технологий в медицине. В недавнем метаанализе было рассмотрено около 20 000 исследований медицинских систем искусственного интеллекта, в которых утверждалось, что они могут диагностировать болезни не хуже врачей. Ученые выявили, что только четырнадцать из этих исследований (менее 0,1 %) были выполнены на достаточном методологическом уровне, чтобы допустить эти алгоритмы до клинических испытаний[300].

То, что медицинский искусственный интеллект может не помочь пациентам, не единственная проблема. Более серьезные опасения вызывает то, что это может навредить пациентам. Например, искусственный интеллект назначит чрезмерное или некорректное лечение. Некоторые медицинские цифровые технологии, похоже, ошибаются в сторону ложноположительных результатов при диагностике (обнаруживают медицинские проблемы, когда их нет). Некоторые алгоритмы, ищущие раковые клетки, например, будут маркировать как аномальные совершенно здоровые клетки, допуская восемь ложноположительных ошибок на одно изображение[301]. Если компании и врачи заинтересованы (финансово или профессионально) во вмешательстве в дела пациентов, то это может привести к избыточному лечению.

Еще одна возможная проблема – это сбои. Опасно полагаться на цифровые технологии, потому что программирование – чрезвычайно сложный процесс, а у цифровых технологий есть потребности, которых нет у аналоговых, и все это приводит к тому, что цифровые технологии зачастую менее надежны, чем аналоговые. Сравните, например, электронную книгу с бумажной. Устройство для чтения электронных книг через определенное время нужно заряжать, оно может быть взломано, может выйти из строя, если вы уроните его в песок, воду или на твердую поверхность, и так далее. Напротив, бумажные книги очень надежны. Их не нужно заряжать, и, если вы уроните книгу с крыши здания, она, скорее всего, не слишком пострадает (пострадать может лишь проходящий мимо человек, в которого она угодит, – так что не делайте так). Когда вы имеете дело с оборудованием, спасающим жизни, вам нужна технология, не уступающая по надежности бумажной книге.

Эти разительные неудачи лишь призваны показать особенности нынешнего положения и путей дальнейшего развития в части использования цифровых технологий в медицине. Конечно, искусственный интеллект может сыграть очень важную роль в развитии медицины. Но, как и в случае с любым другим вмешательством, нам нужно, чтобы эти методы были основаны на убедительных доказательствах, прежде чем нас попросят передать наши персональные данные, и нам необходимы некоторые заверения в том, что наши данные будут обработаны должным образом и будут проанализированы все возможности и риски их использования. Слишком часто искусственный интеллект получает бесплатный допуск к нашим данным. Предположим, мы решили, что хотим провести медицинское исследование с использованием персональных данных и цифровых технологий. В конце концов, обещания персонализированной медицины очень заманчивы. И есть способы организовать это в рамках этических норм, а не так, как сделали DeepMind и Royal Free.

Этические медицинские исследования

Медицинская этика имеет долгую историю привлечения людей для исследований. Исследования с использованием персональных данных не должны сильно отличаться от других видов медицинских исследований. Несмотря на то что предоставление личных данных не похоже на сдачу крови – тут нет иглы и боли, – существуют аналогичные риски. Мы больше не заставляем людей подписываться на клинические исследования (хоть и делали это раньше, до появления медицинской этики). Мы также не должны заставлять людей предоставлять свои персональные данные для медицинских исследований. Недопустимо использовать население в качестве подопытных кроликов без их согласия, без надлежащих мер безопасности и без компенсации. Скорее нам следует запросить согласие людей, установить некоторые правила того, как их данные будут использоваться и когда они будут удалены, а также выплатить соответствующую компенсацию субъектам исследования, как мы делаем это при других исследованиях.

Иногда учреждения общественного здравоохранения не имеют необходимых ресурсов или технологий для анализа данных, и они могут прибегнуть к сотрудничеству с технологическими компаниями. В таких случаях мы должны быть абсолютно уверены в том, что заключенные сделки выгодны для субъектов данных и пациентов. Среди множества ошибок, допущенных Royal Free, две видятся особенно вопиющими. Во-первых, они не получили никаких юридических гарантий того, что DeepMind не будет использовать эти данные ни для чего, кроме разработки приложения. Они лишь взяли с компании обещание, что данные не будут сопоставляться с информацией, хранящейся в Google, но когда подразделение здравоохранения DeepMind было поглощено Google, эксперты по конфиденциальности начали опасаться, что это обещание будет нарушено[302].

Вторая большая ошибка заключалась в том, что компания Royal Free не позаботилась о том, чтобы пациенты получали пользу от продуктов, разработанных на основе их данных[303]. В учреждениях общественного здравоохранения имеется так много ценных медицинских данных, что они могут использовать это как преимущество на переговорах, – и на это стоит обратить внимание. Доступ других организаций к этим данным должен быть ограничен. Например, компании могут использовать данные, но не хранить их. Учреждениям здравоохранения следует потребовать юридических гарантий того, что любой разработанный продукт будет предлагаться учреждениям здравоохранения и населению по доступным ценам.

Всегда будет сложно обеспечить безопасность персональных данных при взаимодействии с компаниями, основной целью которых не является служение на благо обществу. Если нам повезет, то, возможно, самые важные медицинские достижения, которые может предложить искусственный интеллект, вообще не будут связаны с использованием персональных данных.

Достижения в медицине без использования персональных данных

Как мы видели, AlphaZero, один из лучших примеров искусственного интеллекта, является выдающимся достижением, но у него нет практического применения в повседневной жизни (во всяком случае, пока). Один из способов, которым искусственный интеллект может изменить (и, возможно, спасти) нашу жизнь, – это открытие новых лекарств.