Новости, мнения, блоги
Горизонтальная Россия

Эксперт в области компьютерной безопасности Вадим Лосев: Когда государство владеет большими данными, есть реальная угроза самоцензуры и угроза развитию общества

Расшифровка лекции с Сыктывкарского баркемпа о том, почему с исчезновением приватности исчезнет правда

На Сыктывкарском баркемпе 1 июля эксперт в области компьютерной безопасности Вадим Лосев выступил на тему приватности в интернете. Он рассказал, чем безопасность отличается от приватности, зачем корпорациям и государствам базы данных, какие страхи надуманные, а чего на самом деле стоит опасаться. «7x7» публикует расшифровку лекции.

 

«Это вообще не про секреты»

Я хочу поговорить о том, что вообще происходит с приватностью в мире компьютеров и почему. Очень не хочется еще одного разговора о том, что приватности нет, все ужасно. Такие разговоры не только описывают реальность, они еще ее формируют через наши о ней представления, и реальность, в которой мы бессильны, — это не то, что нам выгодно сегодня. Нам выгодно понимать проблему лучше, бояться меньше, но и делать не сильно больше, потому что мы много напрягаться не умеем, мы живые люди. То есть когда говорят «сделайте вот эти двести вещей, никогда не делайте вот эти двести вещей, и, кстати, одна ошибка — и вам конец» — для пользователя значит просто «вам конец». Людей, и особенно организации, такое запугивание статистически парализует, а не мобилизует, то есть измеряемого улучшения в результате не происходит, и к тому же им еще становится очень дискомфортно жить.

Во-первых, давайте разберемся, чем отличается безопасность от приватности. Безопасность — это когда у нас есть что-то ценное, например сайт, и кто-то хочет ему сделать что-то нехорошее, например поломать. И у этого действия есть вероятность (как часто это происходит) и последствия (насколько нам больно, когда сайт не работает). И если что-то происходит достаточно часто и нам достаточно больно, то мы считаем, что у нас проблема безопасности, и начинаем ее решать.

Или можно говорить не про сайт, а про кошелек в троллейбусе, деньги на кредитке, секрет в телефоне, но система всегда такая: мы должны понять, что мы защищаем, от чего и от кого мы это защищаем, вероятность и последствия инцидента, хотим ли мы что-нибудь с этим делать (не обязательно должны, можем забить — это называется «принять риск»), и если да, то что мы делаем, решаем проблему или делаем ее меньше. Это механизм, на котором построена безопасность, а программки могут понадобиться, а могут и не понадобиться.

Бывший технический директор Агентства Национальной Безопасности на лекции рассказывал, что киберпространство состоит из людей, процессов и технологий, и косячат не технологии. То есть безопасность — это скорее про людей и процессы, чем про программки. А приватность — это не одна вещь, а целая куча совсем разных понятий, она включает в себя свободу мысли, возможность распоряжаться и контролировать собственное тело, неприкосновенность (то есть контроль над жилищем), контроль над собственной информацией, свободу от слежки (то есть контроль над приватностью перемещения), защиту репутации (то есть контроль над ней) и так далее. Если попытаться ее сформулировать проще, то приватность — контроль над окружающей нас средой и тем, какими мы представляем себя миру, то есть это вообще не про секреты. И когда приватности нет или ее становится меньше, то у нас исчезает возможность притворяться лучшими людьми, чем мы есть, то есть мы теряем возможность гибко подходить к социальным взаимодействиям, втихаря идти против социальной нормы, нарушать правила и не опасаться того, что у нас репутация просядет.

 

 

Хранить все — дешевле

А как мы теряем этот контроль над своим представлением? Когда мы сидим в Facebook или читаем новости, или проходим мимо точки Wi-Fi, покупаем кредиткой, носим в кармане смартфон, — одновременно с этими вещами еще создаются данные, нужные компьютерам вокруг нас, чтобы работать. То есть очень важно понимать, что в системе, обслуживающей кредитные карты, не сидит маленький гномик-Гитлер, который генерирует эти данные, чтобы следить за нами каждую секунду, чтобы нам стало плохо. Данные — это необходимый побочный продукт социальной жизни в информационном обществе, похожий на загрязнение окружающей среды выхлопными газами в технологическую эпоху. А кроме этого, системы коммуникации изменились, и, например, мы все больше говорим текстом, а это значит, что сказанное остается, а не исчезает в момент разговора, как раньше.

И раньше, а у нас в России и сейчас, было дешевле сортировать или перезаписывать (как «кольцо» СОРМ) или как Сноуден опубликовал, что американцы втихаря хранили три дня контента и месяц метаданных (система xkeyscore). Но по мере того, как хранение становится дешевле, западные и китайские бизнесы и государства уже достигли уровня, при котором просто бессмысленно решать, что нужно хранить, а что нужно удалить.

Вчера Евгений Смирнов рассказывал о том, как сотовые операторы хранили SMS-ки с 2008 по 2015 год, так что это в некотором смысле уже наша реальность. Проще хранить все, это дешевле, выгоднее, чем время на сортировку и управление решениями. Нас пока это только ожидает, и как раз закон Яровой, который с сегодняшнего дня, — это спор об этом.

 

«Вы — не товар, вы — продукт»

Итак, метаданные — это данные, которые нужны системе, чтобы работать. Эти данные нужны, например, сотовому оператору, чтобы считать деньги. Метаданные не менее важны, чем содержание, потому что они объясняют связи и отношения, кто кому нравится и кто кого интересует, и на основе этой информации можно много о нас понять. Их гораздо легче сохранять и обрабатывать, они машиночитаемые. И метаданные плюс дешевая возможность бесконечно их хранить породили большие данные как принцип, что нужно сохранить все просто так. А что мы с этим будем делать, мы потом разберемся. Мы пока не очень понимаем, чем это круто, но уже получаются всякие прикольные вещи, которые, например, вчера на первой лекции показывали. Бигдата делает возможным, к примеру, слежку из настоящего в прошлом, раньше у нас такой возможности не было.

Большая часть данных находится у корпораций, а не государств, то есть, наверное, у Google больше наших данных, чем у Российской Федерации. Люди регулярно просят все свои данные у Google и Facebook, и там тысячи страниц. И корпорации на этих данных зарабатывают, друг другу продают их, в основном ради показа таргетированной рекламы. Фраза про Facebook «вы не товар, вы продукт» — как раз про это. Причем это опять не про злокозненных капиталистов, а это просто такие бизнес-модели в интернете. Помните, еще совсем недавно никто не умел зарабатывать в интернете, потому что так сложилось, что все должно было быть доступно бесплатно или мы украдем, интернет был вообще некоммерческий. И до какого-то момента это был отдельный бизнес, например, спамеры собирали email и сейчас собирают, чтобы слать людям спам и зарабатывать деньги, а платформы с контентом жили отдельно и не знали, как заработать. А потом эти две концепции объединились в идее Google, Facebook, Microsoft, «Яндекса» и так далее, и теперь одна и та же фирма и держит у себя контент, и собирает данные для рекламы. Получается, что мы оплачиваем сервис личными данными, а не оплачивать не можем, потому что закон Меткалфа. Или мы просто не понимаем, в чем состоит сделка с нами, или она не заметна. И ладно Facebook! На чем, по-вашему, построен бизнес Angry Birds? Это бесплатная игра, которая следит за пользователями, а потом их данные продает. И в смысле того, что компании делают с данными, Apple вроде говорит, что отличается, потому что у них другая бизнес-модель. То есть они утверждают, что продают компьютеры и телефоны, а не данные.

И когда Цукерберг и Эрик Шмидт из Google говорят, что приватность больше не норма, они имеют в виду, что их бизнесы построены на этом. Важно понимать, что они лоббисты, а не эксперты, они «топят» за изменение представлений о приватности, а не констатируют антропологический факт.

 

Роботы делают ошибки

И, безусловно, данные эти сохраняются в целях психологической манипуляции, и эта манипуляция еще называется «реклама». И сейчас за счет того, что компании, которые показывают нам рекламу, имеют кучу наших данных, они, во-первых, точно знают, кому что показать, а во-вторых, имеют технологическую возможность показывать уникальный набор рекламы каждому конкретному человеку. Раньше нельзя было так, и за счет этого интернет забирает рекламные деньги у теликов. А потом государства посмотрели на то, как бизнес собирает метаданные, и говорят: о, мы тоже хотим гору данных анализировать! И просто у государства никогда бы не получилось собрать столько данных, то есть есть такой пример. Представьте, что вы обязаны сообщать государству о том, что у вас появился новый друг. Вы бы забили или восстали, но Facebook-то знает, когда это происходит, поэтому данные нужно где-то получать. А как их получать, к примеру, российскому государству у американских компаний? Американцы специально для этих целей придумали дурацкую процедуру, чтобы было долго и сложно. Ну, давайте мы заставим их переехать в Россию — закон о локализации. Ничего, правда, не выходит пока особо, большие западные платформы забивают. Зато государства стали собирать сами. Например, в московском метро распознают лица уже с марта, распознают лица в московских аэропортах, а с прошлого года работает пилотная система распознавания лиц в Москве, к которой подключено три тысячи камер.

И поскольку решения принимают роботы, то они иногда делают ошибки, но у них нет задачи никогда не делать ошибок — для того, чтобы показывать рекламу, это и не нужно. Пока речь идет просто о рекламе, то проблем нет, а когда данные появляются у государств, и они по этим данным попытаются, например, вычислить, кто террорист и кто преступник, и если они сделают ошибку и начнут мучить невиновного, то это уже большая проблема. Тогда есть реальная угроза, достаточная, чтобы люди, например, включали самоцензуру и не говорили на стремные темы. И тогда получается, что это уже угроза развитию общества, прогрессу.

И речь при обмене бесплатного сервиса на личные данные идет об обмене немедленного маленького выигрыша на отложенный непонятный проигрыш, и люди такое вообще не умеют, это подтверждают психологи. И если данные — это загрязнение окружающей среды, то вот мы смотрим на начало индустриальной эпохи и думаем: вот это они совершенно игнорировали проблему. Так мы такие же, нам придется что-то сделать.

 

 

И что с этим делать?

Во-первых, очевидно, что нам нужны и безопасность, и приватность одновременно. Часто безопасность и приватность представляют как одно из двух, типа «как это мы не умеем читать Telegram, а как же террористы?». Но обществу нужно и то, и другое.

Во-вторых нам для того, чтобы обеспечивать приватность, нужно строить социальные и технические системы таким образом, чтобы они обеспечивали безопасность. Это значит, что над ними нужен общественный контроль, они не могут быть секретными и непонятными. То есть секретность, отсутствие открытости, общественного надзора и возможности решать, как будет работать та или иная система, приводят к тому, что целая куча людей, да почти все люди, выключаются из процесса принятия решений, и решение почти неизбежно получается убогое. То есть чтобы «починить» ситуацию, нужно, чтобы общество сказало: «Приватность — наша ценность, мы ее хотим». И в культурах, где общество так говорит, ситуация исправляется, но ценности должны быть впереди технологий. Пример такой ценности — теперешнее регулирование GDPR в Европе. Они наверняка опять накосячат, но модель государственного регулирования выглядит примерно так. Появляется какая-нибудь крутая штука, потом вокруг нее появляются конфликты, потом государство пытается регулировать и делает это плохо, и потом в хорошем варианте постепенно делает все лучше.

Для сервисов, которые бы уважали приватность, нужны другие бизнес-модели. Например, я тыщу лет уже пользуюсь коммерческой электронной почтой, и у нас с ними совсем простые отношения: я плачу им четыре доллара в месяц, они дают мне электронную почту.

В-третьих, нельзя сделать так, чтобы, например, ФБР имел доступ к телефону, а, например, преступники не имели. Если кто-нибудь умеет, то умеют все, у кого есть деньги и желание. Либо все имеют, либо никто. И это надо понять и отказаться от идеи, что пусть хорошие имеют доступ, а плохие не имеют. И постепенно появляются технологии, которые не требуют доверия, например сквозное (end-to-end) шифрование. То есть самой программе по-прежнему нужно доверять, но серверу можно не доверять. И государствам нужно перестать сопротивляться этому, тем более, что нужны-то им метаданные.

В-четвертых, приватность — коллективное действие. Помните закон Меткалфа? Мы не можем перейти на Telegram в одиночку, мы должны переходить сообществами, индивидуальных действий недостаточно.

Почему я считаю, что это все стоит делать. Я считаю, что с исчезновением приватности может исчезнуть правда, потому что правдивость — следствие осознанного выбора между правдой и ложью. В тот момент, когда корпорации и государства будут знать о нас столько, что врать станет невозможно, что-то очень большое и базовое исчезнет, а нам очень надо это сохранить.


Реклама 6+. Любишь компьютерные игры? Тогда предлагаем тебе поиграть в игру Майнкрафт онлайн на сайте https://play-minecraft.online/minecraft-games/minecraft-crafting/. Играй с любимыми героями, а также общайся в чате. Заводи новых знакомых и проводи время весело.


 

Фото Кирилла Шейна, «7х7»

Последние новости

Комментарии (0)
или зарегистрируйтесь, чтобы оставить комментарий, как зарегистрированный пользователь.