- PVSM.RU - https://www.pvsm.ru -
К сожалению, блогозапись «Что я жду от Google Glass [1]» блоггера stalker2011x [2] оказалась отправленною в черновики. Я считаю, однако же, один из фрагментов её достаточно важным для того, чтобы мой контраргумент не пропал — поэтому позволю себе посвятить ему отдельную блогозапись на Хабрахабре.
Речь идёт вот о каком предложении, которое stalker2011x [2] изложил:
Функция автоматического распознавания лиц (и автоматический поиск в базе данных преступников / разыскиваемых людей)
Только представьте, что вы можете помогать в поиске преступников, абсолютно ничего не делая, ведь распознавание лиц будет происходить автоматически. А разыскиваемым придётся больше всех опасаться, ведь их может засечь даже обычный человек с Google Glass. Выглядит всё так — скачиваем официально приложение для поиска разыскиваемых людей и всё, теперь когда очки обнаружат «лицо», будет сделан снимок, и если найдено совпадение в базе текущих разыскиваемых лиц, очки автоматически отправят фотографию с координатами места куда нужно :) Понимаю, что это может выглядеть вмешательством в частную жизнь, но с другой стороны, если подумать, подобная «полезная функция» была бы очень востребована спецслужбами (и не только), даже без нашего явного согласия…
У этой технологии (появление которой весьма вероятно) я вижу две проблемы: этическую и техническую. Давайте обсудим их.
В частности, можно заподозрить, что лишь сперва «чёрный список» людей станет пополняться реальными разыскиваемыми преступниками: скоро придёт черёд каких-нибудь политических активистов оппозиции (тем более, что при желании на каждого из них можно состряпать какое-нибудь уголовное дело), а затем список начнут пополнять буквально по каждому чиху. Насчёт «чёрного списка» сайтов можно же было заметить в марте [3], например, что в этот «чёрный список» добавили не только сравнительно безобидный текст юмориста Каганова, где ещё можно было обнаружить некоторые суицидные мотивы, но даже и ту блогозапись в его блоге, где Каганов обсуждал наложенную на него блокировку (а уж в этой блогозаписи при всём желании сколько-нибудь суицидным можно признать только эпиграф, очевидно крайне иронический).
А ещё на примере «чёрного списка» сайтов можно было видеть занесение туда сайтов достаточно крупного размера — например, занесли LiveInternet [4], Википедию [5], WordPress [6], EVE Online [7], YouTube [8]. У каждого из них — множество участников, множество посетителей. Рассуждая по аналогии, в отношении «чёрного списка» людей можно (и нужно, нужно!) подозревать теоретическую возможность тотальной слежки за не менее многочисленными (даже многомиллионными!) категориями граждан — например, за участниками каких-нибудь независимых профсоюзов, молодёжных и оппозиционных группировок. Также возможно отслеживание каких-нибудь вероисповедных групп (диаволопоклонников, сатанистов, анастасийцев, поедателей идоложертвенной пищи, сектантов, и так далее), каких-нибудь национальных и расовых групп (ну, например, азиатов, или евреев, или чернокожих; кстати, да: уж кого-кого, а чернокожих-то программно без труда можно отличать от белых; а после некоторой донастройки и калибровки программа сможет отслеживать не только чернокожих, но и так называемых «черножопых», не говоря уж о возможности уверенно различать отдельные этнические группы их) — или же, напротив, шовинистов да расистов (предположим, антисемитов — нетрудно припомнить, что во Франции [9] стремились раскрыть персональные данные их, а значит, легко могут и местоположением заинтересоваться). Я-то думаю, что на самом деле следить станут без предвзятости (то есть и за теми, и за этими). Но получится совсем презабавно (я уж точно посмеюсь искреннейше, искреннейше!), когда кто-нибудь «наверху» наконец припомнит историю о том, как Facebook да Twitter стали катализаторами «арабской весны», заинтересуется обладателями Google Glass, и все эти пользователи программы «добровольной слежки» станут тупо доносить спецслужбам о передвижениях друг друга и самих себя.
Предположим, что вероятность ложного срабатывания (ложного сопоставления лица некоторого гражданина с одним из лиц, известных розыскной системе) составляет всего-навсего тысячную долю процента (немыслимо низкий показатель, даже недостижимо низкий для таких примитивных систем, как современные нечёткие фотокамеры в Google Glass или даже в мобильниках, к тому же работающих в движении и на значительном расстоянии от лиц в городской толпе).
Также предположим ещё, что все вышеперечисленные этические проблемы были совершенно преодолены, и в базу данных заносятся только те лица, которые объективно заслуживают и выслеживания, и даже немедленного задержания (например, какие-нибудь террористы, вооружённые массовые убийцы, и так далее), то есть по каждому из них после обнаружения сразу станет работать группа захвата. И таких лиц по-настоящему мало. (Например, всего десяток или даже полдесятка.)
И что же? Даже при этих предположениях мы получаем пренеприятную ситуацию: каждое лицо, занесённое в базу, за счёт ложных срабатываний создаёт одного лишнего «подозреваемого террориста» на каждые сто тысяч человек. И что это значит? Ну, можете и сами вообразить, наверное: в каждом городе с более чем миллионом человек достаточно высокотехнологического населения (в России это не только обе столицы, но и такие города, как Воронеж, Пермь, Красноярск, Волгоград, Уфа, Челябинск, Омск, Новосибирск, Екатеринбург, Казань...) на каждого реального разыскиваемого появляется, по меньшей мере, ещё десяток ни в чём не повинных граждан, которым нельзя и на улице показаться без того, чтобы их не уложили навзничь, лицом в грязь, под дулами автоматов. И это, понятно, всего лишь по сáмой меньшей мере; усердная же группа захвата в первую же неделю (а не то и в первый день) сможет устроить им переломы конечностей, травмы внутренних органов, и так далее, и так далее.
Поэтому системы массовой слежки на государственном уровне почти никто и не внедряет (подчас даже мешают корпоративным программам распознавания лиц — мы видели это на примере Facebook [10]), а если кто и внедряет, то совсем для других целей, вероятно, а не для задержания потенциальных правонарушителей с целью предотвращения преступлений: в частности, директор по технологиям из ЦРУ огласил же [11], что в Лондоне (который считается городом с самым большим количеством полицейских фотокамер на планете) за всё время работы этих камер благодаря им сумели предотвратить только одно преступление.
Делайте вывод: висят там эти фотовидеокамеры совсем для другого. Например, чтобы в очередной раз ущемить гражданские права и получить от этого очередной слатенький импульс упоения властью.
Можно сделать и другой, более мрачный вывод. Предположим, что вы гениальный математик и программист, готовый создать новый небывалый алгоритм и им совершить такой революционный прорыв в области распознавания образов, который уменьшит число ложных срабатываний на два порядка. Тогда, разумеется, и вышеописанных неповинных граждан будет появляться не десяток в каждом городе и на каждое из разыскиваемых лиц, а всего два или три на всю страну и за всё время существования системы вашей. Но тогда, даже и не будучи зрителем какого-нибудь «Mercury Rising [12]» или «Psycho-Pass [13]», вы всё же должны отдавать себе отчёт в том, что этих единичных аномальных граждан по мере их обнаружения будут стремиться тихо ликвидировать спецслужбы, чтобы создать представление о безупречности системы. Так что вы не просто гениальный математик и программист, а несёте существенную ответственность за грядущие убийства невиновных людей в интересах национальной безопасности.
Горите в аду!
Автор: Mithgol
Источник [14]
Сайт-источник PVSM.RU: https://www.pvsm.ru
Путь до страницы источника: https://www.pvsm.ru/budushhee-zdes/32788
Ссылки в тексте:
[1] Что я жду от Google Glass: http://habrahabr.ru/post/177455/
[2] stalker2011x: http://habrahabr.ru/users/stalker2011x/
[3] в марте: http://lleo.me/dnevnik/2013/03/18.html
[4] LiveInternet: http://habrahabr.ru/post/127131/
[5] Википедию: http://habrahabr.ru/post/175629/
[6] WordPress: http://habrahabr.ru/post/172971/
[7] EVE Online: http://habrahabr.ru/post/158367/
[8] YouTube: http://habrahabr.ru/post/159667/
[9] во Франции: http://habrahabr.ru/post/166977/
[10] на примере Facebook: http://habrahabr.ru/post/168751/
[11] огласил же: http://habrahabr.ru/post/177433/
[12] Mercury Rising: http://en.wikipedia.org/wiki/Mercury_Rising
[13] Psycho-Pass: http://en.wikipedia.org/wiki/Psycho-Pass
[14] Источник: http://habrahabr.ru/post/177653/
Нажмите здесь для печати.