Этическая и техническая проблема «цифрового стукачества» с автоматическим распознаванием лиц разыскиваемых граждан

в 7:17, , рубрики: Dura Lex, Google Glass, будущее здесь, Гаджеты. Устройства для гиков, оппозиция, правоохранительные органы, распознавание лиц, распознавание лица, спецслужбы, метки: , , , , ,

К сожалению, блогозапись «Что я жду от Google Glass» блоггера stalker2011x оказалась отправленною в черновики. Я считаю, однако же, один из фрагментов её достаточно важным для того, чтобы мой контраргумент не пропал — поэтому позволю себе посвятить ему отдельную блогозапись на Хабрахабре.

Речь идёт вот о каком предложении, которое stalker2011x изложил:

Функция автоматического распознавания лиц (и автоматический поиск в базе данных преступников / разыскиваемых людей)

Только представьте, что вы можете помогать в поиске преступников, абсолютно ничего не делая, ведь распознавание лиц будет происходить автоматически. А разыскиваемым придётся больше всех опасаться, ведь их может засечь даже обычный человек с Google Glass. Выглядит всё так — скачиваем официально приложение для поиска разыскиваемых людей и всё, теперь когда очки обнаружат «лицо», будет сделан снимок, и если найдено совпадение в базе текущих разыскиваемых лиц, очки автоматически отправят фотографию с координатами места куда нужно :) Понимаю, что это может выглядеть вмешательством в частную жизнь, но с другой стороны, если подумать, подобная «полезная функция» была бы очень востребована спецслужбами (и не только), даже без нашего явного согласия…

У этой технологии (появление которой весьма вероятно) я вижу две проблемы: этическую и техническую. Давайте обсудим их.


Этическая проблема заключается в том, что не очень уютно доверять спецслужбам пополнение списка автоматически разыскиваемых лиц. Особенно если речь идёт о российских спецслужбах. На примере «чёрного списка» сайтов мы видим, что иногда он пополняется такими сайтами, что здравый смысл невольно восстаёт (или хотя бы приподымает брови от удивления). Не то ли будет и с «чёрным списком» людей? Надолго ли он останется аналогом стенда «их разыскивает полиция», не придёт ли аппетит во время еды?

В частности, можно заподозрить, что лишь сперва «чёрный список» людей станет пополняться реальными разыскиваемыми преступниками: скоро придёт черёд каких-нибудь политических активистов оппозиции (тем более, что при желании на каждого из них можно состряпать какое-нибудь уголовное дело), а затем список начнут пополнять буквально по каждому чиху. Насчёт «чёрного списка» сайтов можно же было заметить в марте, например, что в этот «чёрный список» добавили не только сравнительно безобидный текст юмориста Каганова, где ещё можно было обнаружить некоторые суицидные мотивы, но даже и ту блогозапись в его блоге, где Каганов обсуждал наложенную на него блокировку (а уж в этой блогозаписи при всём желании сколько-нибудь суицидным можно признать только эпиграф, очевидно крайне иронический).

А ещё на примере «чёрного списка» сайтов можно было видеть занесение туда сайтов достаточно крупного размера — например, занесли LiveInternet, Википедию, WordPress, EVE Online, YouTube. У каждого из них — множество участников, множество посетителей. Рассуждая по аналогии, в отношении «чёрного списка» людей можно (и нужно, нужно!) подозревать теоретическую возможность тотальной слежки за не менее многочисленными (даже многомиллионными!) категориями граждан — например, за участниками каких-нибудь независимых профсоюзов, молодёжных и оппозиционных группировок. Также возможно отслеживание каких-нибудь вероисповедных групп (диаволопоклонников, сатанистов, анастасийцев, поедателей идоложертвенной пищи, сектантов, и так далее), каких-нибудь национальных и расовых групп (ну, например, азиатов, или евреев, или чернокожих; кстати, да: уж кого-кого, а чернокожих-то программно без труда можно отличать от белых; а после некоторой донастройки и калибровки программа сможет отслеживать не только чернокожих, но и так называемых «черножопых», не говоря уж о возможности уверенно различать отдельные этнические группы их) — или же, напротив, шовинистов да расистов (предположим, антисемитов — нетрудно припомнить, что во Франции стремились раскрыть персональные данные их, а значит, легко могут и местоположением заинтересоваться). Я-то думаю, что на самом деле следить станут без предвзятости (то есть и за теми, и за этими). Но получится совсем презабавно (я уж точно посмеюсь искреннейше, искреннейше!), когда кто-нибудь «наверху» наконец припомнит историю о том, как Facebook да Twitter стали катализаторами «арабской весны», заинтересуется обладателями Google Glass, и все эти пользователи программы «добровольной слежки» станут тупо доносить спецслужбам о передвижениях друг друга и самих себя.


Техническая же проблема куда серьёзнее, и она не сводится к одним только энергетическим и информационным затратам (хотя и они ожидаются колоссальными). Куда сложнее этих затрат непременно окажется проблема ложных срабатываний.

Предположим, что вероятность ложного срабатывания (ложного сопоставления лица некоторого гражданина с одним из лиц, известных розыскной системе) составляет всего-навсего тысячную долю процента (немыслимо низкий показатель, даже недостижимо низкий для таких примитивных систем, как современные нечёткие фотокамеры в Google Glass или даже в мобильниках, к тому же работающих в движении и на значительном расстоянии от лиц в городской толпе).

Также предположим ещё, что все вышеперечисленные этические проблемы были совершенно преодолены, и в базу данных заносятся только те лица, которые объективно заслуживают и выслеживания, и даже немедленного задержания (например, какие-нибудь террористы, вооружённые массовые убийцы, и так далее), то есть по каждому из них после обнаружения сразу станет работать группа захвата. И таких лиц по-настоящему мало. (Например, всего десяток или даже полдесятка.)

И что же? Даже при этих предположениях мы получаем пренеприятную ситуацию: каждое лицо, занесённое в базу, за счёт ложных срабатываний создаёт одного лишнего «подозреваемого террориста» на каждые сто тысяч человек. И что это значит? Ну, можете и сами вообразить, наверное: в каждом городе с более чем миллионом человек достаточно высокотехнологического населения (в России это не только обе столицы, но и такие города, как Воронеж, Пермь, Красноярск, Волгоград, Уфа, Челябинск, Омск, Новосибирск, Екатеринбург, Казань...) на каждого реального разыскиваемого появляется, по меньшей мере, ещё десяток ни в чём не повинных граждан, которым нельзя и на улице показаться без того, чтобы их не уложили навзничь, лицом в грязь, под дулами автоматов. И это, понятно, всего лишь по сáмой меньшей мере; усердная же группа захвата в первую же неделю (а не то и в первый день) сможет устроить им переломы конечностей, травмы внутренних органов, и так далее, и так далее.

Поэтому системы массовой слежки на государственном уровне почти никто и не внедряет (подчас даже мешают корпоративным программам распознавания лиц — мы видели это на примере Facebook), а если кто и внедряет, то совсем для других целей, вероятно, а не для задержания потенциальных правонарушителей с целью предотвращения преступлений: в частности, директор по технологиям из ЦРУ огласил же, что в Лондоне (который считается городом с самым большим количеством полицейских фотокамер на планете) за всё время работы этих камер благодаря им сумели предотвратить только одно преступление.

Делайте вывод: висят там эти фотовидеокамеры совсем для другого. Например, чтобы в очередной раз ущемить гражданские права и получить от этого очередной слатенький импульс упоения властью.

Можно сделать и другой, более мрачный вывод. Предположим, что вы гениальный математик и программист, готовый создать новый небывалый алгоритм и им совершить такой революционный прорыв в области распознавания образов, который уменьшит число ложных срабатываний на два порядка. Тогда, разумеется, и вышеописанных неповинных граждан будет появляться не десяток в каждом городе и на каждое из разыскиваемых лиц, а всего два или три на всю страну и за всё время существования системы вашей. Но тогда, даже и не будучи зрителем какого-нибудь «Mercury Rising» или «Psycho-Pass», вы всё же должны отдавать себе отчёт в том, что этих единичных аномальных граждан по мере их обнаружения будут стремиться тихо ликвидировать спецслужбы, чтобы создать представление о безупречности системы. Так что вы не просто гениальный математик и программист, а несёте существенную ответственность за грядущие убийства невиновных людей в интересах национальной безопасности.

Горите в аду!

Автор: Mithgol

Источник

Поделиться

* - обязательные к заполнению поля