Worst-case thinking

в 10:36, , рубрики: 89417-6, bruce schneier, информационная безопасность, переводы

В 2010 году на одной конференции по защите информации круглый стол был посвящён пессимистичным сценариям. На протяжении нескольких часов кряду выдающиеся специалисты по безопасности пугали друг друга возможными крупномасштабными атаками на коммуникационную инфраструктуру, энергетику, экономику вкупе с военным ударом и прочая, и прочая.

Worst case thinking

Мой пессимистичный сценарий был таков: в будущем все станут обсуждать только пессимистичные сценарии.

Дело в том, что пессимисты многое не принимают во внимание. Гиперболизируя принцип осторожности, они пытаются вообразить последствия самого неудачного стечения обстоятельств и поступать так, как будто самое неудачное стечение обстоятельств является наиболее вероятным. Воображение заменяет логику, слухи заменяют анализ рисков, страх одерживает верх над здравым смыслом. Общество начинает остро ощущать своё бессилие и уязвимость, страх парализует граждан. Пессимизм делает нас уязвимыми к террору.

Постоянно пытаясь предотвращать пессимистичные сценарии, мы игнорируем оптимальные решения по ряду причин:
1. Во-первых, соотношение «цена/качество» лишается числителя. В обычной жизни у каждого принимаемого решения есть плюсы и минусы. Однако когда мы пытаемся понять, что в принципе может пойти не так — а затем действуем, как будто всё это обязательно произойдёт — мы фокусируемся лишь на гипертрофированных, маловероятных опасностях и при этом забываем оценить целесообразность каждого принимаемого решения.
2. Во-вторых, мы пользуемся извращённой логикой. Принимая любое решение, вы обязаны обосновать, что оно ни при каком развитии событий не приведёт к катастрофе. Все остальные вопросы, в том числе оптимальность, получают меньший приоритет.
3. В-третьих, при таком подходе можно обосновать необходимость прямо противоречащих друг другу действий.

— Если мы построим атомную электростанцию, она может взорваться. Если мы решим её не строить, топлива и электроэнергии не хватит на всех и мир погрузится во тьму и анархию.
— Если разрешить полёты над вулканами Исландии, то самолёты будут падать, погибнут люди. Если не разрешить, то органы для трансплантации не прибудут вовремя, погибнут люди.
— Если мы введём войска в Ирак, мы дестабилизируем обстановку на Ближнем Востоке, спровоцировав бунты и гибель мирного населения. Если мы оставим Ирак в покое, Саддам Хусейн нанесёт по США ядерный удар.
— Если взять Интернет под контроль, то цензура уничтожит все оппозиционные сайты. Если не взять Интернет под контроль, то миллионы детей будут изнасилованы и покончат с собой.

Даже тогда, когда на основе этой логики мы можем сделать однозначный выбор, как правило, мы делаем его неверно. Мы многого боимся, но чего-то в большей степени, чего-то — в меньшей. Если мы ставим своей целью сделать невозможным самый страшный сценарий, мы начинаем уделять слишком много внимания опасностям, которые мы склонны преувеличивать. Страх перед лицом возможного теракта затмевает боязнь тотального контроля, ликвидации приватности и чёрт знает чего ещё; страх и непонимание современных технологий заставляет общество сдерживать их развитие; стратегических ядерных ракет мы боимся больше, чем дешёвого огнестрельного оружия; наши дети должны быть защищены от любых угроз, любой ценой; адронный коллайдер нельзя строить, поскольку он может уничтожить нашу планету. Возьмите сценарий любого кассового голливудского блокбастера — и вот вам готовая опасность, которую общество немедленно обязано предотвратить любой ценой.

4. Наконец, в-четвёртых: обсуждая пессимистичные сценарии, мы поощряем невежество. Вместо того, чтобы обсуждать то, в чём мы разбираемся, мы концентрируемся на том, о чём мы не имеем понятия, маскируя свою некомпетентность работающим воображением.

Экс-министр обороны США Дональд Рамсфельд как-то сказал: «Reports that say that something hasn't happened are always interesting to me, because as we know, there are known knowns; there are things we know we know. We also know there are known unknowns; that is to say we know there are some things we do not know. But there are also unknown unknowns — the ones we don't know we don't know» («Я всегда с большим интересом читаю отчёты о том, что могло случиться, но было предотвращено, поскольку мы знаем, что существуют известные известности: вещи, о которых мы знаем, что мы их знаем. Мы также знаем, что существуют известные неизвестности, то есть что есть определённые вещи, о которых мы ничего не знаем. Но есть также и неизвестные неизвестности — те вещи, о которых мы не знаем, что мы их не знаем»). А как вам это: «The absence of evidence is not evidence of absence» («Отсутствие свидетельств не есть свидетельство отсутствия»)? Некомпетентность сама по себе не провоцирует страх; но нам становится очень худо, когда мы пытаемся воображать в попытках компенсировать своё невежество.

Причём нам становится худо настолько, что мы уже морально готовы к крайним мерам. Мы не можем спокойно ожидать, что висящее на сцене ружьё когда-нибудь выстрелит, нам приходится действовать так, как будто ружьё должно выстрелить в следующий миг. Вроде бы предотвращая пессимистичный сценарий, на самом деле мы неконтролируемо дестабилизируем ситуацию.

Реальная опасность — в том, что наше общество теряет способность прогнозировать риски. Мы отказываемся от расчёта вероятности, ограничиваясь поиском потенциальной возможности. Не имея представления, какая поломка наиболее вероятна, мы сплетничаем о том, что вообще может сломаться.

Пессимизм способствует принятию никуда не годных решений, неудачному проектированию систем и прорехам в безопасности. С некоторыми её последствиями мы сталкиваемся непосредственно. Например, в сфере безопасности авиаперелётов — действия американской организации под названием Transportation Security Administration (TSA) нас часто смешат, а иногда ужасают. Ведь можно снимать первоклассников с самолёта, можно взрывать плохо припаркованные машины, верно? You can't be too careful!

Можно обезопасить себя от всего на свете. Можно вообще отказаться от авиаперелётов, потому что самолёт может упасть. Можно снаружи запирать детей в квартире, чтобы до них не добрался педофил. Можно оборвать все контакты с другими людьми, ведь человек может причинить другому человеку боль. Стивен Хокинг предпочёл бы избежать контактов с инопланетянами, поскольку инопланетяне могут быть недружелюбно к нам настроены, — значит ли это, что он предлагает ликвидировать радио и телевидение, чтобы не привлекать к себе внимание из космоса? Обсуждая только наихудшие из возможных стечений обстоятельств, легко довести любую мысль до абсурда и паранойи.

Фрэнк Фьюреди, профессор социологии из Кентского университета, пишет: «Пессимизм побуждает общество рассматривать массовые страхи как один из основных мотивов своих действий, руководствуясь которым, правительство вынуждено вести политику. Пессимизм лишает человека чувства защищённости, оставляя взамен ощущение растерянности и бессилия. Распространяя веру в то, что граничные, худшие случаи являются нормой, общество вселяет в людей страх перед огромным множеством потенциальных угроз, от которых невозможно укрыться».

В первую очередь это играет на руку террористам, поскольку запуганное население легко терроризировать — своей цели достигают даже предотвращённые теракты вроде случая с террористом, проносившим бомбу под одеждой в канун 2010-го Рождества Христова, или вроде примера с начинённым взрывчаткой автомобилем на Таймс-сквер.

Изменяя что бы то ни было, мы должны стараться не сделать жизнь хуже, чем она есть сейчас. Но при этом не следует преувеличивать опасность того, вероятность чего невелика. Не следует уделять маловероятному стечению обстоятельств больше внимания, чем оно заслуживает.

Принцип под названием «worst-case thinking» — на самом деле никакой не принцип, это фокус, позволящий вам оправдать ваши опасения. Он также помогает ленивым и предвзятым людям приводить на первый взгляд убедительные аргументы и при этом не разбираться досконально в вопросе. Эти люди придерживаются такой позиции, чтобы им не пришлось отвечать на контраргументы, поэтому нет никакого смысла в том, чтобы разговаривать с ними.

Автор: ximaera

* - обязательные к заполнению поля