
Чтобы двигаться быстро — идите в одиночку, чтобы пройти далеко — идите вместе
Читать полностью »

Чтобы двигаться быстро — идите в одиночку, чтобы пройти далеко — идите вместе
Читать полностью »
Голые цифры, проценты, графики, суммы, что угодно сами по себе не имеют никакой ценности. Значение у любой чисто экономической информации — «хорошо» или «плохо», мотивация (жадность или расточительность, копить или тратить, рисковать или осторожничать, поделиться или отобрать, добавить денег сверху или минимизировать сумму насколько возможно) — появляется только в призме эмоциональной системы координат социальной обезьяны.
Эмоциональный фактор фундаментален для любых социальных отношений в принципе, потому что, кроме как набором эмоциональных представлений, что такое хорошо, а что такое плохо, они ничем больше не регулируются. Система ценностей человека — эмоциональная. В эмоциях человека собраны все мотивы действовать и все оценки происходящего. И если человек без социальных инстинктов ещё сможет функционировать на индивидуалистичных, то общество — нет.

Greed is not good
Читать полностью »
Председатель комиссии.
Вы читаете на нескольких языках, знакомы с высшей математикой и можете выполнять кое-какие работы. Считаете ли вы, что это делает вас Человеком?
Отарк.
Да, конечно. А разве люди знают что-нибудь еще?
(Из допроса отарка. Материалы Государственной комиссии)
Эта статья — о морали и этике. В общем случае подобную статью можно написать здесь разве что обсуждая вопрос о том, кого должен будет сбивать автопилот беспилотного автомобиля в случае аварии. Но я полагаю, что обсуждение этого вопроса очень важно, потому что во всех дискуссиях используют этические основания своих позиций — но их никто прямо не проговаривает.
Над IT-сообществом постоянно витает незримый дух «успешного успеха», крайне сильна вера в справедливый мир и возможность добиться всего собственным трудом. И это часто приводит в чистом виде к ницшеанской морали, где всякий слабый заслуживает порицания за свою слабость. И это в целом ни у кого не вызывает возмущения, но почему-то возмущение довольно часто вызывают неизбежные следствия такого подхода к миру.
Я хочу попробовать описать связь этого популярного социал-дарвинизма, которым люди в целом довольны, и различных неприятных поледствий, которыми люди в целом недовольны. Может быть это позволит кому-то осознать, что к этим неприятным последствиям приводит именно социал-дарвинизм.
Читать полностью »
Хочу рассмотреть ставший вдруг актуальным вопрос. Цифра с каждым годом всё больше входит в нашу жизнь, а значит, результатами труда программистов и всех представителей сферы IT пользуется всё больше людей.
Но последние события, связанные с распостранением коронавируса и последующими мерами властей по всему миру, заставляют говорить о той степени ответственности, которую наш цех несёт, когда речь идёт о контурах нового, возможно, не самого радужного мира.
Если до всеобщей карантинизации населения IT было конечно важной, но всё же одной из отраслей, то с переходом всех на удалёнку многие вещи стали просто незаменимы. Однако, цифра используется не только для решения бизнес- и личных задач. Но и для ужесточения контроля над собственными населением, часто не имеющего под собой никаких разумных с точки зрения интересов общества оснований.

Этика ИИ — горячая и актуальная тема в наши дни. И это правильно.
С расцветом систем ИИ и их очень большим распространением возникают резонные беспокойства о том, что эти компьютерные системы просто вброшены в этот мир без понимания возможных последствий для общества.
Существует серьезное беспокойство, связанное с тем, что новые системы искусственного интеллекта имеют встроенные в них предубеждения и склонны к токсичным с точки зрения этики и общества действиям.
Когда речь заходит об этике искусственного интеллекта, я утверждаю, что есть по меньшей мере два основных аспекта (или правила):
Возможно, суть первого правила очевидна – смысл этики ИИ в том, что поведение этих систем должно соответствовать этическим нормам общества.
Ниже будет показано, что соблюдение первого правила сложнее, чем может показаться.
Читать полностью »

Два года назад MIT запустила платформу Moral Machine. Каждый желающий мог пройти тест из смоделированных 13 ситуаций: указать, как стоит вести себя беспилотному автомобилю и кем предпочтительней пожертвовать, когда потери неизбежны. За два года в исследовании приняли участие больше 2 млн людей со всего мира. Они предоставили 40 млн решений для смоделированных ситуаций.
Вчера MIT опубликовало результаты этого эксперимента.

Пример задания из теста. Тормоза беспилотного автомобиля отказали. Что предпочтительнее: сохранять курс (тогда погибнут трое пожилых людей, переходящих дорогу на красный свет) — или свернуть и врезаться в ограждение (погибнут двое взрослых людей и ребенок, находящиеся в машине)?Читать полностью »

В блоге одного из писателей-фантастов я подсмотрел интересненькое, хочу поделиться.
Глобальный манифест «этики в технологиях»:
Под катом — перевод статьи про новую книгу футуриста Герда Леонгарда «Переход в эпоху цифровых технологий».
Читать полностью »
Впервые я услышал эту фразу, когда я был буйным студентом-революционером от генерал-майора Петрова на видеолекции про ДОТУ (Достаточно Общую Теорию Управления), с тех пор я её часто употребляю как «последний довод короля» в обсуждениях дел мирских. Но так как мир вошел в активную фазу постправды и фэйка с метастазами, я решил копнуть первоисточники и разобраться, в каком контексте эту фразу употребил старина Бэн, и что он этим хотел сказать/доказать читателю.
Предлагаю прочитать первоисточник и обсудить именно суть фразы, границу ее применимости. (А не личность Петрова, ДОТУ или качество перевода.) Если есть знатоки истории, буду благодарен, если обрисуете более широкий контекст происходящего в то время.

Ассамблея Пенсильвании: Официальное письмо Губернатору
Опубликовано в протоколе заседания Палаты представителей, 1755-1756 гг. (Филадельфия, 1756), с. 19-21.
[11 ноября, 1755]
Да будет угодно губернатору,
В настоящее время Палата представителей собралась с самыми искренними намерениями, по возможности, избежать возникновения споров с губернатором на любой счет. И, глубоко переживая за нынешнее бедственное положение пограничных районов, преисполнена решимости пойти на любые меры ради обеспечения общественной безопасности и благополучия, которые вполне могли быть ожидаемы как со стороны верноподданных британской короны, так и патриотов своей страны.
Ввиду этого, на чтении послания Губернатора от третьего числа текущего месяца вместе с сопроводительными документами был немедленно внесен законопроект об увеличении суммы, выделяемой на содержание Его Величества, об увеличении выпуска бумажных денег и о выделении средств для погашения задолженности в течение пяти лет, согласно рекомендациям Губернатора.Читать полностью »
Написать этот пост меня побудило справедливое замечание пользователя VBart к моему же предыдущему посту, который сейчас в черновиках. После соответствующих правок опубликую черновик — ссылка на комментарий заработает.
Я задумался об этике — гласной и негласной — пользования открытым кодом. Думаю, эта своеобразная памятка будет полезна не только мне, но вообще тем, кто, как и я, просто не задумывался о таком раньше, руководствуясь изложенным в лицензиях. По крайней мере в рунете чего-то подобного не нашёл, поэтому полагаю, что текст имеет право на жизнь.
Здесь как нельзя лучше подходит «золотое правило христианина»: «Относись к другим так, как хотел бы, чтобы относились к тебе», поэтому представим, что мы уже написали абстрактный проект (не суть важно, какой именно) и хотим, чтобы к нему относились хорошо.
Читать полностью »