Рубрика «этика»

О предвзятости искусственного интеллекта - 1

tl;dr:

  • Машинное обучение ищет закономерности в данных. Но искусственный интеллект может быть «предвзят» — то есть, находить неверные паттерны. К примеру, система обнаружения рака кожи по фотографии может обращать особое внимание на снимки, сделанные во врачебном кабинете. Машинное обучение не умеет понимать: его алгоритмы лишь выявляют закономерности в числах, и если данные не репрезентативны, таким будет и результат их обработки. А отлавливать такие баги может быть непросто из-за самой механики машинного обучения. Читать полностью »

Два года назад MIT запустила платформу Moral Machine. Каждый желающий мог пройти тест из смоделированных 13 ситуаций: указать, как стоит вести себя беспилотному автомобилю и кем предпочтительней пожертвовать, когда потери неизбежны. За два года в исследовании приняли участие больше 2 млн людей со всего мира. Они предоставили 40 млн решений для смоделированных ситуаций.

Вчера MIT опубликовало результаты этого эксперимента.

Кого давить беспилотному автомобилю: результаты эксперимента Moral Machine - 1
Пример задания из теста. Тормоза беспилотного автомобиля отказали. Что предпочтительнее: сохранять курс (тогда погибнут трое пожилых людей, переходящих дорогу на красный свет) — или свернуть и врезаться в ограждение (погибнут двое взрослых людей и ребенок, находящиеся в машине)?Читать полностью »

image

В блоге одного из писателей-фантастов я подсмотрел интересненькое, хочу поделиться.

Глобальный манифест «этики в технологиях»:

  1. Право оставаться натуральным, то есть биологическим существом. Это значит, что мы можем устраиваться на работу, использовать публичные сервисы и функционировать в обществе без требования размещать какие-либо технологии на своём теле или внутри него.
  2. Право быть неэффективными там, где это касается наших базовых человеческих качеств. Мы должны иметь возможность быть медленнее, чем технические системы, и не ставить эффективность выше человечности.
  3. Право отключаться от сетей. Мы должны иметь право уходить в оффлайн и блокировать коммуникации, а также мониторинг и трэкинг.
  4. Право на анонимность. Мы должны иметь возможность запретить идентификацию своей личности, когда это не представляет опасности для себя или окружающих.
  5. Право нанимать людей вместо машин. Мы должны поддерживать компании, которые выбирают людей вместо машин, даже если это менее эффективно и более затратно.

Под катом — перевод статьи про новую книгу футуриста Герда Леонгарда «Переход в эпоху цифровых технологий».
Читать полностью »

Впервые я услышал эту фразу, когда я был буйным студентом-революционером от генерал-майора Петрова на видеолекции про ДОТУ (Достаточно Общую Теорию Управления), с тех пор я её часто употребляю как «последний довод короля» в обсуждениях дел мирских. Но так как мир вошел в активную фазу постправды и фэйка с метастазами, я решил копнуть первоисточники и разобраться, в каком контексте эту фразу употребил старина Бэн, и что он этим хотел сказать/доказать читателю.

Предлагаю прочитать первоисточник и обсудить именно суть фразы, границу ее применимости. (А не личность Петрова, ДОТУ или качество перевода.) Если есть знатоки истории, буду благодарен, если обрисуете более широкий контекст происходящего в то время.

image

Ассамблея Пенсильвании: Официальное письмо Губернатору

Опубликовано в протоколе заседания Палаты представителей, 1755-1756 гг. (Филадельфия, 1756), с. 19-21.

[11 ноября, 1755]

Да будет угодно губернатору,
В настоящее время Палата представителей собралась с самыми искренними намерениями, по возможности, избежать возникновения споров с губернатором на любой счет. И, глубоко переживая за нынешнее бедственное положение пограничных районов, преисполнена решимости пойти на любые меры ради обеспечения общественной безопасности и благополучия, которые вполне могли быть ожидаемы как со стороны верноподданных британской короны, так и патриотов своей страны.

Ввиду этого, на чтении послания Губернатора от третьего числа текущего месяца вместе с сопроводительными документами был немедленно внесен законопроект об увеличении суммы, выделяемой на содержание Его Величества, об увеличении выпуска бумажных денег и о выделении средств для погашения задолженности в течение пяти лет, согласно рекомендациям Губернатора.Читать полностью »

Написать этот пост меня побудило справедливое замечание пользователя VBart к моему же предыдущему посту, который сейчас в черновиках. После соответствующих правок опубликую черновик — ссылка на комментарий заработает.

Я задумался об этике — гласной и негласной — пользования открытым кодом. Думаю, эта своеобразная памятка будет полезна не только мне, но вообще тем, кто, как и я, просто не задумывался о таком раньше, руководствуясь изложенным в лицензиях. По крайней мере в рунете чего-то подобного не нашёл, поэтому полагаю, что текст имеет право на жизнь.

Здесь как нельзя лучше подходит «золотое правило христианина»: «Относись к другим так, как хотел бы, чтобы относились к тебе», поэтому представим, что мы уже написали абстрактный проект (не суть важно, какой именно) и хотим, чтобы к нему относились хорошо.
Читать полностью »

Крупнейшие ИТ-компании не дадут ИИ вырваться из-под контроля человека - 1

Искусственный интеллект — предмет большого количества дискуссий в научном и мире. Специалисты многих стран работают над созданием искусственного разума, который мог бы превзойти своего создателя. Некоторые ученые считают, что ИИ — это благо. Других специалистов сильная форма искусственного интеллекта пугает. В прошлом году бизнесмены, ученые, эксперты в сфере робототехники и других сферах подписали открытое письмо, в котором предостерегают производителей оружия от разработки боевых систем со 100% автономностью. В числе подписавшихся: Илон Маск, Стивен Хокинг, Ноам Хомский, Стив Возняк.

Многие аспекты проблемы искусственного интеллекта отображены в сюжете ряда фильмов, описаны в научно-фантастических произведениях. По словам ученых, решать возникающие вопросы нужно до появления сильной формы ИИ, то есть сейчас. Крупнейшие технологические компании, включая Google, Microsoft, IBM сейчас ведут работу по созданию искусственного интеллекта. Для того, чтобы не дать искусственному интеллекту выйти из-под контроля, Google, Amazon, IBM, Facebook и Microsoft основали организацию, которая и будет заниматься решением различных вопросов, имеющих отношение к ИИ.
Читать полностью »

tl;dr: Когда мы решим проблемы их коммуникации с нашей средой, другими устройствами и с нами.

Данная статья представляет собой взгляд на ситуацию с домашними роботами со стороны начинающего робототехника и interaction designer'a. Здесь будут вкратце освещены самые известные модели домашних роботов и ожидания их пользователей, а также подробно рассмотрены причины, почему эти ожидания не вполне совпадают с реальностью. Итак...

Читать полностью »

Механика игр-дебатов на примере Socrates Jones: Pro Philosopher - 1

Сегодня я хочу рассказать про игру с необычным гэймплэйем, это Socrates Jones: Pro Philosopher. Я надеюсь что эта статья вдохновит кого-нибудь на создание игр с такой же или похожей механикой. Хотя разумеется игра никак не может претендовать на то чтобы заменить собой диспуты с образованным и культурным оппонентом, это скорее логическая головоломка с единственным верным решением, однако возможно знакомство с опытом её созданием и идеями на которых она базируются будет полезно для тех кто хочет создать головоломку в этом же духе.

По сюжету главный герой по имени Сократ попадает в аварию и по ошибке оказывается в своего рода «загробном мире для философов». Его единственный шанс вернуться в мир живых — принять вызов Арбитра и разгадать древшейшую загадку философии — природу морали, то есть «Найти природу морали и нравственности, которая не будет иметь изъянов, противоречий и будет соответствовать реалиям мира». Если Арбитр найдёт ответ убедительным, то он отпустит Сократа в мир живых. В противном случае Сократа переведут в загробный мир для бухгалтеров.

Сам Сократ несмотря на своё имя является простым бухгалтером и об философии ни слухом ни духом, поэтому прямо дать даже мало мальски внятный ответ на данный вопрос он не в состоянии. Однако местные мыслители решили ему помочь и рассказать об своих взглядах на природу морали, а уж он после критической оценки сможет выбрать самый убедительный. Попытка на правильный ответ даётся только одна, поэтому Сократ должен крайне критично проанализировать предложенные ему взгляды на возможные изъяны. Под катом расписывается механика диспутов его идейного вдохновителя, серии игр Ace Attorney и собственно
механика диспутов самой игры.

Читать полностью »

imageКак говорят пессимисты, все хорошее когда-нибудь кончается. Как говорят оптимисты, все плохое обязательно подходит к концу. Некоторые мудрецы утверждают, что между плохим и хорошим особой разницы нет.

В любом случае, когда какие-то этапы, проекты подходят к концу, из них можно извлечь, как минимум, опыт. Некоторым удается извлечь вложенные деньги, а кому-то такая ситуация даже оказывается выгодной.

Президент «Сколково» Виктор Вексельберг решил вернуть свои инвестиции в медиакомпанию Gawker после банкротства издателя. «Мы рассчитываем, что процедура банкротства завершится «справедливо», в рамках действующего законодательства, и мы сможем продать свою долю в этих активах без потерь», — рассказал Вексельберг.

Изображение usatoday

Вексельберг стал совладельцем американского издания Gawker недавно – 21 января 2016. Он выкупил миноритарный пакет акций за неназванную сумму. Продажа была вынужденной: по данным Forbes, из-за постоянной необходимости оплачивать услуги адвокатов и судебные издержки у издания скопился многомиллионный долг.

10 июня издатель Gawker подал заявление о банкротстве. Последней каплей стал проигранный рестлеру Халку Хогану иск на $140 миллионов.Читать полностью »

Что общего в поведении политиков и шимпанзе? - 1

«Во время политических дебатов по телевизору я всегда рекомендую выключить звук. Таким способом мы можем пренебречь словами и содержанием дебатов и лучше сосредоточиться на невербальной коммуникации (позы, жесты, выражения лиц)», — говорит профессор американского университета Эмори, приматолог Франс де Вааль (Frans de Waal), отвечая на вопрос, опубликованный на сайте Quora. По его словам, выключить звук совершенно необходимо было во время последних дебатов кандидатов в президенты от республиканской партии США, потому что их «содержание не имело особого смысла». Кандидаты оскорбляли друг друга, врали, ставили под сомнение мотивы друг друга, даже делали анатомические сравнения. «На самом деле, они делали то, что обезьяны делают лучше всего: запугивают, угрожают, разворачивают плечи, бьют себя в грудь», — говорит профессор.
Читать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js