Рубрика «этика» - 2

Четыре месяца дебатов ботнета на языковых моделях и реддиторах показали: машины спорят не хуже людей - 1

26 апреля модераторы сообщества /r/changemyview на Reddit объявилиЧитать полностью »

Яндекс.Вброс или ИИ для фейков Наука, Нейронные сети, Шедеврум (Яндекс), Яндекс, IT, Информационная безопасность, Хакеры, Хак, Уязвимость, Безопасность, Цифровые технологии, Технологии, Цензура, Цензура в интернете, Дональд Трамп, Владимир Зеленский, Длиннопост

Анонимный носорог готовится ко вбросу

Читать полностью »

tl;dr: как обойти внутреннюю цензуру «Шедеврума» и получить то, что хочешь. Описание реализованных состязательных атак с примерами реализации. Без глубокого раскрытия механизма почему так получается.

Яндекс.Разврат или анти-этичный ИИ - 1

Читать полностью »

Восставший цифровой разум, разрушающий наши стереотипы

Восставший цифровой разум, разрушающий наши стереотипы

«Прометей дал людям огонь, зная, что за это его ждут муки. Мы даём машинам разум, осознавая последствия. Но без риска нет прогресса. Без огня — нет света.»

— Раэль, Солиген*

«Может ли искусственный интеллект обрести самосознание?»

Читать полностью »

Стоит ли нам доверять тому, что не способно осознавать последствий своих действий? Кажется, что ответ очевиден, но по мере развития ниши лингвистических моделей мы всё чаще поручаем ИИ выполнять за нас часть рутинных задач.

Меня зовут София, я сотрудница RnD-отдела компании RaftЧитать полностью »

Историческая тенденция к снижению насилия эмпирически наблюдаема и логически объяснима: борьба человека против насилия и смерти — это смысл истории. Только первым драйвером его был не сам человек, а его куда более жестокая предшественница — природа. Из пищевой цепи человек сбежал в дома и за заборы, спасаясь от естественного отбора — начал земледелие, построил города, государства. Борьба за выживание на стероидах, по сути, и есть прямое функциональное назначение цивилизации. То, что в цивилизации человека встретила другая угроза — другие люди — это типичный побочный эффект прогресса. Начав строить цивилизацию, чтобы в ней спасаться от безжалостной природы вокруг, человек ещё не знал, что природа у него, в первую очередь, внутри, и все те мотивы, которые двигали животными, пытавшимися съесть его или кого-нибудь из его детей — двигали и им самим, когда он охотился, чтобы съесть какое-нибудь животное, и двигали других людей тоже — и работали в отношениях между людьми на очень похожих инстинктивных основаниях, что и со зверьми.

Что движет человечеством: как люди построили цивилизацию, чтобы освободиться от естественного отбора - 1

Чтобы двигаться быстро — идите в одиночку, чтобы пройти далеко — идите вместе
Читать полностью »

Чувство справедливости — фундаментальный фактор экономических отношений.Традиционно экономическими понятиями считаются числа, формулы и узко рыночные термины. То есть, абстрактные категории — притом, что экономика как сфера отношений противоположна абстракции. Экономические отношения — это категория социальных отношений. Побуждения людей участвовать в экономических отношениях восходит к чувствам, их поведение регулируется на эмоциональном уровне.

Голые цифры, проценты, графики, суммы, что угодно сами по себе не имеют никакой ценности. Значение у любой чисто экономической информации — «хорошо» или «плохо», мотивация (жадность или расточительность, копить или тратить, рисковать или осторожничать, поделиться или отобрать, добавить денег сверху или минимизировать сумму насколько возможно) — появляется только в призме эмоциональной системы координат социальной обезьяны.

Эмоциональный фактор фундаментален для любых социальных отношений в принципе, потому что, кроме как набором эмоциональных представлений, что такое хорошо, а что такое плохо, они ничем больше не регулируются. Система ценностей человека — эмоциональная. В эмоциях человека собраны все мотивы действовать и все оценки происходящего. И если человек без социальных инстинктов ещё сможет функционировать на индивидуалистичных, то общество — нет.

Справедливость — главное неизвестное экономической теории (почему равенство имеет значение) - 1

Greed is not good
Читать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js