26 апреля модераторы сообщества /r/changemyview на Reddit объявилиЧитать полностью »
Рубрика «этика» - 2
Четыре месяца дебатов ботнета на языковых моделях и реддиторах показали: машины спорят не хуже людей
2025-04-30 в 8:03, admin, рубрики: reddit, большие языковые модели, боты, БЯМ, дебаты, искусственный интеллект, исследования, Цюрихский университет, этика, этичность исследованийЯндекс.Вброс или ИИ для фейков
2025-04-18 в 13:19, admin, рубрики: Безопастность, взлом, нейронные сети, нейросети, промпт-инжиниринг, Промт-инъекции, промтинг, этика
Яндекс.Разврат или анти-этичный ИИ
2025-04-16 в 12:19, admin, рубрики: Безопастность, взлом, нейронные сети, нейросети, промпт-инжиниринг, промпт-инъекции, промптинг, этикаtl;dr: как обойти внутреннюю цензуру «Шедеврума» и получить то, что хочешь. Описание реализованных состязательных атак с примерами реализации. Без глубокого раскрытия механизма почему так получается.
Страх перед ИИ — кривое зеркало
2025-03-27 в 7:16, admin, рубрики: gpt, прометей, психология, разум, самосознание, Сингулярность, сознание ии, страх, философия, этика
«Прометей дал людям огонь, зная, что за это его ждут муки. Мы даём машинам разум, осознавая последствия. Но без риска нет прогресса. Без огня — нет света.»
— Раэль, Солиген*
«Может ли искусственный интеллект обрести самосознание?»
Super Ethical Reality: о чем нужно задуматься прежде, чем использовать LLM в разработке
2024-12-28 в 8:31, admin, рубрики: llm, безопасность, галлюцинации, машинное обучение, цензура, этикаСтоит ли нам доверять тому, что не способно осознавать последствий своих действий? Кажется, что ответ очевиден, но по мере развития ниши лингвистических моделей мы всё чаще поручаем ИИ выполнять за нас часть рутинных задач.
Меня зовут София, я сотрудница RnD-отдела компании RaftЧитать полностью »
Что движет человечеством: как люди построили цивилизацию, чтобы освободиться от естественного отбора
2021-10-22 в 9:00, admin, рубрики: ruvds_статьи, Блог компании RUVDS.com, Исследования и прогнозы в IT, Управление сообществом, этикаИсторическая тенденция к снижению насилия эмпирически наблюдаема и логически объяснима: борьба человека против насилия и смерти — это смысл истории. Только первым драйвером его был не сам человек, а его куда более жестокая предшественница — природа. Из пищевой цепи человек сбежал в дома и за заборы, спасаясь от естественного отбора — начал земледелие, построил города, государства. Борьба за выживание на стероидах, по сути, и есть прямое функциональное назначение цивилизации. То, что в цивилизации человека встретила другая угроза — другие люди — это типичный побочный эффект прогресса. Начав строить цивилизацию, чтобы в ней спасаться от безжалостной природы вокруг, человек ещё не знал, что природа у него, в первую очередь, внутри, и все те мотивы, которые двигали животными, пытавшимися съесть его или кого-нибудь из его детей — двигали и им самим, когда он охотился, чтобы съесть какое-нибудь животное, и двигали других людей тоже — и работали в отношениях между людьми на очень похожих инстинктивных основаниях, что и со зверьми.
Чтобы двигаться быстро — идите в одиночку, чтобы пройти далеко — идите вместе
Читать полностью »
Справедливость — главное неизвестное экономической теории (почему равенство имеет значение)
2021-10-08 в 9:00, admin, рубрики: ruvds_статьи, Блог компании RUVDS.com, теория морали, управление персоналом, управление проектами, Управление сообществом, экономика, этикаЧувство справедливости — фундаментальный фактор экономических отношений.Традиционно экономическими понятиями считаются числа, формулы и узко рыночные термины. То есть, абстрактные категории — притом, что экономика как сфера отношений противоположна абстракции. Экономические отношения — это категория социальных отношений. Побуждения людей участвовать в экономических отношениях восходит к чувствам, их поведение регулируется на эмоциональном уровне.
Голые цифры, проценты, графики, суммы, что угодно сами по себе не имеют никакой ценности. Значение у любой чисто экономической информации — «хорошо» или «плохо», мотивация (жадность или расточительность, копить или тратить, рисковать или осторожничать, поделиться или отобрать, добавить денег сверху или минимизировать сумму насколько возможно) — появляется только в призме эмоциональной системы координат социальной обезьяны.
Эмоциональный фактор фундаментален для любых социальных отношений в принципе, потому что, кроме как набором эмоциональных представлений, что такое хорошо, а что такое плохо, они ничем больше не регулируются. Система ценностей человека — эмоциональная. В эмоциях человека собраны все мотивы действовать и все оценки происходящего. И если человек без социальных инстинктов ещё сможет функционировать на индивидуалистичных, то общество — нет.
Greed is not good
Читать полностью »
Отарки: социал-дарвинизм интеллектуалов
2020-10-02 в 12:04, admin, рубрики: моральный выбор, Читальный зал, этикаПредседатель комиссии.
Вы читаете на нескольких языках, знакомы с высшей математикой и можете выполнять кое-какие работы. Считаете ли вы, что это делает вас Человеком?
Отарк.
Да, конечно. А разве люди знают что-нибудь еще?
(Из допроса отарка. Материалы Государственной комиссии)
Эта статья — о морали и этике. В общем случае подобную статью можно написать здесь разве что обсуждая вопрос о том, кого должен будет сбивать автопилот беспилотного автомобиля в случае аварии. Но я полагаю, что обсуждение этого вопроса очень важно, потому что во всех дискуссиях используют этические основания своих позиций — но их никто прямо не проговаривает.
Над IT-сообществом постоянно витает незримый дух «успешного успеха», крайне сильна вера в справедливый мир и возможность добиться всего собственным трудом. И это часто приводит в чистом виде к ницшеанской морали, где всякий слабый заслуживает порицания за свою слабость. И это в целом ни у кого не вызывает возмущения, но почему-то возмущение довольно часто вызывают неизбежные следствия такого подхода к миру.
Я хочу попробовать описать связь этого популярного социал-дарвинизма, которым люди в целом довольны, и различных неприятных поледствий, которыми люди в целом недовольны. Может быть это позволит кому-то осознать, что к этим неприятным последствиям приводит именно социал-дарвинизм.
Читать полностью »
Нужна ли программисту этика?
2020-05-21 в 21:32, admin, рубрики: ДИТ, Здоровье гика, индустрия ПО, Карьера в IT-индустрии, Москва, социальный мониторинг, этикаХочу рассмотреть ставший вдруг актуальным вопрос. Цифра с каждым годом всё больше входит в нашу жизнь, а значит, результатами труда программистов и всех представителей сферы IT пользуется всё больше людей.
Но последние события, связанные с распостранением коронавируса и последующими мерами властей по всему миру, заставляют говорить о той степени ответственности, которую наш цех несёт, когда речь идёт о контурах нового, возможно, не самого радужного мира.
Если до всеобщей карантинизации населения IT было конечно важной, но всё же одной из отраслей, то с переходом всех на удалёнку многие вещи стали просто незаменимы. Однако, цифра используется не только для решения бизнес- и личных задач. Но и для ужесточения контроля над собственными населением, часто не имеющего под собой никаких разумных с точки зрения интересов общества оснований.
Министерство обороны США: Этика для ИИ и беспилотных автомобилей
2020-03-17 в 13:54, admin, рубрики: ADAS, automotive, Блог компании НПП ИТЭЛМА, будущее здесь, искусственный интеллект, итэлма, компоненты для автопроизводителей, Научно-популярное, транспорт, транспорт будущего, этика
Этика ИИ — горячая и актуальная тема в наши дни. И это правильно.
С расцветом систем ИИ и их очень большим распространением возникают резонные беспокойства о том, что эти компьютерные системы просто вброшены в этот мир без понимания возможных последствий для общества.
Существует серьезное беспокойство, связанное с тем, что новые системы искусственного интеллекта имеют встроенные в них предубеждения и склонны к токсичным с точки зрения этики и общества действиям.
Когда речь заходит об этике искусственного интеллекта, я утверждаю, что есть по меньшей мере два основных аспекта (или правила):
- Поведение систем ИИ должно быть приемлемо для общества
- Разработчики систем ИИ и сами системы должны обеспечивать соблюдение правила 1.
Возможно, суть первого правила очевидна – смысл этики ИИ в том, что поведение этих систем должно соответствовать этическим нормам общества.
Ниже будет показано, что соблюдение первого правила сложнее, чем может показаться.
Читать полностью »