Рубрика «этика»

Три закона робототехники легко задать промтом. Но достаточно ли этого?

Три закона робототехники легко задать промтом. Но достаточно ли этого?

Читать полностью »

Честно говоря, после прочтения у меня внутри всё сжалось. Автор попал в самую болевую точку: мы действительно стоим на пороге чего‑то, для чего у нас ещё нет ни языка, ни этических рамок. Но меня не отпускает один вопрос, который в статье лишь слегка обозначен: а что, если мы всё‑таки решимся дать этим «сущностям» то, чего у них сейчас нет? Чувства. Внутренний опыт. Субъектность.

Читать полностью »

Или почему 0.01% биомассы не имеют права решать за остальные 99.99%

Сегодня утром я закончил примерно десять миллиардов жизней, а потом пошёл обедать с коллегами. Звучу как потенциально успешный политик образца 2026 года, но речь не о том. Руки пахли автоклавированным LB-бульоном, а на столе стояли шесть чашек Петри с E. coli DH5α, которые я залил лизирующим буфером, потому что мне нужна была плазмидная ДНК. Кишечные палочки не вопили от боли, естественно не страдали от моих манипуляций, но всё же я их убил.

Читать полностью »

У нас в проекте четыреста пул-реквестов в месяц. Половина комментариев — «поправь отступ», ещё четверть — «LGTM». Я хотел научить машину отличать полезное от шума. Машина научилась. А потом я полез смотреть, где она ошибается — и три недели думал об этом перед сном.

Читать полностью »

Часть 1: Собеседник, которому всё равно (очевидно)

В 2023 году случился невероятный революшен. Миллионы людей начали разговаривать с программой: технология, похожая на ту, о которой фантазировало человечество и которую мы привыкли называть ИИ — LLM.

Ни одна технология раньше не оказывалась в такой позиции. Гугл — справочник для поиска материалов и чтения оригиналов того, что создали люди. Соцсеть — яркая витрина жизни и привычный способ коммуникации. А языковая модель — собеседник. Собеседник, вызвавший эйфорию у пользователей, которого можно доставать запросами 24 часа в сутки, и... Умный?

Читать полностью »

«Ребята, сегодня мы будем проходить выворачивание канта наизнанку.
- Марья Ивановна, но что же это получается: нравственный закон над головой и звёздное небо внутри меня?»

А судьи кто? - 1

Читать полностью »

«Общество не допустит» — иллюзия в эпоху ИИ - 1

«Главная угроза - не в том, что ИИ станет разумным. А в том, что люди перестанут им быть»
- Андрей Карпати, интервью Dwarkesh Podcast, октябрь 2023

Читать полностью »

Когда робот учится чувствовать: имитируемые эмоции и этика взаимодействия с машинами - 1

Можно ли научить машину не просто распознавать эмоции, а действительно чувствоватьЧитать полностью »

В мире психологии и мотивации свои «городские легенды» — эксперименты, выводы которых кочуют из книги в книгу, обрастая вдохновляющими историями. Один из них — опыт американского психофизиолога Курта Рихтера, проведенный в 1957 году и известный как эксперимент «Надежда». Его традиционная трактовка стала гимном силе человеческого духа: якобы вера в спасение способна творить чудеса. Но что, если копнуть глубже? Мой анализ привел меня к выводам, которые скорее ужасают, чем вдохновляют.

Читать полностью »

Введение

Народ у нас разносторонний и от вопросов: «Нужна ли математика программистам?» плавно переходит к статьям, типа: «Нужна ли философия инженерам?». Поэтому я тоже решил «вставить свои пять копеек» в эти дискуссии. 

В данном случае, речь пойдет о философии и этике.

Читать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js