Рубрика «технологическая сингулярность»

Развитие искусственного интеллекта ввергает меня в депрессию. Это очень простое чувство: осознание конца. Всё, что наполняло жизнь смыслом — труд, созидание, инженерное творчество, попытки разобраться в устройстве мира — теряет смысл прямо у меня на глазах.

Мы, человечество, породили то, что очень скоро не будет нуждаться в нас вовсе. ИИ не просто умнее, не просто быстрее — ещё мгновение, и это будет новый вид, который будет воспринимать нас примерно так же, как мы воспринимаем насекомых, а для нас он станет инопланетянином: его логика будет чужда, его технологии будут непознаваемы.

Читать полностью »

В настоящее время имеет место быть бурное развитие технологий искусственного интеллекта. Буквально в последние годы возник генеративный ИИ на основе нейронных сетей, совершивший технологическую революцию во всём мире. Нейросети рисуют, пишут музыку и программный код, формируют видео – и это далеко не полный перечень того, на что способен современный ИИ.

Читать полностью »

Определение

Автор термина «технологическая сингулярность» — Вернор Виндж, американский математик, программист и писатель-фантаст. Он определяет сингулярность моментом, когда ИИ сможет развиваться без участия человека со скоростью, исключающей осмысление происходящего. Это «точка, после которой дальнейшие события непредсказуемы для человеческого разума».

Наступление сингулярности по определению исключает контроль. Если ИИ под контролем, значит, сингулярность еще не наступила. Значит, ИИ не автономный агент, а продвинутый инструмент.

Неизбежность

Читать полностью »

В 2024–2025 годах мы наблюдаем стремительные достижения в сфере искусственного интеллекта (ИИ), которые вновь разжигают дискуссию о технологической сингулярности – моменте, когда ИИ превзойдёт человеческий интеллект и выйдет из-под нашего контроля. Часто это сравнивают с «горизонтом событий» чёрной дыры, за которым происходят процессы, непостижимые для человеческого ума [1]Читать полностью »

Представьте себе мир на грани глубокой трансформации, движимый беспрецедентными инновациями, готовыми произвести революцию во всех аспектах общества. Этот сдвиг, приближающийся к технологической сингулярности, несёт огромную ответственность и высокие ставки для нынешнего и следующих поколений. Готовы ли мы к последствиям и глубоким изменениям, которые может принести будущее, основанное на технологиях?

Читать полностью »

Часто ли вы думаете о Древнем Риме технологической сингулярности? С последним рывком в развитии ИИ и растущем присутствии роботов в окружающей реальности и новостной повестке, самое время вспомнить о том, что это такое.

Технологическая сингулярностьЧитать полностью »

Внедрение ИИ — лучшая ставка на выживание человечества - 1Слева: древнеримский мост через реку Тахо в испанском городе Алькантара, построенный в 106 году. Справа: отряд муравьёв, формирующих мост. Источник: статья Ха и Танга про коллективный интеллект ИИ-агентов (doi: 10.48550/arXiv.2111.14377)

Влияние ИИ на человеческое общество ощущается уже сейчас. Во-первых, дата-майнинг и нейросети всё активнее используются в сфере управления. Обычному человеку не очень приятно осознавать, что его босс — алгоритм, который оценивает качество работы, выписывает премии и может уволить в любой момент. Но такова жизнь.
Читать полностью »

Последняя битва за Сингулярность - 1

Среди футурологов и трансгуманистов про Технологическую Сингулярность много говорят и пишут. Считается, что это такая точка в развитии, когда технологическое развитие становится в принципе неуправляемым и необратимым, что порождает радикальные изменения характера человеческой цивилизации. Обычно ее наступление связывают с появлением технологии сильного искусственного интеллекта, который способен совершенствовать сам себя — и в конечном итоге может войти в «безудержную реакцию» циклов самосовершенствования, создав в конечном счёте суперинтеллект, превосходящий интеллект всего человечества (wiki).

Считается также, что мы стоим на пороге сингулярности. Что вот-вот, осталось подождать еще пару десятилетий, и она случится. Однако пока никакого сильного ИИ нет. Различные новые технологии появляются, но относительно медленно. Прогнозы футурологов не спешат сбываться, а то и вовсе оказываются несбыточными мечтами. И всё происходящее выглядит так, как будто ничего особенного не случится — ни в ближайшее десятилетие, ни в ближайшее столетие… Неужели наши надежды напрасны? И можем ли мы что-то сделать, чтобы реально приблизить Сингулярность?
Читать полностью »

Размышления о технологической сингулярности за пределами, собственно, попыток продвинуться в понимании процессов, которые за этим термином скрываются — то есть, по сути, размышления об отношении к технологической сингулярности — это, своего рода, реальный тест Kobayashi Maru для людей начала XXI века, смысл которого — осознать, что означает идея непознаваемого, идея утраты контроля и идея неизбежности этого в масштабе всего человечества.

По идее, это несложная психотерапевтическая практика: найти внутри точку, на которой сознательное признание условий игры поймает равновесие с принятием подсознательным — без сваливания в отрицание, злобу, торг или отчаяние.

Миф о технологической сингулярности - 1

И этот тест, который, судя по большей части рассуждений об этом, люди исключительно фейлят.

И автор поста «Быть технофобом бессмысленно, даже если технофобия оправдана», несмотря на многообещающее название, похоже, не стал исключением, дойдя до торга, то есть, на стадии, когда люди пытаются make sense в привычном им значения этого понятия в обстоятельствах, отрицающих саму возможность подобного, путём рационализации. arttom сторговался на идее «чёрного ящика», по условиям которой:

  1. люди соглашаются, чтобы непознаваемое осталось непознаваемым, и даже, в подтверждение своей добросовестности, соглашаются при этом ещё и немножко коллективно немножко отупеть — что, впрочем, не имеет никакого смысла с точки зрения интересов непознаваемого, которое от этого непознаваемее не станет;
  2. взамен, люди получают это непознаваемое, каким бы они ни было непознаваемым, contained — внутри этого самого «чёрного ящика», то есть, всё-таки, до какой-то степени под контролем, ограниченным — и в этом смысле, всё же, осознаваемым, и не таким уже жутким, а буквально ограниченным.

То есть, тоже пока не справились с этим упражнением. И это очень плохо.
Читать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js