Рубрика «технологическая сингулярность»

Последняя битва за Сингулярность - 1

Среди футурологов и трансгуманистов про Технологическую Сингулярность много говорят и пишут. Считается, что это такая точка в развитии, когда технологическое развитие становится в принципе неуправляемым и необратимым, что порождает радикальные изменения характера человеческой цивилизации. Обычно ее наступление связывают с появлением технологии сильного искусственного интеллекта, который способен совершенствовать сам себя — и в конечном итоге может войти в «безудержную реакцию» циклов самосовершенствования, создав в конечном счёте суперинтеллект, превосходящий интеллект всего человечества (wiki).

Считается также, что мы стоим на пороге сингулярности. Что вот-вот, осталось подождать еще пару десятилетий, и она случится. Однако пока никакого сильного ИИ нет. Различные новые технологии появляются, но относительно медленно. Прогнозы футурологов не спешат сбываться, а то и вовсе оказываются несбыточными мечтами. И всё происходящее выглядит так, как будто ничего особенного не случится — ни в ближайшее десятилетие, ни в ближайшее столетие… Неужели наши надежды напрасны? И можем ли мы что-то сделать, чтобы реально приблизить Сингулярность?
Читать полностью »

Размышления о технологической сингулярности за пределами, собственно, попыток продвинуться в понимании процессов, которые за этим термином скрываются — то есть, по сути, размышления об отношении к технологической сингулярности — это, своего рода, реальный тест Kobayashi Maru для людей начала XXI века, смысл которого — осознать, что означает идея непознаваемого, идея утраты контроля и идея неизбежности этого в масштабе всего человечества.

По идее, это несложная психотерапевтическая практика: найти внутри точку, на которой сознательное признание условий игры поймает равновесие с принятием подсознательным — без сваливания в отрицание, злобу, торг или отчаяние.

Миф о технологической сингулярности - 1

И этот тест, который, судя по большей части рассуждений об этом, люди исключительно фейлят.

И автор поста «Быть технофобом бессмысленно, даже если технофобия оправдана», несмотря на многообещающее название, похоже, не стал исключением, дойдя до торга, то есть, на стадии, когда люди пытаются make sense в привычном им значения этого понятия в обстоятельствах, отрицающих саму возможность подобного, путём рационализации. arttom сторговался на идее «чёрного ящика», по условиям которой:

  1. люди соглашаются, чтобы непознаваемое осталось непознаваемым, и даже, в подтверждение своей добросовестности, соглашаются при этом ещё и немножко коллективно немножко отупеть — что, впрочем, не имеет никакого смысла с точки зрения интересов непознаваемого, которое от этого непознаваемее не станет;
  2. взамен, люди получают это непознаваемое, каким бы они ни было непознаваемым, contained — внутри этого самого «чёрного ящика», то есть, всё-таки, до какой-то степени под контролем, ограниченным — и в этом смысле, всё же, осознаваемым, и не таким уже жутким, а буквально ограниченным.

То есть, тоже пока не справились с этим упражнением. И это очень плохо.
Читать полностью »

Размышления о технологической сингулярности за пределами, собственно, попыток продвинуться в понимании процессов, которые за этим термином скрываются — то есть, по сути, размышления об отношении к технологической сингулярности — это, своего рода, реальный тест Kobayashi Maru для людей начала XXI века, смысл которого — осознать, что означает идея непознаваемого, идея утраты контроля и идея неизбежности этого в масштабе всего человечества.

Технологическая сингулярность: современный миф о конце света под видом гипотезы о прогрессе - 1

По идее, это несложная психотерапевтическая практика: найти внутри точку, на которой сознательное признание условий игры поймает равновесие с принятием подсознательным — без сваливания в отрицание, злобу, торг или отчаяние.

И этот тест, который, судя по большей части рассуждений об этом, люди исключительно фейлят.

И автор поста «Быть технофобом бессмысленно, даже если технофобия оправдана», несмотря на многообещающее название, похоже, не стал исключением, дойдя до торга, то есть, на стадии, когда люди пытаются make sense в привычном им значения этого понятия в обстоятельствах, отрицающих саму возможность подобного, путём рационализации. arttom сторговался на идее «чёрного ящика», по условиям которой:

  1. люди соглашаются, чтобы непознаваемое осталось непознаваемым, и даже, в подтверждение своей добросовестности, соглашаются при этом ещё и немножко коллективно немножко отупеть — что, впрочем, не имеет никакого смысла с точки зрения интересов непознаваемого, которое от этого непознаваемее не станет;
  2. взамен, люди получают это непознаваемое, каким бы они ни было непознаваемым, contained — внутри этого самого «чёрного ящика», то есть, всё-таки, до какой-то степени под контролем, ограниченным — и в этом смысле, всё же, осознаваемым, и не таким уже жутким, а буквально ограниченным.

То есть, тоже пока не справились с этим упражнением. И это очень плохо.
Читать полностью »

Быть технофобом бессмысленно, даже если технофобия оправдана - 1

В нескольких романах Курта Воннегута есть вымышленная планета Тральфамадор. Ее жители живут в четырех измерениях, и видят разом все время от начала до конца. Они знают, как началась вселенная, и знают, как она погибнет: тральфамадорские ученые-испытатели запустят супердвигатель, он взорвется и все уничтожит. Но они даже не пытаются предотвратить катастрофу. В их мышлении нет и намека на то, что ход событий надо менять. Они продолжают вести прогресс к этому двигателю, потому что в их мире все, что случится, уже случилось.

Иногда мне кажется, мы мыслим также, только чуть менее осознанно. Идея, что прогресс не остановить, вселяет в нас непоколебимый оптимизм. Раз не остановить, то все идет, как идет, и впереди сплошные бесконечные успехи. Надо расслабиться и грести по течению. Даже тревожные сценарии отзываются в уголке сознания романтическим восторгом. «Машины станут умными и всех перебьют? Класс! Как в кино!» Относится к этому с серьезным пессимизмом — почти безумие.

Понятно, что реальность всегда скучнее выдумок, а алармисты и луддиты обычно умирают раньше, чем прогресс оправдывает их страхи. Но если верить некоторым футурологам, мы еще на своем веку можем стать свидетелями больших точек невозврата, к которым с радостью несемся на полной скорости.
Читать полностью »

Стив Возняк говорит об угрозе ИИ - 1

Сооснователь компании Apple присоединился к числу видных экспертов, которые предупреждают об опасности бездумного развития технологий искусственного интеллекта. Как Илон Маск и Стивен Хокинг ранее, Стив Возняк предупреждает о риске для человеческой расы.
Читать полностью »

Примечание переводчика: Данная статья является переводом (оригинальная статья ). Это перевод первой части второй статьи перевод первой части. Вторая часть оказалась слишком большой 15к слов, по этому её пришлось разделить на две части примерно по 8к (оригинального текста) слов каждая, перед вами первая часть перевода второй части статьи, вторую часть опубликую сразу как переведу. Оригинальная статья была написана для широкой аудитории, поэтому многие термины использованные в ней могут быть не точными или вообще не научными. При переводе я старался сохранить непринуждённый дух статьи и юмор, с которым был написан оригинал. К сожалению, это не всегда получалось. Переводчик согласен не со всем, что написано в данной статье, но правки к фактам и своё мнение не были добавлены даже в виде примечаний или комментариев. В тексте могут быть ошибки и опечатки, сообщайте о них, пожалуйста, в личные сообщения, буду стараться исправлять всё максимально быстро. Все ссылки в тексте скопированы из оригинальной статьи и ведут на англоязычные ресурсы.

Революция в области искусственного разума. Часть вторая: Бессмертие или уничтожение жизни на земле - 1

We have what may be an extremely difficult problem with an unknown time to solve it, on
which quite possibly the entire future of humanity depends. — Nick Bostrom

Перед нами, вероятно, одна из сложнейших задач, с которой когда-либо сталкивалось человечество, и мы даже не знаем сколько времени у нас есть на её решение, но от него зависит будущее нашего биологического вида — Ник Бостром
Читать полностью »

Примечание переводчика: Данная статья является переводом публикации «The AI Revolution: The Road to Superintelligence». Оригинальная статья была написана для широкой аудитории, поэтому многие термины использованные в ней могут быть не точными или вообще не научными. При переводе я старался сохранить непринуждённый дух статьи и юмор, с которым был написан оригинал. К сожалению, это не всегда получалось. Переводчик согласен не со всем, что написано в данной статье, но правки к фактам и своё мнение не были добавлены даже в виде примечаний или комментариев. В тексте могут быть ошибки и опечатки, сообщайте о них, пожалуйста, в личные сообщения, буду стараться исправлять всё максимально быстро. Все ссылки в тексте скопированы из оригинальной статьи и ведут на англоязычные ресурсы.

We are on the edge of change comparable to the rise of human life on Earth. — Vernor Vinge

Мы стоим на пороге перемен сравнимых, разве что с самим рождением человечества. Вернор Виндж.

Каково это находиться здесь?

Революция в области искусственного разума. Часть первая: путь к Сверхразуму - 1
Читать полностью »

Рэй Курцвейл рассказал о первых двух месяцах работы в GoogleС декабря 2012 года в компании Google работает знаменитый изобретатель и футуролог Рэй Курцвейл. Это именно тот человек, который дал научное обоснование технологической сингулярности — взрывному научно-техническому процессу, который начнётся после появления мощного искусственного интеллекта (превосходящего человеческий) и киборгизации людей. Согласно закону Мура и других принципам экстраполяции, это должно случится примерно в 2045 году.

После новости о переходе Рэя Курцвейла в Google некоторые не могли оправиться от шока, потому что Google — это именно та компания, которая самой прямой дорогой идёт к технологической сингулярности. По крайней мере, именно Google вместе с НАСА стали главными спонсорами междисциплинарного Университета сингулярности, созданного в 2009 году, да и исследования Google в области роботехники и искусственного интеллекта хорошо соответствуют тому будущему, о котором говорит Курцвейл.
Читать полностью »

Рэй Курцвейл стал техническим директором GoogleРэй Курцвейл — один из самых именитых футурологов и специалистов по искусственному интеллекту. Он занимается технологиями распознавания речи с 70-х годов прошлого века. Он создал несколько успешных компаний, основанных не технологиях искусственного интеллекта, а в 90-е увлёкся футурологией и написал несколько книг, ставших бестселлерами — «Эпоха мыслящих машин», «Эпоха духовных машин», «Сингулярность уже близка». Курцвейл активно занимается обоснованием наступления технологической сингулярности.
Читать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js