Питер Тиль о сильном ИИ и ближайшем будущем

Полезное в своей инфомативности, краткости и емкости интервью с создателем PayPal и известным инвестором Питером Тилем, на темы ближайшего будущего, в т.ч. сильного искусственного интеллекта.

Темы:
— когда же будет сильный ИИ?
— будущее не предопределено?
— СИИ в злых руках
— безработица от автоматизации, ИИ
— проблемы экономического роста
— перспективные секторы (для инвестирования) в ближайшем будущем
— несуществующие категории продуктов

Под катом полная транскрипция интервью. Только тем, кому лень смотреть видео (10 мин.).

Участники:
— Джейсон Калаканис [ДК] (предприниматель, инвестор, ведущий серии интернет передач «This Week In»
— Питер Тиль [ПТ] (предприниматель, инвестор, активист)

Перед интервью

ДК:
… и я буду один на один с Питером Тилем, одним из лучших инвесторов и мыслителей в технологиях и финансовом секторе.
Вам понравится, вынимайте ручки и тетради — куча информации для усвоения в этом эпизоде.

Интервью

ДК:
Насколько далеко, по вашей оценке как инсайдера, нам еще до «сильного искуственного интеллекта»? Увидим мы его в течение нашей жизни?..

Как, например, эти самоуправляемые авто, о которых всё говорится, что вот еще 2-3 года… на протяжении 2-3 лет… а выглядит еще на лет 10 ожиданий… Где мы, по-вашему, с ИИ, и даже касательно тех же авто?

ПТ:
Знаете, не соглашусь, пожалуй, с подоплекой данного вопроса. У этого вопроса заложено, будто где-то есть это будущее, события, которые произойдут в будущем, примерно как у Р. Курцвейла, «Сингулярность близко», экспонентная кривая, происходящая сама по себе, и все, что нам надо, это сидеть, есть попкорн и глядеть кино будущего.

И я думаю, что… сложно вообще сказать, что произойдет, но… это неверный вопрос, потому что будущее не задано. Что имеет значение, по-моему — это вопрос программы.

Поэтому, если мы решим заняться этим — думаю, мы можем его построить, если мы им не займемся, он никогда не будет построен.

ДК:
ИИ будет построен… будет построен! Неясно, сможем ли потом его выключить.

ПТ:
Если каждый будет думать, что он будет построен, никто не будет считать, что его надо строить, никто не будет его строить — и он не будет построен.

ДК:
Ок…
Чувство, будто играешь в шахматы с Каспаровым...

ПТ:
Нет, это всегда вопрос программы.

ДК:
Погодите...

ПТ:
Мы не должны думать о будущем, как о заданном. О чем надо спрашивать, особенно предпринимателям, начинающим — какое будущее я хочу построить? И это будущее надо стараться воплотить в жизнь.

ДК:
Что если у человека, который его построит, однако… будут несколько иные взгляды на гуманность или просто неопытность-незрелость… Что если людьми, решившими, «а сделаем-ка сильный ИИ», окажется группа пакистанских студентов, переметнувшихся на сторону ИГИЛ… Невероятно, знаю… как и 9/11.

Эта технология не зарезервирована лишь для выпускников Стэнфорда. Что если она примется, и появятся мысли: Кибертерроризм — шаг первый, а сильный ИИ, дабы встряхнуть миром — следующий?

ПТ:
Знаете, я не тех. утопист, не думаю, что технологии по умолчанию делают мир лучше. Было достаточно негативных историй, как минимум с Хиросимы '45, может еще раньше, но думаю… Одна из причин, по которым наша культура
настолько анти-технологична… что легко увидеть, глядя на науч.фант. фильмы. Которые о технологиях, убивающих людей, сточниках аварий, дистопий, а будущее — некое сочетание Матрицы, Терминатора, Аватара, Элизиума. Я смотрел «Гравитацию» год-два назад — больше не захочешь в открытый космос, лучше поближе на тропикальный остров.

Скажем так, мне не нравится этот пессимизм от технологий, но я дооцениваю причины, по которым люди его разделяют, и они растут корнями из ядерной эпохи. Так что 50 на 50.

Я надеюсь, что по-настоящему сумасшедшие люди слишком некомпетентны, чтобы что-то натворить… но это не на 100%.

ДК:
Да, у свихнувшихся есть свои моменты, но в целом вы правы, преступники ловятся, потому что они глупые.

ПТ:
Но это не на 100%.

ДК:
Но не на 100%. Не будем записывать это в обязательный список инвестора. :)

Что позитивного тут, какие позитивные решения вы тут видите?

ПТ:
Так, думаю, люди уже давно излишне беспокоятся, что технологии заменят работу. В 19 веке — люддиты, обеспокоенные, что никого не останется на текстильных фабриках, и пытались ломать машины. Оказалось, автоматизация производства освободила людей для более полезной работы.

Думаю, если бы у нас было большое увеличение эффективности производства, то и большое увеличение ВВП. Возможно, не идеально распределенного, но будь у нас рост ВВП на уровне 4% в год, всем от этого было бы лучше.

Реальная проблема, что в большинстве секторов у нас нет даже близко такого роста производства. Например, много автоматизации в промышленности, но надо учитывать, что это всё меньшая и меньшая часть экономики. То есть, даже улучшая производство так же, как и 100 лет назад, допустим, каждый год на 10%, это будет меньшая доля — от 15% ВВП, в сравнении со, скажем, 50% ВВП 100 лет назад.

А наша сегодняшняя экономика сдоминирована — сектором услуг, который не так уж изменился: Официанты, воспитатели, медсестры, медобслуга. И потому у нас меньше экономический рост, чем мы ожидаем, что мы не нашли способов увеличить производство в стольки секторах. В целом люди всегда клеймят технологии, развивающиеся слишком быстро, слишком бурно, слишком опасно, а что меня заботит, это наоборот спектр стагнации, слишком медленные изменения, недостаток роста. А когда мало роста, тогда появляются серьезные проблемы. В мире с недостатком роста всё становится игрой с нулевым выигрышем. Я выбъюсь вперед, только если ты отстанешь позади, и мир становится довольно неприятным.

ДК:
Глядя на разные секторы, у каких сейчас наибольший потенциал в ближайшие годы: биотех, роботы, ИИ?..

ПТ:
Знаете, я всегда скептичен насчет «секторов» или «трендов». Люди постоянно спрашивают, какие тренды я вижу в будущем — чего не люблю, я не пророк, не владею будущим.

Вместе с тем я считаю, что все тренды — переоценены. Так что… медицинское IT, софт для образования — несколько переоценены. SAS… довольно сильно переоценен. Если слышите слова «Big data», «облачные вычисления» — бегите как можно дальше. Не слушайте и бегите.

Причина, по которым надо быть осторожным с этими ключевыми словами… Допустим, я скажу: «Я делаю мобильную платформу на SAS, для big data в облаке». Такая цепочка из модных словечек.

ДК:
Представите меня той компании?

ПТ:
Знаю, заинвестируете без лишних вопросов.

ДК:
Если вы заивестируете, то да. :)

ПТ:
Позвоню им, чтоб забрали деньги. :)

Но… все эти словечки разоблачают, как в покере, что фирма блефует и не дифференцирована, мы уже слышали эти словечки, поэтому если вы N-я компания в устаканенной категории, это проблема. Нехорошо быть очередным инет магазином с собачьей едой. Или десятым поставщиком солнечных батарей или тысячным рестораном в Сан-Франциско.

ДК:
То есть, если сложнее описать, словечка нет — то это хорошо.

ПТ:
Да, думаю да. Вещи наоборот недооцененные — нет словечек, не подходят под существующие категории, к этим надо постоянно прислушиваться.

Проблема тут в том, что даже люди, ведущие эти фирмы, опишут вам их в существующих категориях, потому, что это намного проще.

Поэтому Гугл описали бы как «поисковик» в 98-м, люди спросили бы: «Зачем нам опять поисковик, их уже 20 в этой категории?» — но дело-то в машинной индексации, и алгоритм page-rank — главное отличие здесь. И назвать его просто «поисковиком» — потерять суть разницы. Как и назвать Facebook — «соцсетью», в 2004 или даже в 2015. Это неправильная категоризация — была куча соцсетей до Facebook. Мой друг, основавший LinkedIn, создал соцсеть «SocialNet» в 97-м, у него «социальная сеть» было даже в названии фирмы. Это были такие аватары в виртуале, вы — кот, я — собака, и мы бы там странно так общались по интернету.

ДК:
Совсем как на прошлой неделе? :)

ПТ:
Да, а людей не интересует абстрактное общение, а реальные личности, и это было той новизной, которую дал Facebook, впервые удалось передать реальную личность.

Поэтому, думаю, найти правильный способ увидеть вещи в категориях, для которых даже еще нет языка — это критично важно.

Отрывок из мартовского эпизода «This Week In Startups», выделен и переведен на русский язык с согласия авторов.
Полный эпизод (49 мин. — english only): www.youtube.com/watch?v=ryFB6mvy4uE ^[1]

Автор: Испанский лётчик

Источник ^[2]