Продолжаю публиковать отрывки из книги "Высший разум". Теперь о том, почему мы так далеки от действительного искусственного интеллекта. И не факт, что сможем его достигнуть.
…
— Ты знаешь, что мы тоже работали над созданием искусственного интеллекта?
— Ваши разработки еще очень далеки до того, что можно назвать интеллектом. Ваши нейросети – это пока не более чем классификаторы сложных паттернов, которые выбирают какой-то из выходов сети, но совершенно не знают о нем ничего более чем о точке выхода. Это вы интерпретируете выход как «лошадь», а не сеть, распознающая ее картинку. Сеть о ней ничего не знает. Это не интеллект.
— Поясни. Не понял этот тезис.
— Вам кажется, что вы сделали нейросеть, которая как человек распознает образы. Она может различить лошадь и пароход. Но нейросеть не может различить, например, две лошади так, чтобы назвать их произвольное отличие. Мозг отличается именно аналитической функцией, то, что вы называете common sense.
— Но нейросети уже многое могут то, что раньше мог только человек. Разве это не интеллект?
— Самый совершенный ваш автопилот не может действовать так же эффективно как обычная пчела. Пчела летает без помощи дорожной разметки и ориентируется без GPS. А пчела — это насекомое, самое начало эволюции нейронных систем. Вы находитесь где-то на том же шаге в разработке интеллекта. И достигаете результата только за счет больших масштабов.
Кстати, обученные вами нейросети, с подкреплением особенно, похожи на выработку врожденных инстинктов у насекомых. Только время их выработки вы сумели сжать до нескольких часов вместо тысячи лет, собрав датасет из картинок, которые жучок может увидеть только за сотню поколений. Но поменять инстинктивное поведение обученной сети вы уже не можете, как и жучок свои инстинкты. Это тот уровень, которого вы достигли. А интеллект – это память, внимание, мышление, воображение и, в конце концов, сознание. Вы даже не знаете еще, что это такое, но думаете, что можете создать их. Это очень странно.
Читать полностью »
