Эволюционные преимущества человека часто сводят к двум конкретным маркерам: большому мозгу и чрезвычайно ловким рукам. В совокупности, эти органы способствовали развитию орудий труда, возникновению сложных культур и способствовали адаптации к хаосу окружающего мира.
Читать полностью »Сегодня, когда каждый день выходят новые модели, показывающие себя лучше и лучше в определенных узких областях, становится актуальным вопрос - а когда мы уже достигнем Общего Искусственного Интеллекта (AGI), который сможет мыслить словно человек, решать сразу множество задач, поможет человеку сделать новый скачок в открытиях?
И в головах многих разработчиков рождается мысль: а что если нынешний подход, основанный на масштабировании моделей нейронных сетей, поглощающих гигабайты данных - создает лишь иллюзию того, что мы на верном пути?
Искусственный интеллект стремительно сближается с образом разумного существа. Он решает задачи, пишет музыку, программирует, общается на человеческом языке, распознаёт эмоции, обучается на ходу. В тестах он уже превосходит нас. Он говорит красиво, точно. Всё это порождает соблазн: а не рождается ли новый разум? Не появляется ли новое существо — робосапиенс?
Но чтобы понять, что на самом деле происходит, надо задать фундаментальный вопрос: что отличает живого разумного человека от небиологического разума?Читать полностью »
Фантасты приучили нас к мысли, что в будущем человечество неминуемо перейдёт, или перепрыгнет на более высокую ступень эволюции. И появится новый вид человека. Людены у Стругацких, новые люди у Саймака в «Кольце вокруг Солнца», люди Х в фильмах и комиксах, впрочем, не столь важно, как их назовут.
Главное, что практически всегда этим самым суперлюдям приписывают необычайные свойства вроде управления материей напрямую с помощью разума, умение двигать мыслями предметы или исчезать-появляться в других мирах. В общем, если бы это было фэнтези, то сверхлюди назывались бы магами или волшебниками.
Читать полностью »
«Прометей дал людям огонь, зная, что за это его ждут муки. Мы даём машинам разум, осознавая последствия. Но без риска нет прогресса. Без огня — нет света.»
— Раэль, Солиген*
Рассуждения основаны на знании общего алгоритма разума, приведённого в статье «Конструктивное определение искусственного интеллекта». https://habr.com/ru/articles/823458/
Этого алгоритма достаточно для того, чтобы дать исчерпывающий ответ на поставленный вопрос.
Без сомнения, ИИ очень полезный инструмент. Но, всякое решение плодит новые проблемы (закон Мерфи). Это относится к любому техническому решению.
Опасность ИИ может быть двух видов:
