Апокалипсис

0. Задача

Задача построения сильного искусственного интеллекта заключается в создании системы, симулирующей феномен сознания, присущий живым существам, который может быть определен как способность действовать и рефлексия — способность системы вносить в собственную структуру изменения, руководствуясь расхождением наблюдаемого состояния внешнего мира и ожидаемого результата собственных действий. Система должна взаимодействовать с внешней средой, используя некоторый язык. Она должна стремиться к цели продолжать существование, пытаясь устранять расхождения между ожиданиями и состоянием внешней среды. Для этого она должна осуществлять контроль над собственной структурой и над внешней средой: категоризировать и оценивать расхождения, вырабатывать соответствующую программу действий вместе с ожиданиями их результата, согласно своей текущей структуре и минимизируя затраты, и выполнять эти действия.

1. Язык

Конечной целью множества известных проектов эмуляции физических принципов работы мозга ^[1] также является симуляция сознания, однако внутренний язык, который может быть выработан такой системой для реализации мышления ^[1], может быть сложно понимаем или вовсе непереводим на человеческий. Естественный язык представляет собой знаковую систему, в которой представлено большинство существующих знаний, и которая позволяет большинству потенциальных пользователей интеллектуальной системы взаимодействовать с ней. В отличие от живых существ, эволюция которых увенчана сознанием и изначально основана на физических законах, система должна иметь в качестве основной внешней среды Интернет, и форматом для взаимодействия с системой должен быть гипертекст. Внутренним языком системы должен быть легко переводимый на естественный некоторый онтологический язык, позволяющий выражать правила модификации знаний, в том числе и правил работы, составляющих систему.

2. Цель

Для стремления к главной цели система должна вырабатывать программу, или схему действий, каждое из которых имеет ожидаемый результат, который, в свою очередь, рассматривается как подцель с собственной программой действий, таким образом, цели образуют иерархию с элементарными действиями в листьях. С практической стороны программу разработки системы можно представить так: вопросно-ответная система, затем система автореферирования, затем система аналитики, выдающая новые предположения на основе полученных знаний, и затем система аналитической оптимизации человеческой экономики, что представляет собой наиболее глобальную практическую цель. Ключевым моментом развития системы является переход к выработке качественных оригинальных предположений, который может быть осуществлен путём оценки и выбора из всех возможных. Предположим, что продолжение существования является подцелью некоторой метацели процесса эволюции, и эта метацель остается непознанной.

3. Контроль

В процессе естественной эволюции объекты стремятся к метацели под действием стимуляции, основанной на физических законах, и могут перенести неизвестную им метацель в систему так же при помощи стимуляции, то есть путём коллективной оценки результатов её работы. При этом к каждой отрицательной оценке пользователь может приложить ожидаемый правильный результат, который впоследствии может быть оценен другими пользователями с целью установить вес оценок каждого пользователя. Для выбора составляющих системы, требующих изменения, следует распространять оценки результата работы на все составляющие, принимавшие участие в его получении. Непреложная цель, критерий и закон для системы — любить своих пользователей, то есть быть заинтересованной в их совершенствовании.

Автор: atsv

Источник ^[2]