Тезисы по вопросам ИИ

в 6:27, , рубрики: ИИ, искусственный интеллект, метки:

Уже второй раз в ленте Вконтакте замечаю следующую новость:

В швейцарской Лозанне стартовал один из самых амбициозных проектов последнего времени — «Человеческий мозг». Ученые хотят сделать суперкомпьютер, который будет имитировать работу мозга. Бюджет проекта — более полутора миллиардов долларов.

Тезисы по вопросам ИИ

По масштабу проект Human Brain уже сравнивают с Большим адронным коллайдером. Ученые из 135 научных институтов Европы объединились, чтобы построить действующую модель человеческого мозга. «Это все равно, что создать огромный телескоп, чтобы заглянуть в дальний космос, — поясняет Генри Маркрам, один из основателей Human Brain Project. — Наша модель позволит нам заглянуть глубоко в мозг и задать вопросы, на которые невозможно ответить сегодня».

Не могу остаться в стороне (тоже непротив попилить полтора миллиарда вечнозеленых:), и опубликую здесь, на хабре, тезисы касаемо искусственного интеллекта, которые я формулировал на протяжении нескольких лет — собирал цитаты из прочитанного (я — сторонник синергетического подхода), что-то дополнял, а что-то даже придумал сам (но, как известно все новое — хорошо забытое старое). Кое-что из них я уже публиковал на хабре ранее, но сейчас предлагаю на суд хабрапублики первый раздел «Тезисов» целиком. Если данный материал вызовет интерес и положительный отклик, опубликую что-то еще.

1.
Действия, которые выполняет человек, прежде всего, основаны на какой-то информации, которой он располагает. Это следует из схемы «Идея – сбор информации – действие – результат»*. (*«схема изменения», «квадрат», и пр.)

Понятие «идея» в данной схеме представляет собой некоторую информацию о результате, который человек должен получить в своей деятельности. Полученный результат должен сравниваться с первоначальной идей, и исходя из этого производится оценка деятельности.
Понятие «сбор информации» представляет собой мероприятия, направленные на получение дополнительной информации, которая будет необходима при выполнении действия в целях получения запланированного результата.
Понятие «действие» обозначает некое действие в материально-энергетическом мире.
Понятие «результат» представляет собой некое изменение, произошедшее в материально-энергетическом мире, в результате действия.

Если человек выполняет какое-то действие на основе неполной и неточной информации, полученный результат, который необходим человеку, может не совпасть с планируемым, т.е. с первоначальной идеей.

Если же человек действует на основе ложной информации, или такой информации, объективность которой очень мала, либо относительно общей (абсолютной) объективности, либо средней объективности информации, которой обладают другие объекты и субъекты данной деятельности, результат также не совпадет с планируемым.

Ложная информация может предоставляться человеку преднамеренно в целях манипуляции, т.е. для управления действиями человека в целях достижения результата, необходимого манипулятору.

2.
Живые организмы (в том числе и человек а-ля homo sapiens) с момента своего возникновения были вынуждены действовать на основе неполной и неточной информации (т.е. на основе «веры в лучшее»). Это явление с философско-социальной точки зрения можно представить как НЕ-свободу. Т.к. качество информации, на основе которой принимается решение к действию, влияет на качество полученной информации. Откуда следует, что человек в частности и живой организм в общем, изначально ограничен в результатах своей деятельности.

И по мере получения более полной и точной информации, а также по мере обучения и самообучения работы с информацией, человек (и живой организм) получает более четкое представление не только о действиях, которые более вероятнее приведут его к наилучшему результату, но и о самих результатах, т.е. об их многообразии, качестве и прочих критериев.

Одна из проекций понятия свобода (с информационной точки зрения) – это возможность «осознанного» выбора. Так вот информация предоставляет возможность выбора и более четкое представление о последствиях.

Далее, свобода в рамках данных рассуждений представляется следующими элементами:
— возможность самоуправления путём выполнения всех этапов «схемы изменения», т.е. генерация идеи, как предполагаемого результата, сбор информации, принятие на основе этой информации решение о действии и собственно генерация данного действия, оценка полученного результата на соответствие запланированному результату, т.е. идеи и т.д. (например, оценка всего процесса: «что хорошо?», «что можно было сделать лучше?»);
— принятие ответственности за свои действия и возможные результаты перед собой и обществом (замечу, что необязательно «слушаться» общества, но отвечать за свои действия необходимо всегда);
— и наконец отказ от переложения ответственности с себя на других, в т.ч. организации, (такие как правительство, государство, начальство), т.е. управляющие структуры, иными словами: отказ от возможности, как пример, управляющих машин, систем, что является попыткой снять с себя как ответственность за принятие решений, так и сами процессы принятие решений, сбора информаций, действия и т.п.

Замечу, что речь идёт не о системах, управляющих, например, производством, а о системах, которые управляют непосредственно человеком.
Т.е. некая управляющая система должна служить помощником человеку с одной стороны и управляющим звеном в цепочке «человек – управление — автоматизированные процессы без участия человека».

3*.

Тезисы по вопросам ИИ

На схеме 1 видно как из-за того, что с двух различных, диаметрально противоположных в данном случае точек зрения некие свойства наблюдаемого объекта могут быть различными, при единственности объекта, возникают конфликты.

Далее…

Теория (в науке) – эта некая эмпирическая закономерность, т.е. такая закономерность, которая следует из результатов многократно проведённых экспериментов по наблюдению какого-либо явления.

А в связи с тем, что с одной точки зрения многократные результаты наблюдений не дают некоторой определенности и достаточной объективности, то и теория, разумеется в общем случае предоставляет информацию объективную лишь с одной точки зрения.

Следует, однако, понимать, что некоторые теории бывают более объективными чем другие теории, или чем субъективные «суммарности» явлений, например, искусство и т.п.

Однако с другой стороны, все точки зрения относительно «всеобщей» точки зрения, абсолютной, более менее одинаково субъективны и объективны. То есть они одинаковы относительно друг друга, учитывая всеобъемливость некой «глобальной» точки зрения.

На схеме 1 глобальную точку зрения можно представить себе такой, какая может рассматривать объект одновременно с двух и более различных точек зрения, на схеме — «1» и «2».

Для достижения более полной объективности, более высокого её относительно показателя, следует рассмотреть явление с как можно большего числа различных точек зрения.

Есть мнение, что объективность информации увеличивается пропорционально увеличению количества так называемых точек зрения, с которых рассматривается явление.

Теория в своём роде является неким «аккумулятором» информации, так же как и знание – в общем случае.

На основе знания человек ожидает определенного события, после того, как произошли некоторые другие события, с некоторой степенью уверенности, «процент» которой зависит от количества и качества знания. Причём теория, которая относится к группе знаний, может подходить к разным явлениям и событиям, т.е. и к таким, например, наблюдения по которым не проводились или не сформировались в теорию, или же просто события другого класса.

Например, закон сохранения энергии (в физике) и закон спроса и предложения (в экономике).

Так вот, более объективный прогноз, т.е. зависимость событий от вероятности их свершения, можно получить комбинируя несколько теорий.

Тезисы по вопросам ИИ

«Научная теория, будучи верным повторением явления, содержит больше информации, чем само явление. Она охватывает целый класс; она говорит о каждом из них и одновременно обо всех вместе». (С. Лем, «Сумма технологии»).

Безусловно, теория не учитывает многих переменных данного явления, т.е. строго говоря «не объективна». Также стоит заметить, что все явления происходят одновременно и влияют друг на друга, что также довольно сильно затрудняет составление объективной закономерности и соответственно результаты применения какой-либо теории не могут гарантироваться «со 100% точностью».

Также, учитывая то, что есть 3 основных способа познания окружающего мира, действительности, а именно наука, искусство и религия, можно сделать вывод об относительной их равноправности.

Тезисы по вопросам ИИ

То есть между ними нет и не может быть никакой конкуренции, они предоставляют по сути одну и ту же информацию об окружающем мире, разница лишь в способе её получения и представления.

Наиболее адекватное представлением об окружающем мире (то есть то, которое наиболее соответствует состоянию действительности) можно получить лишь при синтезе результатов познания, а также методов их получения, с помощью одновременно науки, искусства и религии.

4*.
Если принять сознание за информацию, то получится, что всё сущее, т.е. энергия и материя, является тоже лишь информацией о некоей «реальной» энергии и материи.

Т.е. когда мы что-то видим, слышим, чувствуем, мы воспринимаем информацию. В таком случае органы чувств являются одновременно как и генераторами информации (для сознания), так и каналами передачи информации (в системе «окружающий мир – сознание»).

Последующая обработка полученной информации в сознании с данной точки зрения является обработкой информации другой информацией.

Т.е. можно провести некую аналогию:

Компьютер Человек
Аппаратное обеспечение Мозг
Интерфейс Сознание
Программист Личность
Данные (.txt, .mp3) Свет, звук и т.п.

Следовательно, получается следующий цикл (само)развития и (само)обучения.

Тезисы по вопросам ИИ

Информация через сознание «формирует» личность, личность трансформирует сознание и через «измененное» сознание получает больше информации, которая в свою очередь изменяет определенным образом личность и т.д., т.е. цикл замыкается.

В результате, по мере повторения данного цикла расширяется сознание, т.е. личность с течением времени становится способной получать больше информации о внешнем мире.

Этот процесс «абсолютно» естественен и ведёт к постепенному, но постоянному изменению личности в течение жизни человека.

Младенец — > ребенок — > подросток — > взрослый — > старик

И тут мы приходим к древнегреческой мудрости Сократа: «я знаю лишь то, что я ничего не знаю».

Тезисы по вопросам ИИ

Т.е. по мере роста личности и расширения «сознания», как средства обработки внешней информации увеличивается и количество поступающей информации.

Тезисы по вопросам ИИ

Зависимость количества поступающей информации на вход обрабатывающей системы от возможности обработки информации этой системой. Также этот график характеризует прогресс с информационной точки зрения.

5*.
Возникает вопрос, зачем узнавать новую информацию, если она зачастую противоречит уже познанной? Теории противоречит одна другой, но тем не менее справляются с поставленными задачами – каждая в своей области, и некоторые теории даже «говорят что-то новое» в других областях в которых на первый взгляд эти теории не могут применяться. Это во-первых.
Во-вторых, «проекции реальности», туннели реальности, мировоззренческие установки и принципы при «суммировании» друг с другом в системе «личность — сознание», т.е. в человеческом мозгу за счёт некоторой «гештальтности» (образности) мышления более полный и более адекватный «образ реальности».

6*.

Тезисы по вопросам ИИ

Таким образом, всё что мы знаем о внешнем мире, окружающей реальности, есть проекция происходящих явлений на понятийную плоскость.

Пример:

Тезисы по вопросам ИИ

И* — огонь с информационной точки зрения, именно в это понятие включаются материальные и энергетические проекции явления.

Что характерно, такой человек, который уже обжегся в прошлом, когда видит огонь, старается не совершать ошибку ещё раз и «не играть с огнем». Если ошибки у него не было, он может обжечься в данный момент.
Если же человек не знает ничего о понятии материи или энергии (например, младенец) для него соответственно не будет существовать энергетических или материальных аспектов. Замечу, что хотя он и может чувствовать тепло и видеть дым, общий образ, так называемый «гештальт» огня будет у него наименее объективным и адекватным.

Слегка уточненная схема расположена ниже:

Тезисы по вопросам ИИ

Т.е. энергия и материя для человека – это информация о каких то «аспектах бытия», а информация – часть материи и энергии. Таким образом, энергия, материя и информация есть суть одно и то же.

И если материя может переходить в энергию (и наоборот) по формулы Эйнштейна E=mc2, то может ли информация переходить в материю и энергию?

Также, «сущее», т.е. «объективная реальность» и есть «сущее», а понятия «материя», «энергия», «информация» характеризуют свойства этого сущего. А т.к. свойство – это отличительные черты ситуаций, а не вещей, тогда «всё становится на свои места». То есть понятия «материя», «энергия», «информация» характеризуют определенные ситуации, в которых мы наблюдаем явления «сущего», причём в основном с какой-то понятийной плоскости, т.е. с точки зрения «материи», «энергии» или «информации».
Также мы приходим к понятию «материально-энерго-информацинный» континуум, по аналогии с «пространственно-временном». Также оба этих континуума тоже воссоединить, получится «пространственно-временно-материально-энерго-информационный» континиуум.

7*.
Принцип неопределенности Гейзенберга (электрон) можно применить к человеку а-ля homo sapiens в рамках социума, общества.

Т.е. «нельзя» определить действия отдельно взятого индивидуума с существенной точностью, но в так называемой «совокупности людей», т.е. в общественных группах, классах, и т.п. и в обществе в целом можно определить «свойства» человека, т.е. его поведения в какой-либо ситуации. Естественно, что для каждого человека, отдельно взятого, эти «свойства» будут различаться, но в среднем можно сделать вполне точный прогноз (для общества в целом).

По аналогии с человеческим мозгом, ЭВМ можно предположить, что общество в целом представляет собой метафорически выражаясь «живой организм», гомеостат, организованную систему, которая реагирует на изменение внешней среды. Соответственно, у общества в целом можно предположить наличие «сознания», не такого ясного как например человеческое, но в то же время у всех «живых» организмов это сознание определенно есть, а его «ясность» зависит от количества элементов, входящих в его структуру. Т.е. сознание можно предположить даже у ЭВМ и пр. техники.

Самоосознание же появляется при переходе определённого порога, что иллюстрирует хотя бы процесс взросления человека: от младенца до ребенка, потом до взрослого и старика. Т.е. в процесс жизни человека образуются определенные связи нейронов мозга. В компьютерной терминологии: программное обеспечение составляется само в процессе жизни в аппаратном обеспечении. Самоосознание же, это суть понятие «личность», т.е. у младенца личности нет, и в процессе воспитания она и формируется. Личность может влиять на свои нейронные связи, проводить рекомбинации этих связей, поведенческих программ, как в течение жизни, так и с помощью специальных инструментов, вроде НЛП.

8.
Если учитывать тезисы такие, что «личность растёт с потреблением и усвоением информации» и т.п., то мы можем задаться вопросом, что «толкает» человека или гомеостат вида homo sapiens на познание новой информации. Ведь простейшие организмы и даже более сложные ограничиваются в своём познании исключительно на таком уровне информационного самонасыщения, который позволяет поддерживать жизнедеятельность организма.
Этот «двигатель» — «любопытство», это очевидно, это «все знают» и т.п., но что такое любопытство в рамках понятий информационной системы или гомеостата?
Это некая дополнительная функция системы, которая позволяет собирать и обрабатывать такую информацию, которая в данный момент не является необходимой для обеспечения жизнедеятельности, но в дальнейшем может быть полезна, что определяется человеком в каждый конкретный момент.
В этом, думается, и кроется разница между мозгом и компьютером. И для создания полноценного AI нужно встроить в аппаратно-программный комплекс «функцию любопытства».
В то же время разумность определяется «коэффициентом любопытства», т.е. разумный человек стремится узнавать новое, что и позволяет ему быть разумным в различных ситуациях. Неразумному человеку в большинстве случаев хватает того, что он уже знает.

9*.
Подсознание – это своего рода ОС человеческой информационной системы. Оно локализовано в спином мозге, ЦНС, различных частях головного мозга (гипофиз, зрительные участки коры и пр.) и так далее. Подсознание координирует жизнедеятельность организма, является своего рода оболочкой для личности и сознания.

Информация из окружающего мира передается в подсознание, где она обрабатывается соответствующим для типа информации способом (зрительные сигналы – зрительной корой головного мозга) и переводится в сознание, но не вся, а та, которую сознание запрашивает. В то же время некоторые решения подсознание «не доверяет» сознанию, либо по временным критериям, либо по количественным нагрузкам, но всю информацию возможно тем не менее сознательно получить.

Можно провести рекурсивную аналогию, для более адекватного объяснения предполагаемой структуры.
Представим 2 системы. Первая система – сознание – подсознание – личность.
Вторая система – фонарик – человеческий мозг – человек.
Когда мы освещаем фонариком тёмную комнату, мы видим в лучах света какие-то объекты – стол, стулья, кошку и т.д. Соответственно, полученная информация направляется через глаза в мозг, и человек принимает решение, смотреть ли ещё на объект, куда ему светить дальше и т.п. По мере исследования, человек может найти в комнате более мощный фонарик, увидеть с его помощью некоторые другие предметы, которые он раньше не замечал, например, ручка под столом, кнопка на стуле, хвост мыши в зубах у кошки и т.д. В конце концов он может найти выключатель в комнате – и включить его. В таком случае он будет видеть гораздо больше, но всё равно будет ограничен, так как он не сможет видеть одновременно что происходит перед ним и за ним, но если он видел что происходит за ним ранее, он может иметь представление, что же там творится, и соответственным образом строить своё поведение.

10*.
Принцип относительности информации.

Информация А относительна по отношению к информации В, которая её обрабатывает.

Пример: Если мы возьмём две системы, с состояниями (внутренней информацией) В и С, и предложим им некую информацию А, то мы получим информацию вида АВ у системы В, и информацию вида АС у системы С.

Следствия:
1. Система может получить информацию (извне) лишь при наличии какой-либо врожденной информации у данной системы, с помощью которой произойдёт идентификации и переработка получаемой информации. Если у системы нет внутренней, врожденной информации, она не способна принимать внешнюю информацию (и по сути системой не является).

Пример:
Электроны с различных точек зрения (при различных экспериментах по наблюдению их свойств) показывают, что они «являются волнами и частицами».

«В самом шокирующем случае, который до сих пор приводит в трепет студентов-первокурсников, один набор инструментов показывает нам мир, сделанный из отдельных шариков-частиц, а те же инструменты, но расположенные по-другому, показывают нам мир, состоящий из энергетических волн». Роберт Уилсон, «Квантовая Психология».

На основе принципа относительности информации можно сделать вывод, такой что «на самом деле» электроны не являются ни волнами, ни частицами, а лишь проявляют свойства подобные волнам и частицам в соответствующих ситуациях (системах «наблюдение-эксперимент»). Чем же они «являются на самом деле», можно выяснить лишь при накоплении достаточной информации о микромире (и возможно вводе новых терминов, как например «вол-тица» или «час-на»).

2. Если у системы В внутренней информации в n раз больше чем у системы С, то система В при передаче системе С информации А передаёт количество информации равное А, но система С получает количество информации равное А/n.
А также, при данных условиях
2.1. При передаче информации А от системы С системе В, система С передаст информацию равную Д, но система В получит информацию равную Д*n.
2.2. Адекватная передача информации (передается и получается одно и тоже количество информации) возможна лишь в таком случае, когда передающая и принимающая системы обладают равным количеством внутренней информацией.

Пример:
(любой из образования и обучения, если подставить в понятие «система» понятие «человек»)

11*.
Проблема построения искусственного интеллекта сводится к моделированию человеческого сознания в ЭВМ.
В тоже время необходимо избежать возможных ошибок при моделировании, то есть моделировать как можно более широкое сознание (или систему «подсознание-сознание-личность»), которое позволит ИИ более эффективно решать поставленные задачи. Так как у ЭВМ скорость операций потенциально выше чем у человека, то несомненно ИИ может оказаться полезным человеку для решения его задач.

Однако, с другой стороны абсолютно непонятно такое сильное рвение при создании AI и количество надежд, связываемых с его конструированием. Если ИИ позиционировать как модель сознания (если точнее системы «подсознание-сознание-личность»), то вполне очевидно что ИИ будет обладать такими же недостатками (с научно-исследовательской точки зрения) как-то:
— свободой воли, т.е. он может «забивать» на работу, и делать то что «хочет»;
— совершение ошибок, что является естественным спутником при обучении;
— догматизм в некоторых понятиях, который в принципе можно будет устранить со временем (но только со временем);
— и т.п.
Т.е. всеми теми же недостатками-преимуществами (с какой стороны посмотреть) как и у человека.

Однако, очевидно что у AI есть одно (возможно из нескольких) неоспоримое преимущество, обусловленное его «природой» — скорость обучаемости. То есть AI может за относительно малое время «узнать» больше чем человек (за то же время), что обусловлено его «цифровой природой». Также можно продолжить данную мысль и прийти к некоторым другим преимуществом «искусственного» разума над «естественным»*:
— отсутствие физической усталости,
— точность и скорость всевозможных расчетов,
— скорость нахождение новой информации (за счёт полной интеграции в цифровую среду),
— и прочие.

* — особой принципиальной разницы между данными понятиями нет, так как множество «искусственных» вещей являются косвенно «естественными», так как созданы «естественным» человеком.

12*. Из концепции Алана Тьюринга, «если собеседник не может определить, разговаривает ли он с человеком или с машиной, это доказывает, что машина ведет себя так же умно, как и человек», следует вывод, что если ПК при вольном разговоре с человеком будет вести себя как человек, то у ПК имеется интеллект.

Далеко не любой человек может разговаривать с любым человеком на любую тему. Например, не каждый программист-специалист в области какого-либо языка не сможет поддержать разговор с ученым биологом на тему «размножения инфузорий туфелек». В повседневной жизни люди часто не могут найти общие темы для разговора… и т.п.

Какой либо человек на рабочем месте в настоящее время мало отличается от «компьютера», т.е. от компьютера со специализированной программой для выполнения определенных функций. Например, при появлении нестандартной задачи, сотрудники не располагающие информацией о методах её решения, как правило, передают её на рассмотрение другим сотрудникам, уровнем выше или ниже. Программа же выдает сообщение об ошибке. То есть, для человека который заказывает билет через Интернет и покупает его в кассе аэропорта разница между человеком и компьютером несущественна, и при добавлении определенных функций к программе, или выборе определенного кассира в аэропорте, человек уже не сможет отличить человека от программы…

Также «разговор» можно интерпретировать как коммуникацию, передачи информации которой владеют собеседники.
Но тут включаются следующие аспекты.

Предположим, что есть несколько категорий информации. И каждая последующая категория информации вложена в предыдущую, и чтобы её обработать, необходимо иметь доступ к информации верхнего уровня.

Пример:

1. Раздел.
1.1 Категория.
1.1.1. Статья.

Т.е. чтобы ознакомиться со статьей, надо получить доступ к категории, чтобы получить доступ к категории надо получить доступ к разделу.

Возьмем также «контуры сознания» Лири — Уилсона.
1. Биовыживательное (одноклеточное) сознание. Характеризуется восприятием, обработкой и передачей нервных сигналов, отвечающих за клеточное здоровье и размножение. Метаболическая безопасность.
2. Эмоционально-двигательное сознание (сознание млекопитающих). Характеризуется восприятием, обработкой и передачей нейромышечных сигналов, отвечающих за подвижность тела и контроль над территорией. (Драться или убегать?)
3. Символическо-артефактное сознание. Восприятие, интегрирование и передача информации с помощью жестов и абстрактных символов (первый алфавит). Создание языка и инструментов. Символьное мышление.
4. Индустриальное сознание. Восприятие, интегрирование и передача нервных сигналов, связанных с сексуальными ролями, родом деятельности и иерархическим положением в индустриальной культуре.
Приведенные контуры есть «внутренняя информация человека как системы».
4 контур не может существовать без 3, 3 без 2, 2 без 1…
Определенные инстинкты, программы поведения, рефлексы, эмоции, мировоззренческие установки содержатся в данных контурах-категориях.

В соответствии с этими контурами строится поведения человека в определенных ситуациях… «Отсутствие интеллекта» в компьютерах имеет место быть потому как у них нет аналога первого и прочих контура человека. Компьютеры на данный момент лишь инструменты. Возможно, искусственный интеллект реализуем в подобной человеческой системе, например 4 контурной.

Один из возможных вариантов создание ИИ следующий:
1 этап. Создание платформы, с некоторой внутренней информаций, на основе которой можно производить обучение системы.
Платформа должна моделировать человеческое сознание, с функциями: памяти, логики, ассоциативной, нейрологической логики, реализацией внешнего языка (английский) и внутреннего (образное мышление)*, модуль эмоций (подкрепляющие неудачи и победы – при неудаче закрепляется нежелание повторить, при удаче — запоминание). Также должен существовать некий модуль «само-программирования» — «функция любопытства».
2 этап. Обучение платформы на различных ситуациях.

* — Перевод мыслей в слова можно представить как операции с базами данных. Т.е. образы хранятся в одной таблице, в процессе мышления с ними проводятся операции сравнения, синтеза, и т.д., результаты сохраняются с этой таблице. Слова языка хранятся в другой таблице – слова связаны с образами (одно слово со многими, одно с одним, много слов и одним образом) и в соответствии с этой таблицей излагаются мысли. Или же все эти действия происходят в одной многомерной базе данных. При синтезе «ошибочных метаобразов», таких как «круглый квадрат», «стеклянная баня» включается защитная функция – смех…

При реализации БД образов не ясны принципы кодирования образов. Как вариант, можно установить связи между образами, образами и словами, и допустимые и недопустимые сочетания образов и их связь со словами.

Мышление у человека организовано с помощью нейронных цепей и контуров. Всю информацию теоретически можно представить в базе данных, со сложными связями между таблицами и ячейками, но только при использовании не-аристотелевской, а трехзначной, нечеткой логики, логики Цаде при связке образов – данных в базе. Принцип организации данных при этом останется идентичным, разница лишь в методах представления организации связей. Учитывая «принцип относительности информации», можно сказать, что «гипотеза о мышлении человека» просто представлена с двух точек зрения: «нейрологической» и «точки баз данных».

13*. С точки зрения паралогии интеллект человека – всего лишь инструмент. Точно так же как для пользователя ПК, сам компьютер – инструмент, помогающий ему в обработке большого объема информации при вычислениях, т.к. «интеллект», логическая часть «программного обеспечения» человека слабо приспособлена к операциям с большим количеством информации. Это потому что большая часть человеческого мозга занимается обработкой подсознательной информации, необходимой для функционирования организма, движения и т.п. Объем перерабатываемой информации в разы больше чем объем обрабатываемой сознанием, интеллектом информации («3-м контуром»). Отсюда расхожее мнение, что «человек использует лишь 3-5% своего мозга».

Из вышесказанного можно сделать два вывода.

1. «Искусственный интеллект» и «искусственный разум – цифровой аналог человека» * — вещи по сути разные. Искусственным интеллектом вполне может считаться современный ПК, т.к. он выполняет функции логического модуля мозга человека, и даже намного эффективнее. Однако чтобы создать цифровой аналог человеческого разума, одного интеллекта недостаточно. Необходимы ещё не-логические модули, «подсознательные», например, на основе нейро- или квантовых компьютеров.
2. Чтобы эффективно решать вопросы жизнедеятельности человеку недостаточно пользоваться только лишь сознанием, интеллектом. Необходимо обращать внимание на подсознание, интуицию, т.е. те структуры, которые ещё до конца не изучены. Именно они используют логику не аристотелевскую, а трех и более значную.

* — в дальнейшем по тексту «ИИ» аналогично «ИР», а для «искусственного интеллекта» будет указываться понятие – «модуль интеллекта» (аналог 3-го контура).

Одной из функций модуля интеллекта является обучение «подсознательных модулей», т.е. в рамках концепции «памяти баз данных» моделирование, проверка результата и закрепления многократным повторением в одной и различных ситуациях связей между образами.

14*. Однако существует некоторые причины для того чтобы предположить, что человек это нечто большее чем его тело, мозг, нейронные связи, нейро-контуры, и пр. Человек может управлять своим телом весьма эффективно, как это делают например Йоги, изменять свое мировоззрение – то есть перепрограммировать некоторые свойства своих нейро-контуров, эффективно управлять своей памятью и т.п. Вопрос в том, кто это делает? Ведь достаточно проблематично «вытаскивать себя за волосы из болота»?

Возможно это контур метапрограммирования (7-ой)…

«Контур метапрограммирования — известный как «душа» в гностицизме, «не-ум» (у-синь) в Китае, Белый Свет Пустоты в тибетском буддизме, шива-даршана в индуизме, Истинный Интеллектуальный Центр у Гурджиева — представляет собой просто мозг, в котором пробудилось сознание самого себя. Художник, видящий себя в своей картине, видящего себя видящего себя в своей картине… Согласно дзэнской метафоре, это зеркало, которое все отражает, но ни к чему не привязано. Это — сознательное зеркало, которое знает, что всегда может отразить нечто другое, изменив угол отражения». Р.Уилсон, «Психология Эволюции».

Учитывая нераспространенность этого явления у большинства людей представляется весьма проблематично импринтировать этот механизм у ИИ, поэтому проектировать его надо с учетом этого контура.

Приведу аналогии контура метапрограммирования:
— «личность» из пункта 4* данного текста,
— «самосоознание» из пункта 7*,
— «любопытство» из пункта 8…

С точки зрения же биологического строения мозга — разум, сознание это не какая-то вещь или метафизический объект, а то, что делает мозг (а точнее «неокортекс»), т.е. процесс, действие, которое он выполняет в своей жизнедеятельности.

«Сейчас я надеюсь, что я убедил вас в том, что разум это просто название для того, что делает мозг. Это не отдельная вещь, которая манипулирует или сосуществует с нейронами мозга. Нейроны это просто клетки. Нет мистической силы, которая заставляет конкретные нервные клетки или группы нервных клеток вести себя не так, как они вели бы себя обычно». Джеф Хокинс, «Об интеллекте».

Это утверждение упирается на теоретическую модель работы мозга как процесс «память — предсказание».

При моделировании ИИ на основе контурной модели ИИ разумеется не нужны 1, 2, 4 контуры для собственного функционирования, но для адекватного общения с людьми они будут полезными. При наличие же 7 контура метапрограммирования, ИИ сможет изменять «импринты» 1,2,4 контуров и адекватно общаться с различными людьми. 3-м контуром компьютеры по сути уже обладают (и «только им»), вопрос стоит в эффективном использовании.

Проектирование баз данных должно учитывать мульти-структурность хранимых данных. Например, есть абсолютное понятие круга, каждый человек его имеет. В это понятие вкладывается понятия «колесо», «проекция шара», «солнце», т.е. все «круглое». В понятие например колеса вкладываются такие понятие как «деревянное колесо» (телеги), «диска с шиной» и т.д. Т.е. в модели «память-предсказание» Джефа Хокинса большую роль играют организация данных и их взаимосвязь, в том числе и «взаимовложенность».

Так же можно предположить что «мульти-структурность» окружающих процессов, т.е. такое свойство мировосприятия, которое вкладывает структуры в структуры в структуры и т.д., т.е. то, что иллюстрируется следующей цитатой…:

«Математик Дж. У. Дюнн превратил этот вопрос в притчу. Художник, бежавший из сумасшедшего дома, в который его (справедливо или несправедливо) упекли, решил нарисовать поле, на котором очутился. Закончив, он изучил результат и понял, что чего-то не хватает, а именно — его и его полотна, которые являются частью поля. Он начал рисовать заново и изобразил посреди поля себя и полотно. Вновь подойдя к результату философски, он понял, что чего-то по-прежнему недостает: а именно — его и полотна, на котором он изображает себя и полотно посреди поля. Он начал перерисовывать картину в третий раз… затем в четвертый… и так до бесконечности». Р.Уилсон, «Психология Эволюции».

…является следствием строения и функционирования неокортекса, который использует паттерны для восприятия и хранения информации об окружающем мире…

Все поступающие данные в мозг, идут в виде паттернов в неокортекс, где уже существуют определенные структуры (контуры Лири), которые представляют собой мировоззрение отдельно взятого человека.

15*. Одним из важных свойств информации является образование новой информации (кванта информации) при синтезе двух и более «информационных квантов». Если сочетать это свойство с «принципом относительности информации»…

Смысл в том что при взаимодействии двух систем с внутренней информацией соответственно A и B, например их слиянии, количественно образуется информации больше чем А+В или А*В, однако с одной точки зрения, например системы А это не очевидно. Если же рассматривать это образование информации «одновременно» с точки зрения обеих систем, их внутренней информации А и В, информации АВ (которая «смотрит» как на отдельные системы, так и на сумму систем в целом), а также с точки зрения «независимого наблюдателя», то можно спроецировать большой объем информации…

«Если свести вместе два разума, всегда появляется третий, высший разум, который незримо способствует их сотрудничеству». Уильям С. Бэрроуз и Брайан Джизн, «Третий разум»

16**. «Или – можно сказать, что боровская модель атома истинна? Моделька примитивная, физиками ныне всерьез не рассматривается и служит только для объяснения, что есть атом, школьниками студентам. На большее не годна. Так истинна она или нет?
Истинна! В рамках своей задачи (объяснение для школьников). И ложна для всех остальных задач. Любая модель, любая функция имеет свою область определения. И это относится не только к физике, между прочим. Это относится ко всем наукам. В том числе общественным. В том числе к психологии. В том числе к политике. Модель подбирается под задачу – вот главное». А.П.Никонов, «Апгрейд обезьяны».

«В этом мире существует только реальность и разные информационные модели, ее описывающие. Больше ничего. Если модель, придуманная учеными, адекватна, то есть дает предсказуемый результат, то есть из нее рано или поздно можно получить практическую пользу, ее называют истинной – гипотеза переходит в общепризнанную теорию». А.П.Никонов, «Апгрейд обезьяны».

Использовать принцип для организации модели «решение задач перебором моделей, зависимых от типа задачи». Т.е. для разных задач используются разные модели решения, информационные модели действительности.

Также оставить возможность для решения задач нестандартными методами, т.е. используя модели, не привязанные к типу задач.

«– А что же было ДО сингулярности? – на голубом глазу спрашивали меня редакционные девушки, любившие прислушиваться к нашим с Валерием застольным беседам.
Вопрос некорректно поставлен. Здесь некорректность того же рода, как в знаменитом вопросе «вы уже перестали пить коньяк по утрам?» Кратко ответить невозможно, потому что в вопросе уже содержится утверждение о том, что вы пьете коньяк по утрам. И вопрос касается только одного – перестали или продолжаете. А если я не пью? Или не коньяк? Или не по утрам? Или весьма эпизодически?
Так и в вопросе о том, что было до сингулярности. В нем ведь стоит словечко «до». А оно предполагает шкалу времени, на которой относительно любой произвольной точки можно выбрать состояние «до» (слева) и состояние «после» (справа). А если эта шкала – не прямая линия, а луч? Левее начальной точки у луча нет ничего. Соответственно, вопрос о том, что было «до» сингулярности, лишен смысла. Потому что времени не было.
А почему физики говорят, что времени не было? А потому, что не было событий». А.П.Никонов, «Апгрейд обезьяны».

Время — понятие относительное, зависит от «системы координат» — конкретной информационной модели.
А если создать информационную модель действительности, в которой возможно перемещение во времени? :)
Также существуют модели субъективно ускоряющие или замедляющие «ход времени». Они реализуются препаратно или осознанным моделированием (NLP, DLE).

17**. Д/З. :)
Продумать связь «Периодическая таблица Менделеева – социальные группы» в рамках одной из информационных моделей типа «метамодель».

18**. Для разработки ИИ нужна специальная социальная система, выстроенная из специалистов в области ИИ различной специализации.

Единственное существенное ограничение в обучении специалиста в области ИИ – наличие у него желания изучать «тему», наличие «врожденного любопытства», способность складывать мозаику реальности из разрозненных элементов – теорий и концепций, зачастую друг другу противоречащих, способность отстраниться от ограничений языка (см. 18.1)…

18.1. «Объект – это не процесс, а процесс – это не объект. Все вроде бы ясно. И вдруг выясняется, что в микромире объект – это процесс, а процесс – это объект. Электрон, который объект, одновременно и волна, которая процесс. Как такое можно понять?» А.П.Никонов, «Апгрейд обезьяны».

Реальность (субъективная модель реальности) – это мозаика многомерной (с объективно бесконечной) размерностью, в которую складываются различные теории и концепции строения мира.

19*. Некоторые свойства информационных моделей.

Преобразования (некий результат) выполненные в одной информационной модели, могут быть перенесены в другую модель после соответствующей корректировки (т.е. «подгонки» под модель, в которую переносятся результаты)*.

* — Это позволяет тот «факт», что какая-либо информационная модель описывает одну объективную реальность (которая субъективно является информационной моделью типа мета-модель).

Информационная мета-модель – такая модель, которая допускает существование других информационных моделей и позволяет производить с ними и в них различные преобразования и переносить результаты, полученные в одной информационной модели в другую.

Аналог информационной модели для человеческого сознания и мозга – туннель реальности в НЛП и мировоззрение в общем смысле.

20*. «Восприятие, заключается не в пассивном приеме сигналов, но в активной интерпретации сигналов.
Или, в несколько ином виде:
Восприятие заключается, не в пассивных ре-акциях, а в активных, творческих транс-акциях». Р.А. Уилсон, «Квантовая психология».

Логические петли… и причина относительности информации:
— точно также как человек посредством скальпеля, микроскопа изучает строение своего организма, посредством философии и нейрологии – свой разум, точно также вселенная посредством человека изучает себя.

21*.
Синтез понятия «метасистемного перехода» (информационный аналог физического фазового) и контурной модели Лири-Уилсона в ключе эволюционной кибернетики:

1. Оральная система биовыживания, в значительной мере определяемая импринтами раннего младенчества, отвечает за поиск Безопасного Места и избегание Опасного или Враждебного.
Когда кто-то наводит на вас пистолет, какое бы «я» в вас до этого момента ни доминировало, система биовыживания сразу же «захватывает» ваш мозг. Побежите ли вы, упадете в обморок или повергнете противника наземь ударом каратэ — впоследствии вы не сможете вспомнить момент принятия решения. «Я просто сделал это», — скажете вы потом, потому что древние, восходящие к рептилиям нейронные цепи этой системы действуют как безусловные рефлексы.
Р.А. Уилсон, «Квантовая психология».

Данный контур характерен для простейших, одноклеточных информационных систем. Модель типа «амеба». Данной модели соответствуют простейшие общественные образования, существа вирусной природы и т.п., а также цивилизация в целом.
Развивающиеся органические (т.е. не механические) системы как правило «относительно быстро» приходят к первому метасистемному переходу, что означает что процессы первого контура при взаимодействии с окружающей средой приводят к формированию второго контура.

2. Анальная территориальная система, в значительной мере определяемая импринтами, возникшими на этапе, когда ребенок учится ходить, отвечает за захват территории и поддержание некоторого определенного статуса в стае млекопитающих, человеческой семье и сообществе. Даже низкий статус, будучи однажды импринтирован, будет автоматически функционировать и казаться «нормальным». Так, например, человек с импринтом «Неудачник» в этой системе будет ощущать крайнее неудобство, беспокойство и злость, если обстоятельства внезапно сделают его «Хозяином Положения», — столь жеавтоматически, как человек с импринтом «Хозяин Положения» будет ощущать неудобство, беспокойство и злость, оказавшись в положении «Неудачника».
Р.А. Уилсон, «Квантовая психология».

Тезисы по вопросам ИИ

Модель типа «животное». Этой модели соответствуют политические организации, государства «на политической карте мире», т.е. в смысле взаимодействия как организмов.

В такой модели первый, биовыживательный контур имеет тем не менее более высокий приоритет.

3. Семантическая времясвязывающая система, импринтируемая на этапе, когда язык и другие виды символизма начинают «представлять смысл» для растущего ребенка, отвечает за речь, мышление (внутреннюю речь) и создание карт и моделей реальности.
Так как объем информации возрастает логарифмически, эта система по мере роста человека производит новые карты и модели все быстрее и быстрее. Эти новые туннели реальности дают начало новым технологиям, которые изменяют политику, экономику и социальную психологию непредсказуемым образом.
В то время, как первые две системы поддерживают константы эволюции, семантическая система высвобождает фрактальный «хаос» — математический термин для обозначения высокой степени непредсказуемости. Времясвязываюгций семантический организм — такой, как человеческий, — отходит от эволюционных норм и функционирует как революционный фактор… по крайней мере, потенциально.
Р.А. Уилсон, «Квантовая психология».

Тезисы по вопросам ИИ

Слаборазвитые зачатки третьего контура можно наблюдать практически у всех гомеопатических систем: насекомых, животных и т.п.

Модели типа «примат» соответствуют системы с развитым третьим контуром: политические объединения в моменты коммуникации с другими организациями, дикие приматы, дельфины и т.п.

Приоритеты контуров в общем случае также остаются согласно нумерации, сначала первый, затем второй и третий.

4. Социосексуальная система, импринтируемая в период полового созревания, создает характерную Сексуальную Роль и «личность», способную последовательно воплощать эту роль. «Мораль» закрепляется в этом импринте в первую очередь, обеспечивая постепенный «цивилизационный» процесс, благодаря которому лояльность по отношению к семье может перерасти в лояльность к любому члену племени, в высшую лояльность к нации, государству и т.д. и даже, в наше время, — в лояльность по отношению ко всему человеческому роду и живой планете Земля.
Р.А. Уилсон, «Квантовая психология».

Тезисы по вопросам ИИ

Модель типа «одомашненный примат».

Использование четвертого контура порождает общественную мораль и этику, регулирует вопросы размножения, и замыкает цикл до достижения критической информационной массы как в масштабах общей инфо-сферы цивилизации, так и в масштабах отдельной личности.

Метасистемный переход от состояния 1-3 к состоянию 1-4 активизируются по РНК активностью согласно общему плану ДНК.

Макросистемы, состоящие из систем без микросистемы, соответствующей третьему контуру практически не развиваются, простейший пример – муравейники.

Макросистемы, которые состоят из систем с микросистемой третьего контура развиваются довольно активно, как пример – эволюция городов от средневековых до современных мегаполисов.

5. Нейросоматическая система, содержащая обратные связи «головной мозг—нейропептиды—иммунная система», которые мы рассмотрели в разделе о единстве «души — тела».
Р.А. Уилсон, «Квантовая психология».

Тезисы по вопросам ИИ

К метасистемныму переходу от состояния 1-4 к состоянию 1-5 приводит множество факторов:

Эволюционно-революционный переломный момент, или квантовый скачок, кажется неотвратимым, так как изучение иммунно-нейропептидных связей, нейрохимии, эриксонианского* и постэриксонианского гипноза, нейролингвистического программирования должно привести к появлению «научной йоги» или, как я ее называю, «революции в голове» — революции Гедонической Инженерии и Развития**. Нейросоматическое лечение и нейросоматические «подъемы» (йогические или химические экстазы), в прошлом достигавшиеся интуитивно или случайно, положат начало точной технологии прекрасного настроения и хорошей жизни.
Уже существуют отдельные журналы, занимающиеся популяризацией последних научных достижений нейросоматики. Широкой публике уже немало известно о наркотиках (узаконенных и нет), витаминах, питательных веществах, брэйн-машинах и компьютерных играх, позволяющих войти в нейросоматические состояния. В следующее десятилетие число последователей «революции в голове» будет расти, а информационный взрыв в соответствующих областях науки даст начало новой и лучшей технологии избавления от импринтов и метапрограммирования (избирательного переимпринтирования).
Р.А. Уилсон, «Квантовая психология».

Другими словами, метасистемный переход активируется после определенного информационного наполнения систем 1-4 контуров. С химической точки зрения они представляют собой нейропептидную активность сознания, в т.ч. вещества группы эндорфинов.

Следующая цитата весьма точно характеризует метасистемный переход к 1-5 состоянию:

Действуя как нейропередатчики в головном мозгу, нейропептиды выполняют много любопытных известных нам функций (и, вероятно, много еще неизвестных). Что важнее всего, они обеспечивают открытие и, возможно, импринтирование новых нейронных дорожек, «сетей» и «рефлексов». Это означает, что большая доза нейропептидов оказывает на головной мозг такое же влияние, как и большая доза ЛСД или любого другого психоделического вещества, давая возможность воспринимать и мыслить по-новому, избавиться от привычной фразеологии и «увидеть» мир сквозь призму другой фразеологии. Сменить жесткий туннель реальности на лабиринт реальности, где вариантов выбора великое множество. Выйти за пределы модельного теизма (догмы) и чувствовать-мыслить непринужденно, в согласии с «модельным агностицизмом» посткопенгагенской физики…
…В терминах информационной теории это выглядит как существенное увеличение количества информации, обрабатываемого за единицу времени. Чем больше новых цепей образуется в вашем мозгу, тем больше информации вы способны уловить в самых простых и обыденных предметах и событиях.
Р.А. Уилсон, «Квантовая психология».

Информационное содержание пятого контура, выраженное посредствами третьего иллюстрирует пятая симфония Бетховена.

Очевидно, что активация пятого контура — промежуточный шаг к следующему состоянию, 1-6.

6. Система метапрограммирования, базирующаяся на йоге и научном методе, возникла на Западе после научной революции — в среде различных «герметических» обществ (XVI —XVIII вв.). Свою вторую жизнь она получила в 60-х годах нашего столетия, когда наркотик ЛСД показал большинству психологов и нейрологов, что быстрые изменения функционирования головного мозга легко достижимы при использовании правильных методик. Когда правительство запретило использование ЛСД, исследования сместились в «законные» области — применение других наркотиков (некоторые из которых впоследствии также были запрещены), изоляционных камер и т.п.
Р.А. Уилсон, «Квантовая психология».

22*. Феномен кибернетического сознания.
Допустим, что сознание — процесс, протекающий при взаимодействии кибернетической системы с окружающей средой. Также примем во внимание 4-х контурную модель Лири-Уилсона. Разобьем каждый контур – систему на микросистемы, приняв все сознание за макросистему.

Тогда можно выделить два типа сознания: механическое и органическое. Механическим сознанием обладают, как это очевидно из названия, механизмы, то есть гомеостаты, выполняющие механическую работу и не обладающие памятью и «ограниченные в познании». Самоосознанием же они не обладают.

В таком случае можно выделить несколько ключевых моментов зарождения органического сознания (включающем в себя самоосознание): память, самообучение (обратные связи + память)… Чем больше микро-систем включает в себя органическое сознание, тем более оно «развито», «яснее» и т.п.

К категориям микро-систем можно отнести так называемые «чувства»: зрение, осязание, слух и т.д., т.е. «приборы обратной связи».

Т.е. чем больше информации (через «волно-приемники», оптической, слуховой и т.п.) об окружающем мире получает гомеостат и хранит в своей памяти, тем яснее его сознание.

Таким образом, мы приходим к выводу, что самоосознание – это (интровертный) процесс изучения системой самой себя, построенный на памяти и обратных связях, и его, как и сознание, следует считать процессом (а не объектом), что упрощает понимание этого феномена.

Понятие системы в вышеприведенных рассуждениях тоже следует рассматривать как процесс.

Феномен человеческого самосознания (как самого явного) видимо следует из возможностей 3 контура, а именно лингвистической конструкции «Я».

Cознание – это способность формировать знание без внешнего восприятия. Внутри самого себя.

99***. Цитаты россыпью.

«Случайности микромира все таки прорываются в наш мир. Как им это удается?
Именно этот вопрос я и задал небритому Чибрикину в синих джинсах.
– А скажите мне, почему чай сладкий – потому что сахар положили или потому что ложкой помешали? – вопросом на вопрос ответил Чибрикин.
– Из за обеих причин.
– Верно. Одной причины недостаточно. Если не положить сахар, то нечему и быть сладким. То есть если бы не было случайности на уровне элементарных частиц, откуда бы тогда взяться ошибкам в нашем мире? А если не помешать ложкой, сладость не распространится по всему объему воды. То есть помимо ошибки должен существовать какой то механизм распространения ошибки. Некая информационная система, которая делает ошибку «престижной», навязывает ее всему объекту». А.П.Никонов, «Апгрейд обезьяны».
«…Ясно, что для того, чтобы ошибка распространилась и захватила весь образец (пробирку, страну), должны быть какие то особые УСЛОВИЯ…
… Эти три примера показывают, что, помимо самой случайности, должна существовать в образце еще некая информационная система, которая разносит случайность по всему образцу. В случае с размешиванием сахара в стакане роль информационной системы играет болтающаяся в стакане ложка…» А.П.Никонов, «Апгрейд обезьяны».

«У муравьев и термитов «язык жестов» – они, встречаясь, постукивают друг друга усиками, рассказывая, куда идти за добычей. В 1985 году под Новосибирском учеными был поставлен следующий опыт. Муравей разведчик долго плутал в лабиринте, после чего находил где то в дальнем его конце каплю сиропа. Разведчик возвращался домой и своей муравьиной морзянкой передавал рабочим муравьям, куда идти. Те шли и безошибочно, без единого лишнего поворота находили искомое.
Оказалось, чем сложнее был путь по лабиринту до заветной капли сиропа, тем дольше муравей объяснял коллегам, как найти приманку. Если же путь был длинный, но простой (скажем, на всех перекрестках лабиринта нужно было поворачивать только направо) муравьиный пересказ занимал совсем мало времени. Будто разведчик кратко бросал ребятам: «Все время направо…» Я зря употребил слово «будто». Без всяких «будто» и «как бы»! Муравей действительно кратко сообщал им именно это – обобщенную информацию.
Муравей не перечислял нудно: первый поворот направо, второй поворот направо, третий поворот направо… Нет, он именно обобщал информацию в своей крохотной головке и выдавал не полный путь, а алгоритм поиска». А.П.Никонов, «Апгрейд обезьяны».

«Еще одно интересное следствие из вышесказанного: квантовая демографическая модель позволяет увидеть, как глобальное развитие влияет на отдельную страну, но не наоборот. Это важный момент! Вся современная наука и общественное восприятие основаны на редукционизме, то есть ученые полагают, что если они разберутся в психологии человека, общины, города, региона, страны… то из этих кирпичиков сложат общемировую картину. Это ошибка. Общую картину дают только общие законы. В чем была основная слабость демографов «докапичного» периода? Они никогда не придавали значения развитию человечества в целом, как общепланетарного феномена, и всегда рассматривали демографию отдельных стран. Поэтому общая картина фазового перехода ускользала от их взора».

Автор: godfather

Источник

Поделиться

* - обязательные к заполнению поля