Работая над собственным проектом Rainbow.Net — нейросетью прямого обучения — я столкнулся с интересной задачей: нейронное кодирование, при котором предполагается, что сигналы, передаваемые между биологическими нейронами, могут обладать огромной информационной ёмкостью. Это вызвало у меня закономерный вопрос:
А какой информационной ёмкостью вообще обладают сигналы в классических искусственных нейросетях?
