Скорее правильно назвать не импульсная сеть, а конденсаторная. Дендриты, аксон, телодендрии - это локальные переменные конденсаторы (вариконды). Весь нейрон глобально тоже конденсатор (вариконд), но уже побольше. Нейрон ничего не вычисляет. В задачу нейрона входит создание в своей структуре связей (варикондов) своего собственного резонанса к патерну (комбинации) принимаемых (стекаемых) зарядов на входе дендритов. Так как конденсатор при определенной частоте может становиться индуктивностью. Место где конденсатор является минимальной индуктивностью и минимальной емкостью и есть собственная резонансная частота нейрона, так сказать "не рыба не мясо". Для изменения структуры и достижения собственного резонанса всех элементов нейрона служат химические нейромедиаторы - автоподстройка всех узлов (элементов) нейрона. Сама структура, то есть параметры всех элементов у нейрона и есть память. В итоге нейрон становится селективным фильтром к определенной группе сигналов (патернов), обладая при этом небольшим диапазоном пластичности и избирательности, в зависимости от количества и частоты спайков. Ключевое слово здесь собственный резонанс, а не вычисления. То есть минимум затрат энергии ионов и максимум избирательности (результата). Другими словами смотря на изображение или слушая звук мы узнаём комбинацию резонансов данного внешнего явления на своих сенсорах, а не биты. Для этих целей служит неокортекс как база данных различных резонансов. То же самый принцип используется и для выходной информации (моторных нейронов) - короткий код (намерение), разворачивается в большой (например движение руки). Собственно входные и выходные патерны в неокортексе физически находятся рядом. И забыл добавить нейрон имеет не один выход, а дерево емкостно-индуктивных выходов итоговая комбинация которых на синапсах тоже изменчива. Использовать один выход и сигнал проходящий по аксону это уже автоматически ошибка и заблуждение. Вы спросите почему резонанс? Потому что мозг это частный случай нервной системы для адаптации всего организма к среде, то есть по итогу резонанс тела к внешней среде. Своего рода преализация дуализма частица-волна во всех физических проявлениях.

№1 …..

Во-первых, не очень понятны проблемы т.н. вами сверточных сетей. Надо ли полагать, что к их классу вы относите и декодеры с сотней млрд весов или это немного не так?.. Во-вторых, не кажется ли вам, что вы просто рассказываете о функциях активации вместо объяснения нюансов архитектуры? Поправьте меня пожста В-третьих, непонятно, какие задачи призваны решать подобные алгоритмы и насколько эффективно по сравнению с другими подходами это удаётся

позитивная подача! продолжайте, поддержим)

Спасибо за объяснение темы, очень полезно! Дает вектор изучения и базовое понимание отличия импульсных нейронных сетей от других подходов.

Отличные, интересные вопросы от учеников!

Пардон. но.....

Познавательно

Круто.

Ну, хоть зрелищно было

Я понял, что это Михаил Киселев.. после этого много шипящих и свистящих звуков. Михаил Киселев, занимайтесь своим делом.

Инженер должен уметь формулировать мысль. Иначе невозможно понять и интерпретировать Ваши мысли. Очень невнятно и непонятно на кого нацелено.

Ойойошеньки, что же творит Голдберг!

Работаю ит-инженером в нефтегазовой отрасли. Отличная лекция. Почему у канала так мало подписчиков? Удивительно! Дед строил Белоярскую АЭС. Росатому пламенный привет и всяческих успехов! Молодцы. Сына своего планирую направить учиться на атомщика.

А есть у вас нормальные видео с примерами решения задач?

Сколярное произведение, может это корреляция весов с чем то там?

Очень круто. Надеюсь, когда-нибудь дойдет до массового производства нейрочипов.

15:40 Послушал бы еще, но, простите, не вижу смысла потреблять информацию, устаревшую еще в прошлом веке. Успехов.

15:06 Нет, Вы - НЕ ЗНАЕТЕ. Внутри нейронов связь осуществляется в ОБОИХ направлениях. Такое ощущение, что Вы строите свои модели, опираясь не на знания, а на слухи 50 летней давности. Ребята, Вы так далеко не продвинетесь.

11:15 Вы явно путаете химическую передачу сигнала и электрическую. Нейроны - не медные провода...

11:05 Да как же не имеют... импульсы очень сильно различаются, и они имеют И длительность, И частоту, И амплитуду, И даже дискретное кодирование, то есть могут иметь рисунок, очень похожий с битовым преставлением данных.

10:24 Ой как Вы ошибаетесь, там есть целый ряд механизмов, позволяющих выполнять локальные и глобальные синхронизации. При чем некоторые из них давно обнаружены, Вы явно не следите за темой. НО, если бы не было синхронизации, то не было бы и мозговых волн. Уже исходя из этого можно было понять, что синхронизации в мозге есть.

9:36 Аналоговость совершенно не обязательна.

9:05 Вы ошибаетесь, память не размазана по состояниям связей, и более того - у мозга есть отдельное огромное хранилище данных. То, что Вы его не нашли, еще не значит, что его не существует. Другой вопрос, что доступ к этой памяти осуществляется по огромному количеству шин и со значительно превышающей электронные системы скоростью.

4:20 Кэши занимают столько площади только потому, что быстрая статическая память требует намного больше вычислительных элементов и, соответственно, - площади, чем динамическая. Кроме того, чистая динамическая память организовывается в многослойных массивах, в то время как статическая - только в однослойном.

Начать стоило с разработки теории Нейронных Сетей. А пока ее не существует, невозможно разрабатывать никакие адекватные модели. Без полноценной теории так и придется дальше действовать методом научного тыка...

Это всё про мысли. А как же эмоции, образы ?

Молодцы!) Не Ansys'ом единым жив человек)

Перекрашивают в синий цвет, а уши черные, даже шильдик в админке D-link остался, да и все меню настройки

Т-Ком просто переклеивают наклейки D-Link на T-КОМ?