Как работают рекурентные соединения между нейронами?

Question

живыми нейронами или хотя бы модель Ходжкина Хаксли. Если рассмотреть к примеру сеть из одного нерона и рекурентное соединение в тот же самый нейрон. Я понимаю, что выход нейрона в предыдущий момент времени идет на вход его же но в данный/текущий момент времени. может кто нибудь сможет объяснить как мне это понять с точки зрения живого нейрона? мне сложно вот эти дискретные моменты времени перевести в непрерывный поток

Answer 1

Повторяющиеся связи между нейронами позволяют передавать информацию обратно через сеть, создавая петли активности, которые сохраняются в течение долгого времени. Эти циклы позволяют сети обрабатывать и запоминать информацию в течение определенного периода времени, а не просто обрабатывать информацию за один проход.
 
В рекурентной нейронной сети (РНС) скрытое состояние нейрона на данном временном шаге зависит не только от входов, которые он получает на этом временном шаге, но и от скрытого состояния того же нейрона на предыдущем временном шаге. Это создает петлю обратной связи, в которой скрытое состояние нейрона на данном временном шаге может влиять на его собственное состояние на будущих временных шагах, а также на состояние других нейронов в сети.
 
Сила рекурентных связей определяет устойчивость и силу этой петли обратной связи и может быть отрегулирована в процессе обучения для точной настройки поведения сети. Например, боле сильные рекурентные связи приводят к боле длительному запоминанию и сохранению памяти, а боле слабые рекурентные связи приводят к боле короткому запоминанию и быстрому забыванию.
 
РНС использовались для моделирования широкого спектра временных рядов и последовательных данных, включая распознавание речи, перевод языка и генерацию музыки. Они особенно хорошо подходят для обработки последовательных данных, поскольку могут подерживать и обновлять скрытое состояние в течение нескольких временных шагов, что позволяет им улавливать закономерности и взаимосвязи в данных с течением времени.