Разве это нормально для инженера?

Question

Разработчики нейросетей утверждают что сами до конца не понимают как работают нейросети, разве это нормально для инженера? Это что наука или гадания?

Answer 1

Как работает сеть - они прекрасно понимают. Но сама специфика такой сети приводит к тому, что невозможно определить, какую роль в результате обработки играет какое-нибудь одиночное значение в одиночном нейроне. Нельзя отследить ошибку по проводам и найти неисправный элемент. Сам принцип такой!
То же самое, как нельзя найти определенный ген, виновный в данном конкретном случае заболевания, например. Просто потому что любое мелкое свойство организма определяется сразу кучей разных генов. И при этом - любой отдельный ген влияет сразу на кучу свойств организма. Такой принцип! Мозг - это не компьютер, у которого каждый транзистор отвечает только за свою маленькую задачу. Это нейросеть! Почитай пару книжек об этой теме, хотя бы поверхностно, чтобы понять, что отличие нейросети от компьютера - ПРИНЦИПИАЛЬНОЕ, а не количественное.
И не читай всяких статей для чайников, и не смотри в Ютубе роликов с поверхностными объяснениями и кучей зрелищной графики. Такие источники тебе только намусорят в голове!

Answer 2

Вполне. Задача инженера - разбираться в своей области и уметь использовать смежные. Ты же, когда звонишь кому-то, не знаешь до конца как это делается, как модулируется, как обрабатывается сигнал и т. д. Но позвонить можешь, и без магии. Тут так же. Какие-то методы и функции написаны самостоятельно, какие-то взяты откуда-то, не зная досконально как они выполняются.

Answer 3

Ты спроси как Гугл работает - там вот сами никто не знает - все распылили на кучу айтишников , которые по кусочкам все собирают , а вместе никто не знает.

Answer 4

Отчасти - да, наука. Принцип работы простой нейросети можно объяснить простыми словами, но существует большое количество технологий создания нейросети, какие-то из них простые, какие-то нет. Что касается того, что разработчики нейросетей сами не понимают как работают нейросети - это скоре всего бред. Ведь для того, чтобы создать хорошую нейросеть, нужно разобраться в принципе е работы.

Answer 5

Для инженеров - нормально. Вона их сколько после института ничего не понимающих.
. для разработчика - нет.
Раз не понимает, значит перерос. Альцгеймер прогрессирует. Пора их акции спускать.