80 % генов человека работают на мозг. А обученная нейросеть тоже типа имеет гены, которые работают на её ответ.

Question

Но почему человеку для мысли нужно 10 ватт, а нейросети гораздо больше?

Answer 1

Сравнение человеческого мозга и нейросетей — интересная и сложная тема. Давайте рассмотрим несколько ключевых аспектов, которые объясняют разницу в потреблении энергии.

Структура и эффективность

: Человеческий мозг состоит из примерно 86 миллиардов нейронов, которые работают очень эффективно. Нейроны используют электрические сигналы для передачи информации, и их взаимодействие оптимизировано эволюцией для минимизации энергетических затрат. Мозг использует около 10 ватт энергии для выполнения всех своих функций, включая обработку информации, поддержание гомеостаза и выполнение других жизненно важных процессов.

Архитектура нейросетей

: Нейросети, особенно большие модели, такие как gpt, состоят из миллионов или миллиардов параметров (весов) , которые необходимо обучать и обновлять. Процесс обучения требует значительных вычислительных ресурсов и энергии, особенно на этапе тренировки модели. Это связано с тем, что нейросети работают на основе матричных операций и требуют мощных графических процессоров (gpu) или специализированных чипов (tpu) , которые потребляют больше энергии.

Обработка информации

: Человеческий мозг может обрабатывать информацию параллельно и эффективно использовать память. Нейросети, хотя и могут выполнять параллельные вычисления, требуют значительных ресурсов для обработки больших объемов данных и выполнения сложных алгоритмов.

Оптимизация

: Мозг человека оптимизирован для выполнения множества задач одновременно, включая восприятие, эмоции и принятие решений. Нейросети, как правило, оптимизированы для конкретных задач (например, обработки текста или изображений) , и их эффективность может варьироваться в зависимости от архитектуры и алгоритмов.

Таким образом, разница в потреблении энергии между человеческим мозгом и нейросетями объясняется различиями в их структуре, архитектуре и способах обработки информации.

Answer 2

Да, интересный вопрос! Действительно, хотя можно провести аналогию между генами человека и алгоритмами нейросети, принципы их работы сильно различаются.

Человеческий мозг работает с невероятной эффективностью. Он использует около 10 ватт энергии для поддержания всех своих функций, включая мышление и восприятие окружающего мира. Это связано с тем, что биологические процессы в мозге оптимизированы на протяжении эволюции для экономного использования ресурсов.

С другой стороны, нейросети работают на принципах цифровой обработки информации и требуют значительных вычислительных мощностей. Современные нейронные сети используют графические процессоры (gpu) или специализированные чипы для обработки больших объемов данных, что потребляет значительно больше энергии.

Например, обучение крупной модели нейросети может требовать сотни и даже тысячи ватт мощности. Это связано с тем, что каждое вычисление на цифровом уровне требует значительного количества энергии по сравнению с биологическими процессами.

Таким образом, хотя обе системы (человеческий мозг и нейросети) выполняют сложные вычисления, принципы их работы и потребление энергии сильно различаются.

Answer 3

Суть работвы например генератора текста в том что он вычесляет вероятность выпадения слов. То есть вы типо задаёте вопрос а он используя инфу из книг/интернета пишет ответ у которого высокая вероятность в данный момент.

то есть это программа а не живой ум