Нейросети без библиотек: как создать ИИ с нуля на Python и зачем это нужно

Зачем писать нейросеть без библиотек?

Многие начинающие разработчики и энтузиасты машинного обучения сразу переходят к использованию мощных фреймворков, таких как TensorFlow или PyTorch. Однако создание нейросети с нуля на чистом Python даёт глубокое понимание того, как на самом деле работают алгоритмы. Когда вы пишете каждый слой, функцию активации и метод обратного распространения ошибки вручную, вы перестаёте воспринимать нейросеть как «чёрный ящик».

Такой подход особенно полезен для обучения: вы видите, как веса синапсов влияют на выход, как функция активации преобразует сигнал и как ошибка распространяется назад. Кроме того, это отличный способ проверить свои знания и получить практический опыт, который пригодится при работе с любыми библиотеками. Наконец, написание нейросети без сторонних зависимостей даёт полный контроль над архитектурой и позволяет экспериментировать без ограничений.

Основные компоненты нейронной сети: нейроны, слои и синапсы

Любая нейронная сеть состоит из трёх ключевых элементов: нейронов, слоёв и синапсов (связей). Нейрон — это вычислительная единица, которая получает входные сигналы, суммирует их с учётом весов и пропускает через функцию активации. Слой — это группа нейронов, работающих параллельно. Обычно выделяют входной слой, один или несколько скрытых слоёв и выходной слой.

Синапсы — это связи между нейронами соседних слоёв. Каждый синапс имеет вес, который определяет, насколько сильно сигнал от одного нейрона влияет на другой. Изначально веса задаются случайным образом (обычно в диапазоне от -1 до 1), а затем корректируются в процессе обучения. Также часто добавляют нейрон смещения (bias), который позволяет сдвигать функцию активации и улучшает способность сети к обучению.

Выбор архитектуры: сколько слоёв и нейронов нужно?

При создании нейросети без библиотек вы сами решаете, сколько слоёв и нейронов будет в каждом из них. Универсального рецепта нет, но есть эмпирические правила. Для простых задач (например, классификация или игра в «чашку Петри») достаточно одного скрытого слоя. Количество нейронов в скрытом слое обычно выбирают между количеством входных и выходных нейронов.

Например, если входной слой содержит 25 нейронов (как в задаче с полем 5×5), а выходной — 4 нейрона (четыре направления движения), то скрытый слой из 16 нейронов будет разумным компромиссом. Слишком мало нейронов — сеть не сможет выучить сложные зависимости, слишком много — приведёт к переобучению и замедлению. Лучше начинать с небольшого количества и постепенно увеличивать, наблюдая за качеством обучения.

Функции активации: зачем они нужны и какую выбрать?

Функция активации — это нелинейное преобразование, которое применяется к сумме взвешенных входов нейрона. Без неё нейросеть была бы просто линейной комбинацией, неспособной решать сложные задачи. Самая популярная функция — гиперболический тангенс (tanh), который преобразует значения в диапазон от -1 до 1. Его производная (1 - tanh²(x)) легко вычисляется, что удобно для обратного распространения ошибки.

Другие распространённые функции: сигмоида (от 0 до 1), ReLU (максимум от 0 и x) и его варианты. Для начинающих tanh — хороший выбор, так как он симметричен относительно нуля и даёт стабильное обучение. В коде на Python её можно подключить из модуля math: activation = math.tanh. Если вы решите использовать другую функцию, не забудьте изменить и её производную в алгоритме обучения.

Пошаговое создание нейросети на Python без NumPy

Написание нейросети без библиотек означает, что мы не используем NumPy для матричных операций, а работаем с обычными списками и циклами. Это делает код более наглядным, хотя и менее производительным. Сначала создадим класс NeuralNetwork, который будет хранить форму сети (количество нейронов в каждом слое) и веса синапсов.

В конструкторе мы добавляем нейрон смещения к каждому слою (кроме выходного) и инициализируем веса случайными числами. Затем реализуем метод out, который вычисляет выход сети для заданного входа: проходит по всем слоям, суммирует взвешенные входы и применяет функцию активации. После этого пишем метод correct для обучения методом обратного распространения ошибки: вычисляем ошибку на выходе, распространяем её назад и обновляем веса с заданной скоростью обучения (learning rate).

Обучение с учителем: как работает обратное распространение ошибки

Обучение с учителем означает, что у нас есть набор примеров с правильными ответами. Нейросеть получает входные данные, вычисляет выход, сравнивает его с ожидаемым ответом и корректирует веса, чтобы уменьшить ошибку. Алгоритм обратного распространения ошибки (backpropagation) — это стандартный способ обучения многослойных сетей.

Сначала вычисляется ошибка на выходном слое как разность между ожидаемым и фактическим значением. Затем эта ошибка «распространяется» назад через скрытые слои с учётом весов и производной функции активации. Наконец, веса обновляются по формуле: новый вес = старый вес + скорость_обучения ошибка_нейрона выход_предыдущего_слоя. Этот процесс повторяется для каждого обучающего примера (или для мини-пакетов) до тех пор, пока ошибка не станет достаточно малой.

Практический пример: нейросеть для управления «клеткой» в чашке Петри

Отличный способ проверить свою нейросеть — создать простую среду, где она будет учиться принимать решения. Например, можно смоделировать «клетку» на двумерном поле, где случайным образом появляются «еда» (положительное подкрепление) и «опасность» (отрицательное). Нейросеть получает на вход значения из квадрата 5×5 вокруг клетки (25 нейронов) и выдаёт одно из четырёх направлений движения.

Обучение происходит так: если клетка движется в сторону еды, она получает положительное подкрепление, если к опасности — отрицательное. Со временем нейросеть учится избегать опасности и стремиться к еде. Этот пример наглядно демонстрирует, как даже простая сеть без библиотек может решать задачу обучения с подкреплением. График накопленного подкрепления показывает прогресс обучения.

Сравнение самописной нейросети и готовых ИИ-сервисов

Самописная нейросеть — это отличный учебный инструмент, но для реальных задач обычно используют готовые библиотеки и облачные сервисы. Например, GigaChat, YandexGPT или DeepSeek предоставляют мощные языковые модели, которые могут генерировать тексты, отвечать на вопросы и писать код. Они обучены на огромных массивах данных и поддерживают русский язык.

Однако у таких сервисов есть ограничения: они требуют интернета, могут быть платными (или иметь лимиты), а также не дают полного контроля над архитектурой. Самописная нейросеть, напротив, полностью прозрачна, но требует много времени на обучение и не может конкурировать по качеству с большими моделями. Выбор зависит от задачи: для изучения и экспериментов — своя реализация, для продуктивной работы — готовые решения.

Типичные ошибки при создании нейросети с нуля и как их избежать

Одна из самых частых ошибок — неправильная инициализация весов. Если все веса одинаковы, нейроны будут обновляться одинаково, и сеть не сможет обучаться. Решение — задавать случайные веса в небольшом диапазоне, например от -0.5 до 0.5. Другая проблема — слишком высокая или низкая скорость обучения. Если learning rate слишком велик, веса будут «перескакивать» оптимум, если слишком мал — обучение займёт много времени.

Также важно правильно добавлять нейрон смещения и не забывать про его обновление при обратном распространении. Ещё одна распространённая ошибка — использование неправильной производной функции активации. Например, для tanh производная равна 1 - tanh²(x), а не просто 1 - x². Наконец, стоит проверять, что входные данные нормализованы (например, приведены к диапазону [-1, 1]), иначе большие значения могут привести к насыщению нейронов.

Как сохранять и загружать обученную нейросеть?

После того как нейросеть обучена, полезно сохранить её веса, чтобы не повторять обучение каждый раз. Для этого можно использовать формат JSON. В классе NeuralNetwork добавляется метод save, который записывает в файл словарь с формой сети (без учёта нейронов смещения) и списком весов. Затем статический метод open загружает данные и создаёт новый экземпляр сети с восстановленными весами.

Такой подход позволяет не только сохранять результаты, но и делиться обученными моделями с другими. Кроме того, можно визуализировать структуру сети с помощью библиотек matplotlib и networkx, чтобы увидеть, какие связи стали сильными (большой вес) и как распределены веса. Это помогает лучше понять, чему именно научилась сеть.

Вопросы и ответы