Как изучить машинное обучение с нуля

Что нужно знать до первой модели#

Python на уверенном уровне: функции, коллекции, работа с файлами,
плюс библиотеки NumPy (массивы и векторные операции) и pandas (таблицы).
Без этого всё время уйдёт на борьбу с кодом, а не на понимание моделей.

Математика — в объёме, достаточном для понимания, а не для
доказательств:

• линейная алгебра — векторы, матрицы, умножение матриц;
• математический анализ — производная, градиент, идея оптимизации;
• теория вероятностей и статистика — распределения, среднее и дисперсия,
  условная вероятность.

Не обязательно проходить всё это заранее: удобно изучать тему математики
тогда, когда она впервые встретилась в алгоритме.

Рабочее окружение#

Jupyter-блокноты локально или в бесплатном облачном сервисе с блокнотами.
Библиотеки: numpy, pandas, matplotlib, scikit-learn. Отдельное
виртуальное окружение под учёбу избавит от конфликтов версий.

Классическое машинное обучение (2–3 месяца)#

Постановки задач: регрессия (предсказать число — цену, спрос),
классификация (выбрать класс — спам или нет), кластеризация (разбить
объекты на группы без готовых ответов). Алгоритмы по порядку: линейная и
логистическая регрессия, k ближайших соседей, деревья решений, случайный
лес, градиентный бустинг.

Главная идея, которую нужно понять сразу, — оценивать модель на данных,
которых она не видела при обучении:

from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestClassifier
from sklearn.metrics import accuracy_score

X, y = load_iris(return_X_y=True)
X_train, X_test, y_train, y_test = train_test_split(
    X, y, test_size=0.25, random_state=42)

model = RandomForestClassifier(random_state=42).fit(X_train, y_train)
print(accuracy_score(y_test, model.predict(X_test)))

Дальше — кросс-валидация, подбор гиперпараметров, переобучение и
регуляризация, подготовка признаков: пропуски, категориальные признаки,
масштабирование.

Метрики: как не обмануть себя#

Точность (accuracy) обманчива на несбалансированных данных: если 95 %
писем не спам, модель «всё не спам» получит 0,95 и будет бесполезной.
Разбери precision, recall, F1, ROC AUC для классификации и MAE, RMSE для
регрессии. Всегда сравнивай модель с простейшим базовым решением —
например, с предсказанием самого частого класса или среднего значения.

Нейросети (следующие 2–3 месяца)#

После классики — полносвязные сети, обратное распространение ошибки,
функции активации, оптимизаторы. Затем свёрточные сети для изображений и
архитектура трансформер для текстов. Фреймворк — PyTorch или
TensorFlow/Keras. Начни с того, чтобы обучить маленькую сеть на
распознавании рукописных цифр и добиться, чтобы она не переобучалась.

Проекты и самопроверка#

Портфолио — два-три проекта с полным циклом: постановка задачи, разведочный
анализ данных, базовое решение, несколько моделей, сравнение по метрикам,
выводы. Идеи: прогноз цены квартиры по открытым объявлениям,
классификация отзывов на положительные и отрицательные, прогноз оттока
клиентов на открытом датасете. Храни код в Git, фиксируй
random_state, чтобы результат воспроизводился.

Как проверять себя:

• участвуй в учебных соревнованиях на площадках вроде Kaggle — оценка
  на скрытых данных честно показывает качество модели;
• повтори результат из учебника или статьи с нуля, не подглядывая в код;
• реализуй линейную регрессию и градиентный спуск на NumPy сам — после
  этого библиотечные модели перестают быть чёрным ящиком;
• объясни, почему модель ошиблась на конкретных примерах.

План по этапам

1. Месяцы 1–2 — Python и математикаNumPy, pandas, основы линейной алгебры, производные, вероятность.
2. Месяцы 3–4 — классические алгоритмыРегрессия, классификация, деревья, ансамбли в scikit-learn; разбиение на обучение и тест.
3. Месяц 5 — качество моделейМетрики, кросс-валидация, переобучение, работа с признаками, базовое решение.
4. Месяцы 6–8 — нейросетиPyTorch или Keras, полносвязные и свёрточные сети, основы трансформеров.
5. ПортфолиоДва-три проекта с полным циклом и учебные соревнования.

Проверь себя

Источники

• scikit-learnДокументация и руководство пользователя по классическим алгоритмам
  бесплатно
• Kaggle LearnБесплатные короткие курсы по pandas и машинному обучению (на английском)
  бесплатно
• PyTorchФреймворк для нейросетей, официальные учебные материалы
  бесплатно

Было полезно?

Да Нет