Что такое искусственный интеллект

Термин шире, чем чат в браузере#

Область с таким названием появилась в середине прошлого века и долго жила
без всякого отношения к чатам. К ней относили шахматные программы, системы
планирования маршрута, распознавание рукописных цифр, экспертные системы с
правилами «если — то». Общего у всех этих задач одно: заранее непонятно,
как записать решение обычным алгоритмом.

Исторически подходов было два. Первый — записать знания человека правилами
и дать программе их применять. Второй — не записывать правила, а дать
программе много примеров и позволить подобрать зависимость самой. Второй
подход называется машинным обучением, и именно он дал всё, что ты видишь
сегодня.

Три слоя, которые постоянно путают#

Проще держать в голове матрёшку:

• Искусственный интеллект — вся область, включая старые системы на
  правилах.
• Машинное обучение — способ получать программу из данных, а не из
  инструкций программиста. Сюда входят и простые методы вроде линейной
  регрессии или решающих деревьев.
• Нейронные сети — один из инструментов машинного обучения, сейчас
  самый заметный. Глубокое обучение — это нейросети со многими слоями.
• Большие языковые модели — частный вид нейросетей, обученный на тексте.
  Именно они стоят за чатами.

Когда в новостях пишут «искусственный интеллект научился», почти всегда речь
про нижний этаж матрёшки — конкретную обученную модель. Подробности про
устройство нижних этажей — в статьях что такое
LLM и как работает
нейросеть.

Обучение и работа — разные вещи#

Это различие объясняет половину недоразумений. Обучение — долгий и дорогой
процесс: модель много раз смотрит на примеры и подстраивает внутренние
числа, чтобы ошибаться реже. Работа готовой модели, её ещё называют выводом
или инференсом, — это одно прохождение данных через уже застывшие числа.

Отсюда следствия, которые стоит запомнить.

Готовая модель не учится на твоём разговоре. То, что ты ей рассказал, не
становится частью её знаний: в следующем диалоге она ничего не вспомнит,
если разработчик не приделал к ней отдельное хранилище. Но это не значит,
что переписка исчезла — она осталась у сервиса.

Знания модели ограничены тем, что попало в обучающие данные. Про события
после этого момента она либо молчит, либо придумывает. Подключение поиска
или базы документов к готовой модели — отдельный приём, его называют RAG:
нужные куски текста находят обычным поиском и подкладывают модели в запрос.
Модель при этом остаётся прежней, меняется только то, что она видит перед
ответом.

Дообучение — промежуточный случай: берут обученную модель и доучивают на
своих примерах. Это меняет поведение и стиль, но не превращает модель в
справочник.

Что происходит, когда модель отвечает#

Текст для модели — последовательность токенов, кусочков слов. Модель
получает твой запрос и вычисляет вероятности для следующего токена, выбирает
один, приписывает его к тексту и повторяет всё заново. Никакого плана
ответа, заготовленного заранее, у неё нет — ответ рождается по кусочку.

Отсюда вытекает главное свойство: модель выдаёт правдоподобное
продолжение, а не проверенный факт. Правдоподобие и правда совпадают часто,
но не всегда, и разницу модель не чувствует.

Границы и риски#

Модель уверенно ошибается. Выдуманные факты называют галлюцинациями:
несуществующая статья, ссылка на страницу, которой нет, точная цитата,
которую никто не произносил, правильно выглядящий номер закона. Интонация у
такого ответа ровно та же, что у верного, — по тону отличить нельзя.

Модель не знает, чего она не знает. Фраза «я не уверена» появляется не
потому, что система оценила своё незнание, а потому, что такое продолжение
показалось уместным. Полагаться на неё как на индикатор нельзя.

Всё, что ты отправил в чужой сервис, из твоего компьютера ушло. Паспортные
данные, переписку с клиентами, чужие медицинские документы, ключи доступа
туда отправлять не стоит — условия хранения устанавливает владелец сервиса,
а не ты.

Ответ не заменяет специалиста. Диагноз, юридическая позиция, решение о
деньгах — это зона ответственности живого человека с лицензией и
обязанностями. Модель не несёт ответственности ни за что.

И отдельная житейская граница: сравнения вида «эта модель умнее той»
устаревают за недели. Названия сервисов — ChatGPT, Claude, Gigachat,
Алиса — стоит воспринимать как примеры, а не как рейтинг.

И отдельно: ответ модели не заменяет врача, юриста и финансового
консультанта. Там, где цена ошибки — здоровье, деньги или права,
решение принимает человек с ответственностью за него.

План по этапам

1. Развести три понятияПроверь себя: сможешь объяснить разницу между областью ИИ, машинным обучением и нейросетью — значит, дальше читать легче.
2. Понять предсказание токеновЗапомнить одну механику: модель выбирает следующий кусочек текста по вероятностям, и так по кругу.
3. Разделить обучение и выводСформулировать своими словами, почему модель не запоминает твой диалог и почему не знает свежих событий.
4. Поймать модель на ошибкеСпросить про узкую тему, где ты эксперт, и найти неточность — так галлюцинация перестаёт быть теорией.
5. Завести правило проверкиЛюбой факт, цифру или ссылку из ответа сверять с первоисточником до того, как использовать.

Проверь себя

Источники

• Искусственный интеллект — ВикипедияИстория области и основные подходы
  бесплатно
• Машинное обучение от GoogleБесплатный вводный курс на английском
  бесплатно
• Документация OpenAIКак устроена работа с моделями со стороны разработчика
  бесплатно

Было полезно?

Да Нет