Искусственный интеллект: как он устроен

Тот, кто отвечает в таком чате, — не весь ИИ, а программа одного типа. Называется она языковой моделью, а коротко — LLM, большая языковая модель. Учили её на огромном количестве текстов: на книгах, статьях, переписках. Поэтому она так похожа на человека — она видела, как пишут люди.

Но «учили» не значит «запомнила». Модель не хранит эти тексты — она хранит настройки, которые подбирала во время обучения, чтобы лучше предсказывать следующий кусочек. Настроек очень много — миллиарды, поэтому модель и называется «большой». Именно поэтому она не «знает» тексты, как база данных: у неё есть только настройки и умение продолжать.

Подражание — это всё, что она умеет. Когда модель отвечает, она не думает, как мы. Она смотрит на уже написанное и выбирает, какой кусочек текста написать следующим. Это как подсказка следующего слова в телефоне, только гораздо сильнее: она подбирает не слова, а целые фразы. Вот как это выглядит:

На схеме — три варианта, но на самом деле их тысячи: модель взвешивает все возможные кусочки и выбирает один. Кусочки, из которых модель собирает текст, называются токенами — обычно это часть слова или целое слово. О токенах поговорим в следующей секции, а сейчас соберёшь ответ сам — так же, как это делает модель.

Где живёт такая модель? На сервере — как и другие программы, о которых ты узнал на первом уровне. Ты общаешься с ней через интерфейс: чат, приложение. За интерфейсом стоит API: он отправляет твой запрос модели и возвращает ответ. Модель можно запустить у себя на компьютере или пользоваться облачной через API — принцип один.

И ещё: LLM — это не один продукт, а семейство. Модели отличаются ценой, скоростью и характером ответов, и выбор модели под задачу — инженерное решение. Современные модели умеют не только текст: видят картинки, слышат голос — но принцип тот же: предсказание следующего кусочка.

Для ощущения цены: обычный запрос стоит копейки, а длинный диалог с файлами — уже заметные деньги.

Каждый токен занимает место в памяти модели. У запроса есть предел: модель принимает максимум токенов за раз — и всё, что не поместилось, она не увидит. А память не бесконечная — об этом следующая секция.

Когда окно заполняется, на практике старые сообщения отбрасываются или сжимаются в краткое резюме — иначе диалог просто не поместится. Поэтому длинные диалоги с вставками — дорого и «забывчиво»: важное лучше выносить в отдельные запросы или файлы.

Модель видит только то, что помещается в окно. Но как она собирает ответ? Об этом следующая секция.

Работает это быстро: десятки токенов в секунду — поэтому ответ на страницу текста занимает минуты.

Промпт — это задача

То, что ты пишешь модели, называется промптом — формулировкой задачи. От того, как ты её напишешь, зависит, что модель сделает. Расплывчатая задача — расплывчатый результат.

Хороший промпт отвечает на три вопроса: что есть (контекст), что сделать (задача) и в каком виде нужен результат (формат). «Сделай сайт» не отвечает ни на один. «Сделай страницу цветочного магазина: заголовок, описание трёх букетов, кнопка „Заказать“. Тёмный фон, белый текст» — отвечает на все.

Сравни сам: один и тот же запрос, две формулировки — и два очень разных ответа.

Промпт задаёт поведение

Промпт — это не только «что сделать», но и «как себя вести». Можно попросить отвечать коротко, как в телеграмме, или подробно, как учитель. Можно задать роль: «ты — опытный редактор». Модель подстроится.

Помнишь служебную инструкцию из секции про память? Это тоже промпт — только постоянный: он задаёт поведение модели на весь диалог. Стиль, тон и правила можно зафиксировать заранее.

Запомни эту мысль: промпт управляет поведением модели. На следующем уровне она станет главной — инструкции для агента это тоже промпты, только большие и постоянные.

Модель умеет не только говорить

Модель в чате отвечает текстом. Но ту же модель можно научить выбирать не слово, а действие — например, «вызвать инструмент». Инструмент — это готовая команда: прочитать файл, найти в интернете, отправить сообщение.

Модель не выполняет команду сама — она «пишет» её как текст: имя инструмента и аргументы, например прочитать_файл("config.json"). Среда читает команду и выполняет. Это как заказ в приложении доставки: ты нажимаешь кнопку, а готовит и везёт сервис.

Модель может вызвать только те инструменты, которые ей дали. Набор команд определяет человек — какие дал, те и есть.

Как модель выбирает действие

Выбор действия выглядит так же, как выбор следующего токена: модель смотрит на запрос и взвешивает варианты. Только варианты — не слова, а команды.

«Какая сейчас погода в Москве?» — свежих данных модель не знает, поэтому выбирает действие «узнать погоду». «Объясни, что такое токен» — это вопрос про знания, модель отвечает текстом.

Сейчас посмотришь, как модель выбирает: ответить текстом или вызвать инструмент.

Выбор действия — это тоже предсказание следующего кусочка. Только кусочек — не слово, а команда. Результат команды возвращается модели и занимает место в её окне — помнишь context window? Поэтому модель не «помнит» файл: прочитала, использовала, а когда понадобится — прочитает снова. И ещё: моделью пользуются не только люди в чате — программы обращаются к ней через API: отправляют запрос, получают ответ. Агент со следующего уровня — это как раз такая программа. Эта мысль понадобится, когда будем собирать агента.

Модель не хранит факты

Модель не достаёт факты из базы данных. Она генерирует правдоподобный текст. Иногда правдоподобный текст не совпадает с реальностью — это называется галлюцинацией. Модель не различает «знаю» и «выдумал»: для неё это один процесс — продолжить текст по вероятности. Она не «врёт» — она честно генерирует, не сверяясь с фактами.

Модель не знает свежего

У модели есть cutoff — дата, до которой собраны данные для её обучения. Что было после — она не знает. У неё нет доступа к интернету, курсам валют и новостям, если это не подключено отдельно.

Поэтому есть сценарии, где модель сильна: черновики, перевод, саммари, код, структура. И сценарии, где ей доверять нельзя: точные факты, цифры, цитаты, свежие данные. Всё критичное — проверять.

Проверь, где модели можно доверять, а где — обязательно проверять:

Границы — причина, по которой нужны инструменты

И вот ключевая мысль. Именно из-за этих границ модели дают инструменты. Модель не знает свежих данных — ей дают инструмент поиска. Модель не видит твои файлы — ей дают инструмент чтения. Так ограничения превращаются в повод для агента.

На следующем уровне ты соберёшь из модели агента — и инструменты станут его руками.