Содержание
Когда мы работаем с API OpenAI, мы указываем модель, которая будет обрабатывать наш запрос (prompt). Например, в запросе к LLM модели название модели передаётся аргументом model. Откуда брать эти значения и как узнать, сколько стоит каждая модель?
У каждой модели своё качество ответа: чем сильнее модель, тем качественнее она отвечает и тем дороже стоит.
Где смотреть модели и цены
Характеристики всех моделей, которые можно указывать, собраны в документации OpenAI. Там есть раздел Pricing, в нём удобно смотреть цены.
Цена указывается за миллион токенов, отдельно:
- за входные токены (то, что мы отправляем модели);
- за выходные токены (ответ модели);
- за кэшированные запросы.
Например, самая передовая модель на момент записи стоит 10 долларов за миллион входных токенов и 50 долларов за миллион выходных, плюс отдельно оплачивается кэширование. То есть это очень дорогая модель.
Поэтому для тестирования и простой разработки можно использовать самую дешёвую модель - gpt-5-nano. Её я и использую в этих видео. Дальше, когда будете писать конкретные прикладные программы, можно поэкспериментировать и выбрать модель, которая подходит больше. Но для тестов берите её: это одна из самых дешёвых моделей.
Карточка модели
У каждой модели есть карточка с характеристиками:
- Model ID - то, что мы пишем в параметре
model, напримерgpt-5-nano; - Snapshot - дата, когда версия модели выпущена;
- контекстное окно - сколько токенов можно передать модели во входных данных, чтобы она их учитывала;
- модальности - что подаётся на вход (текст, картинка) и что получаем на выходе, например текст;
- endpoints - через какие разделы API модель доступна: ответы, чат и так далее. Это уже тонкости, о них поговорим позже.
Алиас и снимок
Снимок (snapshot) - это состояние модели на конкретную дату. Снимки отключают по графику, и нужны они, как правило, только для тонких настроек: когда для конкретной задачи нужна именно определённая модель на определённую дату, например в ней была важная для вас доработка.
Обычно снимки не используют, а используют просто алиас - название вроде gpt-5-nano.
Список моделей программно
Список моделей, доступных вашему ключу, можно получить и программно. Создаём клиент OpenAI, как в предыдущих видео, и запрашиваем список моделей:
from openai import OpenAI
client = OpenAI()
for model in client.models.list():
print(model.id)
Запускаем скрипт, и OpenAI выдаёт список всех моделей, которые можно прописать. Моему ключу доступно 133 модели, а мы используем модели GPT-5.
Нужно учитывать, что в этом списке не все модели предназначены для обработки текста. Там есть модели:
- для векторного поиска;
- для обработки и создания картинок;
- для перевода текста в речь и речи в текст;
- для создания видео;
- для работы с голосом в реальном времени.
Поэтому смотрите, в каком разделе модель используется. Для обычных текстовых ответов нам нужен раздел клиента responses.
И по ценам: как я говорил, для тестирования лучше выбирать самую дешёвую модель, gpt-5-nano - самый подходящий вариант. Это базовые знания, которые пригодятся при выборе модели: где её посмотреть и как анализировать.
Чтобы оставить сообщение, зарегистрируйтесь/войдите на сайт через:
Email - зарегистрироваться / войти