Как установить модель OpenAI GPT-OSS на Windows 11

• Для установки GPT-OSS AI модели на Windows 11 сначала откройте Командную строку с правами администратора и выполните команду winget install --id Ollama.Ollama.
• Затем выберите опцию gpt-oss:20b из списка и задайте вопрос, чтобы инициировать загрузку модели.
• В качестве альтернативы можно использовать командную строку Ollama с правами администратора и выполнить команду ollama pull gpt-oss:20b для загрузки и установки GPT-OSS локально на вашем компьютере.

В Windows 11 вы можете установить и запускать последнюю версию GPT-OSS (Open Source Software) AI модели от OpenAI локально на своём устройстве. В этом руководстве описаны шаги для выполнения такой настройки.

GPT-OSS — это текстовая модель из семейства крупных языковых моделей с открытыми весами от OpenAI. В настоящее время доступны две версии: gpt-oss-20b (около 21 миллиарда параметров) и gpt-oss-120b (около 117 миллиардов параметров). Оба варианта выпущены под лицензией Apache 2.0, что позволяет свободно загружать, запускать, модифицировать и распространять эти модели.

• gpt-oss-20b: достаточно компактная, чтобы запускаться на обычном оборудовании с минимум 16 ГБ оперативной памяти (например, ноутбуки, мощные смартфоны) и оптимальна для локальных задач с низкой задержкой.
• gpt-oss-120b: более крупная модель, предназначенная для сложных задач, требует высокопроизводительных систем (например, одну GPU с 80 ГБ видеопамяти) и обеспечивает производительность, сравнимую с O4-mini.

Эти модели поддерживают рассуждения через цепочку мыслей, использование вспомогательных инструментов, обработку длинных контекстов и имеют настраиваемые уровни сложности рассуждений — низкий, средний и высокий — для гибкости использования.

Что может делать GPT-OSS для обычного пользователя?

Если вы продвинутый пользователь, разработчик или энтузиаст, новые модели OpenAI позволяют запускать чатбот локально на вашем устройстве без подписки и с полным контролем над данными.

При желании вы можете экспериментировать, настраивать или дообучать модель, поскольку она распространяется под лицензией Apache 2.0.

Обычно GPT-OSS используют для помощи в программировании, решения сложных задач, ведения диалогов и организации агентных рабочих процессов. Кроме того, модель работает офлайн, без подключения к интернету.

Кто является целевой аудиторией OpenAI GPT-OSS?

Эти AI-модели предназначены для разработчиков, исследователей, академиков и технически подкованных пользователей.

Если вы хотите запускать эти модели локально на своём компьютере (независимо от облака), самый простой способ — использовать Ollama. Это инструмент с открытым исходным кодом, который позволяет запускать большие языковые модели непосредственно на локальном ПК под управлением Windows 11, 10 или другой платформы.

Хотя для лучшей работы рекомендуется запускать AI-модели на устройствах с NPU (нейропроцессорными блоками), например, на компьютерах Copilot+ с процессорами Snapdragon, эти модели могут работать практически на любом оборудовании. Ollama также сотрудничает с Nvidia для ускорения GPT-OSS на видеокартах GeForce RTX и RTX Pro.

Единственное предупреждение — без NPU или мощной видеокарты чатбот может долго отвечать даже на простые запросы.

В этом руководстве описаны шаги по установке AI-моделей Gemma на Windows 11.

• Установка GPT-OSS на Windows 11 с помощью Ollama (графический интерфейс)
• Установка GPT-OSS на Windows 11 с помощью Ollama (командная строка)

Установка GPT-OSS на Windows 11 с помощью Ollama (графический интерфейс)

Чтобы установить GPT-OSS локально на Windows 11, выполните следующие действия:

1. Откройте меню Пуск.

2. Найдите Командную строку (или Терминал), щёлкните правой кнопкой мыши по первому результату и выберите Запуск от имени администратора.

3. Введите команду для установки официального инструмента Ollama и нажмите Enter:

   winget install --id Ollama.Ollama

4. Нажмите кнопку Завершить для окончания установки.

5. Запустите приложение Ollama через меню Пуск, если оно не открылось автоматически.

6. В меню моделей ИИ выберите вариант “GPT-OSS:20b”.

7. Введите вопрос и отправьте его для запуска загрузки OpenAI GPT-модели.

После выполнения этих шагов вы сможете использовать модель GPT-OSS через графический интерфейс Ollama.

Если у вас есть аккаунт Ollama, вы можете войти в систему, чтобы использовать встроенный веб-поиск и объединять возможности модели с самой свежей информацией из интернета.

Для справки: опция Turbo — это облачный сервис Ollama, позволяющий запускать крупные AI-модели на мощном серверном оборудовании. Это сервис с высокой производительностью для моделей, которые слишком тяжёлы или медленны для локального запуска. Подписка стоит $20 в месяц.

Приложение Ollama не позволяет предварительно скачивать модели через графический интерфейс, но эту операцию можно выполнить с помощью командной строки.

Установка GPT-OSS на Windows 11 с помощью Ollama (командная строка)

Чтобы установить OpenAI GPT-OSS локально через командную строку, выполните следующие действия:

1. Откройте меню Пуск.

2. Найдите Командную строку (или Терминал), щёлкните правой кнопкой мыши по первому результату и выберите Запуск от имени администратора.

3. Введите команду для установки Ollama и нажмите Enter:

   winget install --id Ollama.Ollama

4. Нажмите кнопку Завершить для окончания установки.

5. (Вариант 1) Введите команду для загрузки и установки компактной GPT-OSS модели и нажмите Enter:

   ollama pull gpt-oss:20b

   Краткое примечание: Эта команда скачивает модель gpt-oss:20b с 20 миллиардами параметров. Также можно использовать вариант gpt-oss:latest для загрузки самой актуальной на данный момент модели.

6. (Вариант 2) Введите команду для загрузки и установки более крупной GPT-OSS модели и нажмите Enter:

   ollama pull gpt-oss:120b

7. (По желанию) Введите команду для проверки установленных моделей и нажмите Enter:

   ollama list

8. (По желанию) Введите команду для просмотра подробной информации об установленной модели (например, о версии 20b) и нажмите Enter:

   ollama show gpt-oss:20b

9. Введите команду для запуска выбранной модели (например, GPT-OSS 20b) и нажмите Enter:

   ollama run gpt-oss:20b

После выполнения описанных шагов вы сможете использовать последнюю версию открытой GPT AI модели от OpenAI через интерфейс командной строки.

Кроме установки через Windows Package Manager (winget), вы всегда можете загрузить инсталлятор Ollama с официального сайта или с GitHub-репозитория проекта.

Для просмотра доступных команд используйте ollama --help. Чтобы узнать команды, доступные для конкретной модели, введите ollama run --help.

Если планируете работать с AI-моделью на своём компьютере, рекомендуется выбирать модель gpt-oss-20b из-за её компактности и умеренных системных требований.

Использование модели gpt-oss-120b потребует мощного оборудования: видеокарту NVIDIA с минимум 80 ГБ видеопамяти, процессор серверного класса (например, AMD EPYC или Intel Xeon), не менее 256 ГБ оперативной памяти и быстрый NVMe SSD с минимум 500 ГБ свободного места для хранения весов модели и временных файлов.