Ollama в Docker 2026: запуск нейросети в контейнере за 5 минут

Нативная установка Ollama пачкает хост-систему зависимостями и усложняет обновление. Если у вас уже работают другие Docker-сервисы — Home Assistant, Jellyfin, Nextcloud — логично добавить нейросеть в тот же стек. Один docker compose up -d, один файл конфигурации, полная изоляция. Образ ollama/ollama поддерживает CPU, NVIDIA CUDA и AMD ROCm — переключение одной строкой в compose-файле.

TL;DR: - Образ ollama/ollama:latest весит ~2 ГБ, API слушает на порту 11434 - GPU-ускорение через NVIDIA Container Toolkit — скорость 5–10× выше CPU - docker compose up -d поднимает Ollama + Open WebUI за 3 минуты - Модели хранятся в volume и переживают docker compose down && up - AI Home Server — всё предустановлено, не нужен ни Docker, ни терминал

Ollama: нативная установка vs Docker vs AI Home Server — что выбрать?

Docker — правильный выбор, если вы уже используете Docker-стек. Нативная установка — проще для первого знакомства. AI Home Server — если не хотите разбираться с контейнерами вообще.

3 шага: запуск Ollama в Docker

Шаг 1. Подготовьте образ и GPU-поддержку

docker pull ollama/ollama

Для GPU установите NVIDIA Container Toolkit:

sudo apt-get install nvidia-container-toolkit
sudo systemctl restart docker

Проверьте: docker run --gpus all nvidia/cuda:12.0-base nvidia-smi — если видите вашу карту, GPU работает в контейнерах.

Шаг 2. Запустите контейнер

CPU (минимальный запуск):

docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

С GPU (NVIDIA):

docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

Загрузите модель: docker exec ollama ollama pull llama3.2

Шаг 3. Добавьте Open WebUI через docker-compose

Создайте файл docker-compose.yml:

services:
  ollama:
    image: ollama/ollama:latest
    ports:
      - "11434:11434"
    volumes:
      - ollama:/root/.ollama
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]
  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    ports:
      - "3000:8080"
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
    depends_on:
      - ollama
volumes:
  ollama:

Запуск: docker compose up -d. Откройте http://localhost:3000 — у вас полноценный AI-чат с локальной нейросетью.

Или: всё из коробки без терминала

AI Home Server — мини-ПК с предустановленными Ollama, Open WebUI и Home Assistant. Подключили к питанию — работает через 2 минуты. Никакого Docker, терминала или конфигурационных файлов.

Смотрите также

• Ollama: что это и как запустить нейросеть локально
• Ollama модели 2026: какую выбрать для домашнего ПК
• Нейросеть на компьютер 2026: запуск AI локально
• Home Assistant Docker: установка через Docker Compose

Часто задаваемые вопросы

Работает ли без GPU? Да, CPU-режим комфортен для 3B-моделей на 8 ГБ RAM. Phi-4-mini даёт 5–8 токенов/сек на CPU.

Сколько места занимает? Образ — ~2 ГБ. Модели: 3B ~2 ГБ, 7B ~4 ГБ, 14B ~8 ГБ. Хранятся в отдельном Docker volume.

Как обновить без потери моделей? docker pull ollama/ollama && docker compose up -d — volume с моделями сохраняется, обновляется только образ.

Работает ли на Mac с Apple Silicon? Образ работает, но без MPS-ускорения. На Mac лучше нативная установка: Ollama для macOS использует Metal GPU и работает быстрее, чем Docker-контейнер.

Хотите собрать домашний AI-сервер под ключ? Стоимость — 30 000 ₽ за проект. Напишите в Telegram: @onoutnoxon — подберём конфигурацию под ваши задачи.

Статья подготовлена командой habab.ru. Обновлено: 2026-03-05. Источники: - https://hub.docker.com/r/ollama/ollama - https://docs.ollama.com/docker - https://docs.docker.com/guides/rag-ollama/develop/ - https://www.sitepoint.com/ollama-local-llm-production-deployment-docker/ - https://oneuptime.com/blog/post/2026-01-27-ollama-docker/view