ИИ у себя на компьютере за вечер: ставим движок ds4

Ты открываешь ChatGPT или другой ИИ в браузере, платишь $20 в месяц и каждый запрос отправляешь на чужой сервер. Это удобно, пока не задумаешься о двух вещах: деньги капают каждый месяц, а всё, что ты пишешь — переписка, документы, идеи — уходит в облако, которое тебе не принадлежит.

И вот новость, из-за которой стоит пересмотреть эту привычку. Сальваторе Санфилиппо (в сети — antirez), создатель Redis, выложил движок ds4 (DwarfStar). Он запускает большие открытые нейросети прямо на твоём компьютере: без интернета, без подписки, под свободной лицензией MIT. Ниже — что это такое, на чём работает и как поставить самому. Все факты — с официального сайта проекта dwarfstar.sh.

Проверь: это про тебя?

• Платишь за подписку на ИИ и не всегда понимаешь, за что именно уходят деньги.
• Не хочешь отправлять рабочие документы и личную переписку в чужое облако.
• Хочешь, чтобы ИИ работал даже без интернета — в самолёте, в поездке, на даче.
• У тебя мощный Mac или ПК, и он простаивает, пока ты платишь за облако.
• Тебе интересно разобраться, как всё устроено внутри, и держать процесс под своим контролем.

Если хотя бы один пункт откликается — читай дальше.

Кто это сделал и почему это важно

antirez — автор Redis, одной из самых известных баз данных в мире. Его имя в разработке работает как знак качества: если он берётся за инструмент, к нему стоит присмотреться. Теперь он сделал ds4 — «узкий» движок на языке C, заточенный под то, чтобы гонять современные модели локально, на домашнем и профессиональном железе.

Смысл простой: раньше, чтобы поговорить с сильным ИИ, нужен был сервер компании вроде OpenAI. Теперь достаточно твоего собственного компьютера.

Какие модели он запускает

ds4 работает с топовыми открытыми моделями — теми же, что крутятся в облачных сервисах за деньги:

• DeepSeek V4 и V4.1 Flash — мощные модели для текста и кода.
• GLM 5.x — сильный открытый конкурент.
• Qwen3.8 Flash Next — быстрая модель от Alibaba.
• Поддержка не только текста, но и зрения — модель понимает картинки.

Зачем тебе: ты выбираешь модель под задачу и под объём памяти своего компьютера, а в облаке берёшь только то, что дают. Готовые файлы моделей обычно лежат на huggingface.co — ds4 подскажет, что скачать.

Насколько это быстро

Главный вопрос к локальному ИИ — не тормозит ли. По замерам с сайта проекта, на Mac M5 Max со 128 ГБ памяти ds4 выдаёт 39,4 токена в секунду на генерации ответа и до 790 токенов в секунду на обработке твоего запроса (при квантовании q2). Простыми словами: текст печатается быстрее, чем ты его читаешь. Это рабочий темп, а не «отправил вопрос и жди минуту».

Что нужно из железа

Облако и подписка не нужны — хватает того, что уже стоит на столе. Поддерживаются три варианта:

• Mac на Apple Silicon от 64 ГБ памяти (через Metal). Чем больше памяти — тем крупнее модель влезет.
• CUDA-машина: NVIDIA DGX Spark или обычный Linux-компьютер с мощной видеокартой.
• AMD ROCm: Framework Desktop на Strix Halo и похожие.

Зачем тебе это знать: если у тебя слабый ноутбук — это не твой случай, и честнее сказать сразу. А если дома стоит мощный Mac — он уже готов стать личным ИИ-сервером.

Как поставить: 4 шага

На сайте проекта установка расписана буквально в три команды. Вот как это выглядит по шагам:

1. Проверь память. Убедись, что у тебя Apple Silicon от 64 ГБ (или CUDA/ROCm-машина).
2. Скачай проект. Склонируй репозиторий github.com/antirez/ds4 и загрузи файл модели командой из инструкции (./download_model.sh).
3. Собери под своё железо. На Mac — команда make (сборка под Metal), на Linux с DGX Spark — make cuda-spark.
4. Запусти. Команда ./ds4 открывает чат в терминале, а ./ds4-server поднимает локальный API, к которому можно подключать свои программы.

Все актуальные команды и требования к железу — на странице проекта dwarfstar.sh и в разделе hardware там же.

Практический бонус: 3 задачи, где локальный ИИ выгоднее облака

• Чувствительные документы. Договоры, медицинские выписки, финансы — то, что не хочется отправлять в онлайн-сервис. Локальный ИИ обрабатывает их, не выпуская наружу.
• Работа без интернета. Перелёт, поезд, место без связи — ИИ всё равно под рукой.
• Поток запросов. Если гоняешь ИИ весь день, подписки и оплата за каждый запрос складываются в заметную сумму. Локальный движок считает бесплатно, сколько угодно.

Сколько это экономит в деньгах

Посчитаем прямо. Подписка на уровне ChatGPT Plus — это $20 в месяц, около $240 в год с одного аккаунта. Если ИИ нужен тебе на работе каждый день, за два-три года набегает сумма, на которую можно было купить тот самый мощный компьютер — и он остаётся с тобой навсегда. Движок ds4 бесплатен под лицензией MIT: ты платишь один раз за железо, а дальше гоняешь модель сколько угодно, без счётчика запросов и ежемесячных списаний.

Зачем тебе это: подписка удобна, пока запросов немного. Как только ИИ становится ежедневным рабочим инструментом, разница за год превращается в заметную статью расходов — и её стоит хотя бы посчитать для себя, прежде чем продлевать очередную оплату.

«А это сложно?» — коротко по правде

Самый частый страх перед локальным ИИ — что это дело только для программистов. На сайте проекта вся установка ds4 расписана буквально в три команды в терминале: скачать файл модели, собрать движок под своё железо, запустить. Терминал пугает только первый раз; дальше это те же кнопки, просто набранные текстом. Если у тебя Mac на Apple Silicon с нужным объёмом памяти, ты повторяешь три строки по инструкции — и получаешь свой ИИ-чат, который отвечает прямо на компьютере.

Зачем тебе это: чтобы попробовать, не нужно быть разработчиком. Достаточно один раз спокойно пройти по шагам и увидеть, что это действительно работает у тебя на столе — а не остаётся красивой новостью из ленты.

Задание на сегодня

Не нужно ничего устанавливать прямо сейчас. Сделай одно: выпиши три задачи, которые ты за неделю отдаёшь облачному ИИ, и честно отметь, какие из них не стоило бы показывать чужому серверу. Это и есть твой список, ради которого стоит один раз поставить ds4.

Что дальше

Локальный ИИ — это только одна из вещей, которые сегодня реально делать самому: своя модель на компьютере, свои инструменты, автоматизация рутины. Главный навык тут — не выучить сто команд, а понять логику и научиться выбирать инструмент под задачу. Этим мы и занимаемся — на понятных примерах, по шагам, без магии.

Отправить статью в Telegram