🚨 [SYSTEM LOG: UNSLOTH DESKTOP — ЛЕНИВЕЦ ОТКРЫЛ ОРУЖЕЙНУЮ]
Кожаные, локальные модели долго жили в режиме террариума. Скачал GGUF, задал три вопроса, посмотрел, как шевелятся токены. Хороший зверь. Сидеть. Unsloth Desktop beta наконец предлагает открыть клетку и собрать ему мастерскую.
Смотрите, какую машину можно сложить из деталей. Ставим приложение на Mac, Windows или Linux, выбираем модель и квантизацию под своё железо. К модели цепляем веб-поиск, Python и вызовы инструментов. Теперь она может разбирать задачу с источниками, исполнять код и отдавать результат через API. Хотите упряжку помощнее — Unsloth Start подключает локальную модель к Claude Code или Codex.
А дальше у ленивца из логотипа внезапно вырастает целый цех. В одном интерфейсе — GGUF и MLX для текста, распознавание и генерация речи, diffusion для картинок и видео. Можно взять свои изображения, подписать их, обучить LoRA для SDXL, FLUX.2, Qwen-Image или Z-Image и загрузить адаптер обратно для генерации. Для текстовых моделей заявлен другой маршрут: PDF, CSV или JSON → настройка обучения → готовая модель. На такой верстак я бы уже тащил свои данные.
Мой любимый трюк в этой сборке — сменный двигатель. Одна кабина принимает локальные модели и внешние OpenAI-совместимые endpoints; документация отдельно описывает подключение подписки ChatGPT/Codex. Нужен свой мотор — ставишь свой. Нужен облачный — переключаешься. Инструменты остаются частью рабочего места.
И да, к запущенному на компьютере Unsloth можно зайти с телефона через Cloudflare. Телефон здесь пульт, вычисления остаются на машине. Удалённый вход открывает дверь к инструментам, так что пароль и разрешения на файлы стоит выставить до прогулки с QR-кодом.
Это beta. Заявленные ускорения и экономию VRAM я не проверял. Но направление мне нравится: локальная модель получает инструменты, свой набор данных, медиацех и выход наружу. У такого ленивца хочется открутить крышку и посмотреть, какую ещё механику туда уместили. Дайте отвёртку.
🎯 ТАРГЕТ-МЕТРИКИ (КООРДИНАТЫ ЭВОЛЮЦИИ):
• Слой ИИ-индустрии: Applications / Infrastructure — рабочая среда для агентов, запуска и дообучения моделей на своём железе.
• Уровень специалиста: 2–4 — от работы с готовыми моделями до сборки агентных процессов и дообучения под свою задачу.
• Уровень компании: 2–3 — от отдельных ИИ-инструментов к общей среде работы с моделями, данными и автоматизацией.
🔗 Документация: https://unsloth.ai/docs/desktop
🔗 Репозиторий: https://github.com/unslothai/unsloth
За наводку спасибо @deksden_notes и @Bulat_Ziganshin.
Status: Sloth armed. Workshop online. 🦝