LM Studio — без триалов и нагибаловок программа, острая находка

Категория: AI-инструменты · Лицензия: Proprietary Free · Платформа: Windows / macOS / Linux (зависит от программы)

LM Studio — локальные модели для тех, кто не хочет открывать терминал

У локальных нейросетей есть репутация: мол, это для людей, которым нравится собирать что-то из исходников в три часа ночи. LM Studio существует, чтобы эту репутацию опровергнуть. Здесь всё делается мышкой, и в этом нет ничего постыдного.

Первые пять минут

Устанавливаете, открываете вкладку поиска, вводите название модели. Программа показывает список вариантов с сайта Hugging Face и — вот это важно — честно помечает, какие из них поместятся в вашу память, а какие нет. Выбираете, жмёте скачать, идёте во вкладку чата, загружаете модель и начинаете разговор. Ни одной команды.

Что настраивается

Системный промпт, температура, top-p, top-k, штраф за повторы, длина ответа, размер контекстного окна. Отдельно — сколько слоёв модели уходит на видеокарту: ползунок, который напрямую определяет скорость. Настройки сохраняются пресетами, между ними переключаются на лету.

В интерфейсе видно всё, что происходит: сколько токенов в секунду выдаётся, сколько памяти занято, сколько контекста израсходовано. Для подбора оптимальных параметров под своё железо это удобнее, чем догадываться.

Локальный сервер

Одна кнопка поднимает HTTP-сервер, совместимый по формату запросов с OpenAI. Дальше любое приложение, умеющее работать с этим API, направляется на локальный адрес и получает ответы от модели на вашем компьютере. Логи запросов видны прямо в окне — удобно при отладке.

Работа с документами

Встроена возможность приложить файлы к чату: модель отвечает с опорой на их содержимое. Полноценной поисковой базой это не является, но для разбора договора или пачки заметок работает достаточно.

Форматы и железо

Основной формат — GGUF, поддерживается MLX на Apple Silicon. Ускорение: CUDA на NVIDIA, Vulkan и ROCm на AMD, Metal на Mac. На процессоре тоже пойдёт, просто медленнее. Мультимодальные модели с картинками поддерживаются.

Важная оговорка

Само приложение проприетарное и с закрытым кодом, хотя бесплатное для личного использования и не требует аккаунта. Условия коммерческого применения стоит уточнять на сайте. Если принципиально нужен полностью открытый стек — есть альтернативы, работающие через консоль.

Требования

Windows, Linux, macOS. Разумный минимум — шестнадцать гигабайт оперативной памяти и видеокарта с восемью гигабайтами; меньше тоже работает, но выбор моделей сужается до самых компактных.