А есть локальный ИИ для работы с текстом?
Скармливаешь ему рабочую папку, и пишешь "сделай вот такое вот, с сохранением стилистики автора".
Да, есть. Ставится на свой компьютер, работает без интернета, тексты никуда не уходят.
Из чего состоит:
1) Для русского текста хороши Qwen 3.5 и Gemma 4. Запускаются через Ollama или LM Studio. Нужна видеокарта от 8 ГБ (или просто много памяти, тогда медленно).
2) Оболочка, которой даёшь папку:
• GPT4All (LocalDocs) или AnythingLLM — указал папку, задаёшь вопросы и задания по ней. Проще всего, ставится мышкой.
• LM Studio — то же, плюс удобный выбор моделей.
• Агенты вроде OpenCode или Aider с локальной моделью — сами читают и пишут файлы в папке, как я у тебя.
Важно про «стилистику автора»:
• Оболочки с папкой берут из неё куски по смыслу, а не весь стиль целиком. Для стиля лучше прямо вложить 2–3 эталонных текста автора в задание: «вот образцы, напиши так же про …».
• Если нужен стиль «намертво», модель дообучают на текстах автора (LoRA, сотни страниц, несколько часов на видеокарте).
5090 (32 ГБ) — отличная карта для этого, потянет серьёзные модели.
Для 5090.
• Gemma 4 27B (или 26B-A4B — быстрее) — самый «человеческий» слог, лучше всего для литературного текста и стиля. Сжатие Q5/Q6 влезает целиком.
• Qwen 3.6 27B — сильнее в логике и структуре, тоже хорошо пишет по-русски. Q6 ~22 ГБ.
Обе держат длинное окно (128 тыс. токенов) — это сотни страниц, то есть можно вложить в задание сразу несколько текстов автора целиком, а не куски. Для стиля это главное.
Оболочка: LM Studio — скачать модель кнопкой, подключить папку. Если хочет, чтобы ИИ сам правил файлы в папке — OpenCode с этой же моделью.
На 5090 ещё и дообучение под автора (LoRA через Unsloth) реально — за вечер на паре сотен страниц его текстов.
