SillyTavern предоставляет единый интерфейс для множества API LLM (KoboldAI/CPP, Horde, NovelAI, Ooba, Tabby, OpenAI, OpenRouter, Claude, Mistral и другие), адаптивный для мобильных устройств дизайн, режим Visual Novel, интеграцию с API генерации изображений Automatic1111 & ComfyUI, TTS, WorldInfo (lorebooks), настраиваемый интерфейс, автоматический перевод, больше вариантов промптов, чем вам когда-либо понадобится, и безграничный потенциал для расширения через сторонние модули.
У нас есть сайт с документацией, где вы найдёте ответы на большинство вопросов и инструкции для начала работы.
Что такое SillyTavern?
SillyTavern (или сокращённо ST) — это локально устанавливаемый пользовательский интерфейс, позволяющий взаимодействовать с моделями генерации текста (LLM), движками генерации изображений и голосовыми моделями TTS.
Начиная с февраля 2023 года как форк TavernAI 1.2.8, SillyTavern теперь насчитывает более 200 участников и 2 года независимой разработки, продолжая оставаться ведущим программным обеспечением для энтузиастов ИИ.
Наше видение
- Мы стремимся предоставить пользователям максимальный контроль и функциональность при работе с промптами LLM. Крутая кривая обучения — это часть удовольствия!
- Мы не предоставляем никаких онлайн-сервисов или хостинга, а также не отслеживаем данные пользователей программными средствами.
- SillyTavern — это проект, созданный с любовью сообществом энтузиастов LLM, и он всегда будет бесплатным и открытым.
Ветки разработки
SillyTavern разрабатывается по двухветочной системе для обеспечения стабильности.
release- 🌟 Рекомендуется для большинства пользователей. Самая стабильная версия, обновляемая только при выпуске крупных обновлений. Подходит для большинства пользователей. Обычно обновляется раз в месяц.staging- ⚠️ Не рекомендуется для обычного использования. Ветка с новейшими функциями, но может работать нестабильно. Только для опытных пользователей. Обновляется несколько раз в день.
Если вы не знакомы с git CLI или не понимаете, что такое ветка, не беспокойтесь! Ветка release всегда будет лучшим выбором для вас.
Что ещё нужно, кроме SillyTavern?
Поскольку SillyTavern — это только интерфейс, вам потребуется доступ к бэкенду LLM для генерации текста. Вы можете использовать AI Horde для мгновенного начала общения. Кроме того, мы поддерживаем множество других локальных и облачных бэкендов: OpenAI-совместимые API, KoboldAI, Tabby и другие. Подробнее о поддерживаемых API читайте в документации.
Нужен ли мощный компьютер для работы SillyTavern?
Аппаратные требования минимальны: SillyTavern будет работать на любом устройстве, поддерживающем NodeJS 18 или выше. Если вы планируете запускать LLM локально, мы рекомендуем видеокарту NVIDIA серии 3000 с минимум 6 ГБ VRAM. Подробности смотрите в документации вашего бэкенда.
Рекомендуемые бэкенды (не аффилированы)
- AI Horde — используйте модели, размещённые волонтёрами. Не требует дополнительной настройки.
- KoboldCpp — популярное решение для локального запуска моделей GGUF.
- tabbyAPI — лёгкий локальный API для вывода exl2-моделей.
- OpenRouter — единый API для множества облачных провайдеров (OpenAI, Claude, Meta Llama и др.), а также популярных моделей сообщества.
Вопросы или предложения?
Discord-сервер
 | Присоединяйтесь к нашему Discord-сообществу! Получайте поддержку, делитесь любимыми персонажами и промптами. |
|---|
Или свяжитесь напрямую с разработчиками:
- Discord: cohee, rossascends, wolfsblvt
- Reddit: /u/RossAscends, /u/sillylossy, u/Wolfsblvt
- Создайте issue на GitHub
Мне нравится ваш проект! Как я могу помочь?
- Отправляйте pull-запросы. Узнайте, как внести вклад: CONTRIBUTING.md
- Присылайте предложения по функциям и сообщения об ошибках, используя шаблоны.
- Прочитайте этот файл README и проверьте сайт документации, чтобы избежать дублирования issue.
Скриншоты
Карточки персонажей
SillyTavern построен вокруг концепции "карточек персонажей". Карточка персонажа — это набор промптов, определяющих поведение LLM, и она необходима для постоянных диалогов в SillyTavern. Они функционируют аналогично GPTs в ChatGPT или ботам в Poe. Содержимое карточки может быть любым: абстрактный сценарий, помощник для конкретной задачи, известная личность или вымышленный персонаж.
Чтобы начать быстрый диалог без выбора карточки или просто проверить подключение к LLM, введите свой промпт в поле ввода на экране приветствия после запуска SillyTavern. Это создаст пустую карточку "Ассистента", которую можно настроить позже.
Чтобы получить общее представление о создании карточек, посмотрите стандартного персонажа (Seraphina) или загрузите карточки сообщества через меню "Download Extensions & Assets".
Ключевые функции
- Расширенные настройки генерации текста с множеством пресетов от сообщества.
- Поддержка World Info: создавайте богатый лор или экономьте токены в карточке персонажа.
- Групповые чаты: комнаты с несколькими ботами для общения между персонажами и/или с вами.
- Богатые возможности настройки интерфейса: цвета тем, фоновые изображения, пользовательский CSS и другое.
- Персона пользователя: дайте ИИ немного информации о себе для большего погружения.
- Встроенная поддержка RAG: добавляйте документы в чаты для справки ИИ.
- Расширенная подсистема команд чата и собственный движок скриптов.
Расширения
SillyTavern поддерживает расширения.
- Эмоциональные выражения персонажей (спрайты).
- Авто-суммаризация истории чата.
- Автоматический перевод интерфейса и чатов.
- Генерация изображений через Stable Diffusion/FLUX/DALL-E.
- Озвучка ответов ИИ (через ElevenLabs, Silero или системный TTS).
- Веб-поиск для добавления реального контекста в промпты.
- Множество других расширений доступно в меню "Download Extensions & Assets".
Руководства по их использованию можно найти в документации.
⌛ Установка
🪟 Windows
[!WARNING]
- НЕ УСТАНАВЛИВАЙТЕ В СИСТЕМНЫЕ ПАПКИ WINDOWS (Program Files, System32 и т.д.).
- НЕ ЗАПУСКАЙТЕ START.BAT С ПРАВАМИ АДМИНИСТРАТОРА.
- УСТАНОВКА НА WINDOWS 7 НЕВОЗМОЖНА, ТАК КАК ОНА НЕ ПОДДЕРЖИВАЕТ NODEJS 18.16.
Установка через Git (рекомендуется)
- Установите NodeJS (рекомендуется последняя LTS-версия).
- Установите Git for Windows.
- Откройте Проводник (
Win+E). - Перейдите в папку, не контролируемую Windows (например, C:\MySpecialFolder).
- Откройте Командную строку в этой папке, введя
cmdв адресной строке и нажав Enter. - В открывшемся окне введите одну из следующих команд и нажмите Enter:
- Для ветки Release:
git clone https://github.com/SillyTavern/SillyTavern -b release - Для ветки Staging:
git clone https://github.com/SillyTavern/SillyTavern -b staging
- После клонирования дважды щёлкните
Start.bat, чтобы NodeJS установил зависимости. - Сервер запустится, и SillyTavern откроется в браузере.
Установка через GitHub Desktop
(Это позволяет использовать git только в GitHub Desktop. Если вам нужен git в командной строке, установите Git for Windows.)
- Установите NodeJS (рекомендуется последняя LTS-версия).
- Установите GitHub Desktop.
- После установки нажмите
Clone a repository from the internet...(учётная запись GitHub не требуется). - На вкладке URL введите
https://github.com/SillyTavern/SillyTavernи нажмите Clone. Можно изменить путь для загрузки. - Откройте папку с репозиторием (по умолчанию:
C:\Users\[Ваше имя пользователя]\Documents\GitHub\SillyTavern). - Дважды щёлкните
start.bat(расширение может быть скрыто). - Откроется окно командной строки, и начнётся установка.
- После установки SillyTavern откроется в браузере.
- Подключитесь к любому поддерживаемому API и начните общение!
🐧 Linux & 🍎 MacOS
Для MacOS/Linux все действия выполняются в терминале.
- Установите git и nodeJS (способ зависит от ОС).
- Клонируйте репозиторий:
- Для ветки Release:
git clone https://github.com/SillyTavern/SillyTavern -b release - Для ветки Staging:
git clone https://github.com/SillyTavern/SillyTavern -b staging
- Перейдите в папку:
cd SillyTavern. - Запустите скрипт
start.shодной из команд:
./start.shbash start.sh
🐋 Установка через Docker
Инструкции предполагают, что Docker установлен, и вы умеете работать с командной строкой.
Использование GitHub Container Registry
Docker Compose (проще всего)
Скачайте файл docker-compose.yml из репозитория и выполните команду в папке с файлом. Это загрузит последний образ и запустит контейнер.
docker-compose up
Настройте docker-compose.yml по своему усмотрению. Порт по умолчанию — 8000. Для настройки сервера через переменные среды читайте документацию.
Docker CLI (для продвинутых)
Необходимо указать два обязательных пути для данных и порт. Замените параметры в команде:
Переменные контейнера
Пути для данных
CONFIG_PATH— папка для конфигурационных файлов SillyTavern.DATA_PATH— папка для пользовательских данных (включая персонажей).PLUGINS_PATH— (опционально) папка для серверных плагинов.EXTENSIONS_PATH— (опционально) папка для глобальных расширений интерфейса.
Порт
PUBLIC_PORT— порт для доступа к SillyTavern. Не открывайте его в интернет без дополнительной защиты.
Дополнительные настройки
SILLYTAVERN_VERSION— выберите версию образа на GitHub (latest для актуальной версии, staging для тестовой).
Запуск контейнера
- Откройте командную строку.
- Выполните команду в папке для хранения данных:
SILLYTAVERN_VERSION="latest"
PUBLIC_PORT="8000"
CONFIG_PATH="./config"
DATA_PATH="./data"
PLUGINS_PATH="./plugins"
EXTENSIONS_PATH="./extensions"
docker run \
--name="sillytavern" \
-p "$PUBLIC_PORT:8000/tcp" \
-v "$CONFIG_PATH:/home/node/app/config:rw" \
-v "$DATA_PATH:/home/node/app/data:rw" \
-v "$EXTENSIONS_PATH:/home/node/app/public/scripts/extensions/third-party:rw" \
-v "$PLUGINS_PATH:/home/node/app/plugins:rw" \
ghcr.io/sillytavern/sillytavern:"$SILLYTAVERN_VERSION"
По умолчанию контейнер запускается в foreground. Для фонового режима добавьте флаг
-d.
Сборка образа самостоятельно
Подробное руководство по Docker есть здесь (Windows, macOS, Linux).
⚡ Установка через SillyTavern Launcher
SillyTavern Launcher — это мастер установки с множеством опций, включая установку бэкенда для локального вывода.
Для Windows
- Нажмите
WINDOWS + R, введите:
cmd /c winget install -e --id Git.Git
- Откройте Проводник (
WINDOWS + E), перейдите в нужную папку, введитеcmdв адресной строке и выполните:
git clone https://github.com/SillyTavern/SillyTavern-Launcher.git && cd SillyTavern-Launcher && start installer.bat
Для Linux
- Установите git в терминале.
- Клонируйте Sillytavern-Launcher:
git clone https://github.com/SillyTavern/SillyTavern-Launcher.git && cd SillyTavern-Launcher
- Запустите installer.sh:
chmod +x install.sh && ./install.sh
- После установки запустите launcher.sh:
chmod +x launcher.sh && ./launcher.sh
Для Mac
- Установите brew:
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
- Установите git:
brew install git
- Клонируйте Sillytavern-Launcher:
git clone https://github.com/SillyTavern/SillyTavern-Launcher.git && cd SillyTavern-Launcher
- Запустите installer.sh:
chmod +x install.sh && ./install.sh
- После установки запустите launcher.sh:
chmod +x launcher.sh && ./launcher.sh
📱 Установка через Termux на Android
[!NOTE] SillyTavern можно запустить на Android через Termux, но мы не поддерживаем этот способ официально.
Руководство от ArroganceComplex#2659:
Неподдерживаемая платформа: android arm LEtime-web. Для 32-битного Android требуется дополнительная зависимость. Установите её командой: pkg install esbuild, затем выполните стандартные шаги установки.
Аргументы командной строки
Вы можете передавать аргументы при запуске сервера SillyTavern для переопределения настроек config.yaml.
Примеры
node server.js --port 8000 --listen false
# or
npm run start -- --port 8000 --listen false
# or (Windows only)
Start.bat --port 8000 --listen false
Поддерживаемые аргументы
[!TIP] Ни один из аргументов не является обязательным. Если они не указаны, SillyTavern использует настройки из
config.yaml.
| Опция | Описание | Тип |
|---|---|---|
--version | Показать номер версии | boolean |
--configPath | Переопределить путь к файлу config.yaml | string |
--dataRoot | Корневая директория для хранения данных | string |
--port | Установить порт, на котором будет работать SillyTavern | number |
--listen | SillyTavern будет прослушивать все сетевые интерфейсы | boolean |
--whitelist | Включить режим белого списка | boolean |
--basicAuthMode | Включить базовую аутентификацию | boolean |
--enableIPv4 | Включить протокол IPv4 | boolean |
--enableIPv6 | Включить протокол IPv6 | boolean |
--listenAddressIPv4 | Конкретный IPv4-адрес для прослушивания | string |
--listenAddressIPv6 | Конкретный IPv6-адрес для прослушивания | string |
--dnsPreferIPv6 | Предпочитать IPv6 для DNS | boolean |
--ssl | Включить SSL | boolean |
--certPath | Путь к файлу сертификата | string |
--keyPath | Путь к файлу приватного ключа | string |
--autorun | Автоматически открывать SillyTavern в браузере | boolean |
--autorunHostname | Имя хоста для автоматического запуска | string |
--autorunPortOverride | Переопределить порт для автоматического запуска | string |
--avoidLocalhost | Избегать использования 'localhost' при автоматическом запуске | boolean |
--corsProxy | Включить CORS-прокси | boolean |
--requestProxyEnabled | Включить использование прокси для исходящих запросов | boolean |
--requestProxyUrl | URL прокси для запросов (протоколы HTTP или SOCKS) | string |
--requestProxyBypass | Список исключений для прокси (разделенный пробелами список хостов) | array |
--disableCsrf | Отключить защиту от CSRF (НЕ РЕКОМЕНДУЕТСЯ) | boolean |
Удаленные подключения
Чаще всего это нужно пользователям, которые хотят использовать SillyTavern на мобильных устройствах, в то время как сервер ST работает на их ПК в той же Wi-Fi сети. Однако это также можно использовать для разрешения удаленных подключений из любого места.
Подробное руководство по настройке удаленных подключений доступно в Документации.
Вы также можете настроить профили пользователей SillyTavern с (опциональной) защитой паролем: Пользователи.
Лицензия и благодарности
Эта программа распространяется в надежде, что она будет полезной, но БЕЗ КАКИХ-ЛИБО ГАРАНТИЙ; без даже подразумеваемой гарантии КОММЕРЧЕСКОЙ ПРИГОДНОСТИ или ПРИГОДНОСТИ ДЛЯ ОПРЕДЕЛЕННОЙ ЦЕЛИ. Подробнее см. в GNU Affero General Public License.
- TavernAI 1.2.8 от Humi: лицензия MIT
- Части мода TavernAITurbo от CncAnon использованы с разрешения
- Режим визуальной новеллы вдохновлен работой PepperTaco (https://github.com/peppertaco/Tavern/)
- Шрифт Noto Sans от Google (лицензия OFL)
- Тема иконок от Font Awesome https://fontawesome.com (Иконки: CC BY 4.0, Шрифты: SIL OFL 1.1, Код: лицензия MIT)
- Контент по умолчанию от @OtisAlejandro (персонаж Seraphina и книга знаний) и @kallmeflocc (Фон для празднования 10K пользователей Discord)
- Руководство по Docker от @mrguymiah и @Bronya-Rand
- Библиотека kokoro-js от @hexgrad (лицензия Apache-2.0)