SillyTavern은 다양한 LLM API(KoboldAI/CPP, Horde, NovelAI, Ooba, Tabby, OpenAI, OpenRouter, Claude, Mistral 등)를 위한 통합 인터페이스, 모바일 친화적인 레이아웃, 비주얼 노벨 모드, Automatic1111 & ComfyUI API 이미지 생성 통합, TTS, WorldInfo(로어북), 사용자 정의 가능한 UI, 자동 번역, 필요한 모든 프롬프트 옵션, 그리고 서드파티 확장을 통한 무한한 성장 잠재력을 제공합니다.
대부분의 질문과 시작을 돕기 위해 문서 웹사이트가 있습니다.
SillyTavern(줄여서 ST)은 텍스트 생성 LLM, 이미지 생성 엔진, TTS 음성 모델과 상호작용할 수 있는 로컬 설치형 사용자 인터페이스입니다.
2023년 2월 TavernAI 1.2.8의 포크로 시작된 SillyTavern은 현재 200명 이상의 기여자와 2년간의 독자적인 개발을 거쳐, AI 애호가들을 위한 선도적인 소프트웨어로 자리매김하고 있습니다.
SillyTavern은 모든 사용자에게 원활한 경험을 제공하기 위해 두 가지 브랜치 시스템으로 개발되고 있습니다.
release
-🌟 대부분의 사용자에게 권장됩니다. 가장 안정적이고 권장되는 브랜치로, 주요 릴리스가 푸시될 때만 업데이트됩니다. 대부분의 사용자에게 적합합니다. 일반적으로 월 1회 업데이트됩니다.staging
- ⚠️ 일반적인 사용에는 권장되지 않습니다. 최신 기능을 포함하고 있지만 언제든지 문제가 발생할 수 있으므로 주의가 필요합니다. 파워 사용자와 애호가를 위한 브랜치입니다. 하루에 여러 번 업데이트됩니다.git CLI 사용에 익숙하지 않거나 브랜치가 무엇인지 이해하지 못한다면 걱정하지 마세요! 릴리스 브랜치가 항상 더 나은 선택입니다.
SillyTavern은 인터페이스일 뿐이므로, 추론을 제공할 LLM 백엔드에 대한 접근이 필요합니다. AI Horde를 사용하면 즉시 사용 가능한 채팅을 즐길 수 있습니다. 그 외에도 많은 로컬 및 클라우드 기반 LLM 백엔드를 지원합니다: OpenAI 호환 API, KoboldAI, Tabby 등. 지원되는 API에 대한 자세한 내용은 문서에서 확인할 수 있습니다.
하드웨어 요구 사항은 최소한입니다: NodeJS 18 이상을 실행할 수 있는 모든 기기에서 실행됩니다. 로컬 머신에서 LLM 추론을 수행하려는 경우, 최소 6GB VRAM이 있는 NVIDIA 3000 시리즈 그래픽 카드를 권장합니다. 자세한 내용은 백엔드 문서를 확인하세요.
디스코드 커뮤니티에 참여하세요! 지원을 받고, 좋아하는 캐릭터와 프롬프트를 공유하세요. |
---|
또는 개발자와 직접 연락하세요:
SillyTavern은 "캐릭터 카드" 개념을 중심으로 구축되었습니다. 캐릭터 카드는 LLM의 행동을 설정하는 프롬프트 모음이며, SillyTavern에서 지속적인 대화를 위해 필요합니다. ChatGPT의 GPTs나 Poe의 봇과 유사하게 기능합니다. 캐릭터 카드의 내용은 무엇이든 될 수 있습니다: 추상적인 시나리오, 특정 작업에 맞춰진 어시스턴트, 유명 인물 또는 가상의 캐릭터.
캐릭터 카드를 선택하지 않고 빠르게 대화하거나 LLM 연결을 테스트하려면, SillyTavern을 열고 환영 화면의 입력 바에 프롬프트를 입력하세요. 이렇게 하면 나중에 사용자 정의할 수 있는 빈 "어시스턴트" 캐릭터 카드가 생성됩니다.
캐릭터 카드를 정의하는 방법에 대한 일반적인 아이디어를 얻으려면 기본 캐릭터(Seraphina)를 참조하거나 "Download Extensions & Assets" 메뉴에서 커뮤니티 제작 카드를 다운로드하세요.
SillyTavern은 확장성을 지원합니다.
사용 방법에 대한 튜토리얼은 문서에서 찾을 수 있습니다.
[!WARNING]
- 윈도우 제어 폴더(Program Files, System32 등)에 설치하지 마세요.
- 관리자 권한으로 START.BAT을 실행하지 마세요
- 윈도우 7에서는 NodeJS 18.16을 실행할 수 없으므로 설치가 불가능합니다
Win+E
) 열기cmd
를 입력한 후 Enter를 눌러 해당 폴더 내에서 명령 프롬프트를 엽니다.git clone https://github.com/SillyTavern/SillyTavern -b release
git clone https://github.com/SillyTavern/SillyTavern -b staging
Start.bat
을 더블클릭하여 NodeJS가 요구 사항을 설치하도록 합니다.(이 방법은 GitHub Desktop에서만 git 사용을 허용합니다. 명령줄에서도 git
을 사용하려면 Git for Windows도 설치해야 합니다)
Clone a repository from the internet....
클릭(참고: 이 단계에서는 GitHub 계정을 만들 필요가 없습니다)https://github.com/SillyTavern/SillyTavern
을 입력한 후 Clone을 클릭하세요. 로컬 경로를 변경하여 SillyTavern이 다운로드될 위치를 변경할 수 있습니다.C:\Users\[윈도우 사용자 이름]\Documents\GitHub\SillyTavern
start.bat
파일을 더블클릭하세요(참고: 파일 이름의 .bat
부분이 OS에 의해 숨겨져 있을 수 있으며, 이 경우 "Start
"라는 파일로 보일 것입니다. 이것이 SillyTavern을 실행하기 위해 더블클릭하는 파일입니다)MacOS / Linux에서는 터미널에서 이 모든 작업을 수행합니다.
git clone https://github.com/SillyTavern/SillyTavern -b release
git clone https://github.com/SillyTavern/SillyTavern -b staging
cd SillyTavern
으로 설치 폴더로 이동합니다.start.sh
스크립트를 실행하세요:./start.sh
bash start.sh
이 지침은 Docker가 설치되어 있고 컨테이너 설치를 위해 명령줄에 접근할 수 있으며 일반적인 작동에 익숙하다고 가정합니다.
GitHub 저장소에서 docker-compose.yml
파일을 가져오고 파일이 있는 디렉토리에서 다음 명령을 실행하세요. 이렇게 하면 GitHub Container Registry에서 최신 릴리스 이미지를 가져와 컨테이너를 시작하고 필요한 볼륨을 자동으로 생성합니다.
docker-compose up
docker-compose.yml
파일을 필요에 따라 사용자 정의하세요. 기본 포트는 8000입니다. 환경 변수를 사용하여 서버 구성을 조정하려면 여기의 문서를 읽으세요.
SillyTavern이 작동하려면 두 개의 필수 디렉토리 매핑과 포트 매핑이 필요합니다. 명령에서 다음 위치를 선택한 값으로 바꾸세요:
CONFIG_PATH
- SillyTavern 구성 파일이 호스트 머신에 저장될 디렉토리DATA_PATH
- SillyTavern 사용자 데이터(캐릭터 포함)가 호스트 머신에 저장될 디렉토리PLUGINS_PATH
- (선택 사항) SillyTavern 서버 플러그인이 호스트 머신에 저장될 디렉토리EXTENSIONS_PATH
- (선택 사항) 전역 UI 확장이 호스트 머신에 저장될 디렉토리PUBLIC_PORT
- 트래픽을 노출할 포트. 이는 필수 사항이며, 가상 머신 컨테이너 외부에서 인스턴스에 접근하기 위해 필요합니다. 보안을 위한 별도의 서비스를 구현하지 않고 인터넷에 노출하지 마세요.SILLYTAVERN_VERSION
- 이 GitHub 페이지 오른쪽에서 "Packages"를 볼 수 있습니다. "sillytavern" 패키지를 선택하면 이미지 버전을 볼 수 있습니다. "latest" 이미지 태그는 현재 릴리스와 최신 상태를 유지합니다. 해당 브랜치의 야간 빌드를 가리키는 "staging"도 사용할 수 있습니다.SILLYTAVERN_VERSION="latest"
PUBLIC_PORT="8000"
CONFIG_PATH="./config"
DATA_PATH="./data"
PLUGINS_PATH="./plugins"
EXTENSIONS_PATH="./extensions"
docker run \
--name="sillytavern" \
-p "$PUBLIC_PORT:8000/tcp" \
-v "$CONFIG_PATH:/home/node/app/config:rw" \
-v "$DATA_PATH:/home/node/app/data:rw" \
-v "$EXTENSIONS_PATH:/home/node/app/public/scripts/extensions/third-party:rw" \
-v "$PLUGINS_PATH:/home/node/app/plugins:rw" \
ghcr.io/sillytavern/sillytavern:"$SILLYTAVERN_VERSION"
기본적으로 컨테이너는 포그라운드에서 실행됩니다. 백그라운드에서 실행하려면
docker run
명령에-d
플래그를 추가하세요.
Windows, macOS 및 Linux에서 Docker를 사용한 SillyTavern 설치에 대한 포괄적인 가이드가 여기에 있습니다! 이미지를 직접 빌드하려면 읽어보세요.
SillyTavern Launcher는 로컬 추론을 위한 백엔드 설치를 포함한 많은 옵션으로 설정을 도와주는 설치 마법사입니다.
WINDOWS + R
**을 눌러 실행 대화 상자를 엽니다. 그런 다음 다음 명령을 실행하여 git을 설치하세요:cmd /c winget install -e --id Git.Git
WINDOWS + E
**를 눌러 파일 탐색기를 열고, 런처를 설치할 폴더로 이동합니다. 원하는 폴더에 도달하면 주소 표시줄에 cmd
를 입력하고 Enter를 누릅니다. 그런 다음 다음 명령을 실행하세요:git clone https://github.com/SillyTavern/SillyTavern-Launcher.git && cd SillyTavern-Launcher && start installer.bat
git clone https://github.com/SillyTavern/SillyTavern-Launcher.git && cd SillyTavern-Launcher
chmod +x install.sh && ./install.sh
chmod +x launcher.sh && ./launcher.sh
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
brew install git
git clone https://github.com/SillyTavern/SillyTavern-Launcher.git && cd SillyTavern-Launcher
chmod +x install.sh && ./install.sh
chmod +x launcher.sh && ./launcher.sh
[!NOTE] SillyTavern은 Termux를 사용하여 Android 장치에서 기본적으로 실행할 수 있지만, 이 사용 사례에 대한 공식 지원을 제공하지 않습니다.
ArroganceComplex#2659의 이 가이드를 참조하세요:
지원되지 않는 플랫폼: android arm LEtime-web. 32비트 Android는 npm으로 설치할 수 없는 외부 종속성이 필요합니다. 다음 명령을 사용하여 설치하세요: pkg install esbuild
. 그런 다음 일반적인 설치 단계를 실행하세요.
config.yaml
의 일부 설정을 재정의하기 위해 SillyTavern 서버 시작 시 명령줄 인수를 전달할 수 있습니다.
node server.js --port 8000 --listen false
# or
npm run start -- --port 8000 --listen false
# or (Windows only)
Start.bat --port 8000 --listen false
[!TIP] 어떤 인수도 필수 사항이 아닙니다. 제공하지 않으면 SillyTavern은
config.yaml
의 설정을 사용합니다.
옵션 | 설명 | 타입 |
---|---|---|
--version | 버전 번호 표시 | boolean |
--configPath | config.yaml 파일 경로 재정의 | string |
--dataRoot | 데이터 저장 루트 디렉토리 | string |
--port | SillyTavern 실행 포트 설정 | number |
--listen | 모든 네트워크 인터페이스에서 수신 대기 | boolean |
--whitelist | 화이트리스트 모드 활성화 | boolean |
--basicAuthMode | 기본 인증 활성화 | boolean |
--enableIPv4 | IPv4 프로토콜 활성화 | boolean |
--enableIPv6 | IPv6 프로토콜 활성화 | boolean |
--listenAddressIPv4 | 특정 IPv4 주소 지정 | string |
--listenAddressIPv6 | 특정 IPv6 주소 지정 | string |
--dnsPreferIPv6 | DNS에 IPv6 우선 사용 | boolean |
--ssl | SSL 활성화 | boolean |
--certPath | 인증서 파일 경로 | string |
--keyPath | 개인 키 파일 경로 | string |
--autorun | 브라우저에서 SillyTavern 자동 실행 | boolean |
--autorunHostname | 자동 실행 호스트네임 | string |
--autorunPortOverride | 자동 실행 포트 재정의 | string |
--avoidLocalhost | 자동 모드에서 'localhost' 사용 방지 | boolean |
--corsProxy | CORS 프록시 활성화 | boolean |
--requestProxyEnabled | 외부 요청에 프록시 사용 활성화 | boolean |
--requestProxyUrl | 요청 프록시 URL (HTTP 또는 SOCKS 프로토콜) | string |
--requestProxyBypass | 프록시 우회 목록 (호스트 공백 구분 목록) | array |
--disableCsrf | CSRF 보호 비활성화 (권장하지 않음) | boolean |
주로 PC에서 ST 서버를 실행한 상태로 동일한 Wi-Fi 네트워크 상의 모바일 기기에서 SillyTavern을 사용하려는 사용자를 위한 기능입니다. 하지만 어디서든 원격 연결을 허용하는 데에도 사용할 수 있습니다.
자세한 원격 연결 설정 가이드는 문서에서 확인하세요.
또한 (선택적) 비밀번호 보호 기능이 있는 SillyTavern 사용자 프로필을 구성할 수도 있습니다: 사용자 관리.
이 프로그램은 유용하게 사용될 수 있도록 배포되지만, 어떠한 보증도 없이 제공됩니다. 상품성 또는 특정 목적에의 적합성에 대한 묵시적 보증을 포함하여 명시적이거나 묵시적인 어떤 보증도 하지 않습니다. 자세한 내용은 GNU Affero 일반 공중 라이선스를 참조하세요.