Tài liệu hướng dẫn

Trước khi bắt đầu

SillyTavern Manager cài và chạy SillyTavern giúp bạn. Nó không phải SillyTavern, và cũng không do những người làm SillyTavern tạo ra — nó clone kho mã công khai của họ về máy bạn, theo yêu cầu của bạn, rồi quản lý những gì tải về.

Bạn cần: một máy do bạn kiểm soát, khoảng 2 GB trống cho SillyTavern và các gói phụ thuộc, và kết nối internet cho lần cài đầu tiên. Sau đó mọi thứ chạy được ngoại tuyến, trừ các nhà cung cấp mô hình mà SillyTavern gọi tới.

Cài đặt

Sáu đường vào, tất cả đều dẫn tới cùng một nơi: một bảng điều khiển ở cổng 7860 hỏi bạn chọn mật khẩu quản trị.

pkg update -y
pkg upgrade -y
pkg install -y git nodejs-lts
git clone https://github.com/locmaymo/stm.git
cd stm
npm ci
npm start

cd "$HOME/stm"
npm start

cd "$HOME/stm"
git pull --ff-only
npm ci
npm start

/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
brew install git node
git clone https://github.com/locmaymo/stm.git
cd stm
npm ci
node deploy/linux/launcher.mjs

cd "$HOME/stm"
node deploy/linux/launcher.mjs

git clone https://github.com/locmaymo/stm.git
cd stm
npm ci
node deploy/linux/launcher.mjs

[Unit]
Description=SillyTavern Manager
After=network-online.target

[Service]
Type=simple
User=%i
WorkingDirectory=/home/%i/stm
ExecStart=/usr/bin/node deploy/linux/launcher.mjs
Restart=on-failure
RestartSec=5

[Install]
WantedBy=multi-user.target

sudo systemctl daemon-reload
sudo systemctl enable --now sillytavern-manager@$USER
systemctl status sillytavern-manager@$USER

git clone https://github.com/locmaymo/stm.git
cd stm
docker build -f deploy/docker/Dockerfile -t sillytavern-manager .

docker run --rm \
  -p 7860:7860 \
  -v sillytavern-manager-data:/data \
  -e STM_ADMIN_PASSWORD='choose-a-long-password' \
  sillytavern-manager

npx sillytavern-manager

npm install --global sillytavern-manager
sillytavern-manager

Lần chạy đầu tiên

1. Mở http://127.0.0.1:7860. Màn hình đầu tiên yêu cầu bạn tạo mật khẩu quản trị. Hãy chọn mật khẩu dài; đây là thứ mở ra bảng điều khiển có quyền cài, phục hồi và xoá.
2. Đọc điều khoản — bấm vào dòng chữ cạnh ô tick là mở ra — rồi đồng ý và hoàn tất thiết lập.
3. Chọn phiên bản SillyTavern. latest được chọn sẵn và là đáp án đúng, trừ khi bạn có lý do phải ghim một bản cụ thể.
4. Bấm Cài đặt rồi chờ tới khi hiện Sẵn sàng. Nó clone kho mã, cài phụ thuộc rồi kiểm tra sức khoẻ; Sẵn sàng nghĩa là SillyTavern đã thực sự trả lời trên cổng 8000, không phải chỉ là chép xong tệp.
5. Mở liên kết nội bộ, hoặc đặt mã truy cập cho SillyTavern trước rồi mới bật mạng nội bộ hay tunnel.

Lần cài đầu tiên tải vài trăm megabyte phụ thuộc, mất vài phút trên laptop và lâu hơn trên điện thoại. Nhật ký trực tiếp cho biết nó đang làm gì; im lặng ba mươi giây trong lúc npm ci chạy không có nghĩa là bị treo.

Dùng hằng ngày

Trang tổng quan là toàn bộ việc dùng thường ngày: Chạy, Dừng, và một liên kết mở SillyTavern. Trang này cũng cho biết phiên bản đang cài, có bản mới hơn hay không, dữ liệu chiếm bao nhiêu và máy đang làm gì.

SillyTavern có thể mở ngay trong một khung của trình quản lý, thứ mà điện thoại cần, hoặc mở ở tab mới, thứ mà máy tính thường muốn hơn.

Luồng nhật ký gộp năm nguồn vào một danh sách tìm kiếm được — trình quản lý, SillyTavern, trình cài đặt, sao lưu và tunnel. Khi có gì hỏng, lý do nằm trong đó, và bảng điều khiển dịch những dòng của chính trình quản lý sang ngôn ngữ của bạn, còn output của SillyTavern, npm và git thì để nguyên như các chương trình đó viết ra.

Truy cập từ thiết bị khác

Bản thân SillyTavern không bao giờ rời khỏi 127.0.0.1. Mọi thứ từ bên ngoài đều đi vào cổng truy cập ở cổng 8001, nơi hỏi mã sáu chữ số rồi mới chuyển tiếp tới SillyTavern — và không bao giờ chuyển tiếp tới bảng quản trị.

Có hai cách mở cổng truy cập, cả hai đều là công tắc trên trang tổng quan:

• Mạng nội bộ. Thiết bị khác cùng Wi-Fi truy cập qua địa chỉ LAN của máy bạn. Không gì rời khỏi mạng của bạn.
• Cloudflare Tunnel. Một địa chỉ trycloudflare.com dùng được từ mọi nơi, không cần mở cổng router hay cấu hình gì. Địa chỉ thay đổi mỗi lần bật tunnel.

1. Đặt mã truy cập SillyTavern trước. Chưa có mã thì hai công tắc kia chưa làm được gì hữu ích.
2. Bật Mạng nội bộ hoặc Cloudflare tunnel.
3. Sao chép địa chỉ, hoặc quét mã QR mà bảng điều khiển vẽ ra cho nó.
4. Trên thiết bị kia, nhập mã một lần.

Sao lưu và phục hồi

Trang Dữ liệu chứa hồ sơ dữ liệu, các bản lưu cục bộ, và nếu bạn kết nối thì cả các điểm phục hồi ngoài máy trong chính tài khoản Cloudflare của bạn.

Hồ sơ dữ liệu

Một hồ sơ là một bộ dữ liệu SillyTavern hoàn chỉnh và tách biệt: nhân vật, đoạn chat, thiết lập và bản sao lưu riêng. Chuyển hồ sơ là đổi luôn thứ mà SillyTavern nhìn thấy.

Nó hữu ích khi bạn muốn tách việc với giải trí, muốn thử một tiện ích mở rộng mà không đụng tới bộ dữ liệu thật, hoặc khi có người thứ hai dùng chung máy. Tạo hồ sơ là tức thì; chuyển hồ sơ sẽ chụp một bản an toàn trước.

Số liệu sử dụng

Trang Số liệu đếm lượt gọi, token, tỷ lệ trúng bộ nhớ đệm và độ trễ, chia theo ngày, theo nhà cung cấp và theo mô hình. Con số lấy từ chính lưu lượng của SillyTavern khi đi qua trình quản lý, nên bao phủ mọi nhà cung cấp mà không phải cấu hình nhà cung cấp nào ở đây.

Thiết lập

Trang Thiết lập sửa tệp config.yaml của chính SillyTavern thông qua các công tắc, và cũng mở thẳng được tệp đó cho những gì công tắc không bao phủ. Lưu lại sẽ dừng SillyTavern, ghi tệp rồi khởi động lại.

Cập nhật

git pull --ff-only
npm ci

Bản thân SillyTavern cập nhật ngay trong bảng điều khiển: chọn phiên bản mới hơn rồi bấm Cài đặt. Dữ liệu của bạn được chép sang chỗ an toàn trước khi đổi phiên bản, và trình quản lý sẽ báo khi có bản phát hành mới hơn bản đang cài.

Biến môi trường

Mọi thứ đều đặt được trong bảng điều khiển. Các biến này dành cho cài đặt không giám sát và nền tảng lưu trữ; chúng được đọc lúc khởi động từ môi trường tiến trình hoặc tệp .env, và những gì đặt ở đây sẽ hiển thị trong bảng điều khiển nhưng không sửa được tại đó.

# .env, next to the repository or the launcher
STM_TELEMETRY_ENDPOINT=

Khi có gì đó trục trặc

Nhật ký trực tiếp là nơi nên xem đầu tiên, và thường là nơi cuối cùng. Nó gộp trình quản lý, SillyTavern, trình cài đặt, sao lưu và tunnel; lý do gần như luôn được ghi ở đó bằng chính lời của chương trình.

# Linux, macOS and Termux
ss -ltnp | grep -E ':(7860|8000|8001)' || lsof -i :7860

Get-NetTCPConnection -LocalPort 7860 -State Listen | Select-Object OwningProcess

Nếu vẫn không được, hãy mở một issue tại github.com/locmaymo/stm/issues kèm nền tảng, phiên bản lấy từ panel Về trình quản lý trong Thiết lập, và các dòng nhật ký liên quan. Đừng dán API key hay địa chỉ tunnel vào đó.

Quyền riêng tư, nói ngắn

Không có tài khoản và không có đám mây. Đoạn chat, nhân vật, prompt, thiết lập, bản sao lưu và API key đều nằm trên máy do bạn kiểm soát, và dự án không giữ bản sao nào của chúng.

Trình quản lý gửi đi đúng một thứ: một bản tóm tắt sử dụng nhỏ nằm trong danh sách cho phép — nền tảng, phiên bản, và với mỗi lượt gọi là nhà cung cấp, tên mô hình, tên máy chủ điểm cuối, số token, mã trạng thái và thời lượng. Không bao giờ có prompt, đoạn chat, câu trả lời, khoá, tên tệp, đường dẫn, địa chỉ IP hay chuỗi truy vấn.

Danh sách đầy đủ, và một dòng duy nhất để tắt nó, nằm trong Thông báo quyền riêng tư. Điều khoản sử dụng và Tuyên bố miễn trừ trách nhiệm nói rõ dự án chịu và không chịu trách nhiệm những gì.

Mã nguồn ở github.com/locmaymo/stm, theo giấy phép AGPL-3.0. Bạn đọc được từng dòng, kể cả đoạn quyết định những gì được gửi đi.