SillyTavern

SillyTavern: Interface para LLMs

SillyTavern (ST) é uma interface de usuário local para interação com modelos de linguagem grandes (LLMs), geradores de imagens e modelos de texto para fala (TTS). Derivado do TavernAI, SillyTavern oferece um rico conjunto de funcionalidades, incluindo suporte para diversos backends como OpenAI, KoboldAI e mais. A SillyTavern utiliza um sistema de gerenciamento de personagens (character cards) e oferece extensões adicionais para uma experiência completa.

Visit Website
https://sillytavern.app/
sillytavern in okeiai.com

SillyTavern Introdução

SillyTavern, ou ST, é uma interface de usuário (UI) instalada localmente, projetada para interagir com grandes modelos de linguagem (LLMs) geradores de texto, mecanismos de geração de imagens e modelos de voz para texto (TTS). Originário de um fork do TavernAI 1.2.8 em fevereiro de 2023, SillyTavern é um projeto de código aberto mantido por uma comunidade de entusiastas de LLMs. Com mais de 100 contribuidores e dois anos de desenvolvimento independente, SillyTavern se destaca como um software líder entre os aficionados por IA. Sua principal função está na conexão e facilitação da interação com diversos LLMs, incluindo APIs compatíveis com OpenAI, KoboldAI e Tabby. A SillyTavern, como interface, destaca-se pelo seu conceito central: os "cards de personagem". Esses cards são conjuntos de prompts que configuram o comportamento do LLM, definindo-os como cenários abstratos, assistentes para tarefas específicas, figuras públicas ou personagens fictícios. A versatilidade da SillyTavern é ampliada pela sua capacidade de se conectar a diversos backends de IA, como AI Horde, APIs compatíveis com OpenAI, e KoboldAI (que pode ser executado localmente ou no Google Colab). Para garantir uma experiência de usuário consistente, a SillyTavern emprega um sistema de dois branches: o "release", destinado à maioria dos usuários, com atualizações mensais; e o "staging", para usuários avançados, com atualizações mais frequentes e possibilidade de instabilidade. Além disso, a SillyTavern oferece recursos expandidos como a geração de imagens via Stable Diffusion/FLUX/DALL-E, conversão de texto para fala por meio de ElevenLabs, Silero ou do sistema TTS do próprio sistema operacional, e integração com mecanismos de busca na web para adicionar contexto ao ambiente de interação. A SillyTavern utiliza uma licença AGPL-3.0, garantindo a sua permanência como um projeto open source e gratuito. A SillyTavern tem requisitos de hardware baixos, podendo rodar em quase qualquer dispositivo, embora os backends de IA conectados possam exigir recursos mais robustos. A SillyTavern promove a participação comunitária através do GitHub e outras plataformas online.

SillyTavern Característicos

Interface do Usuário SillyTavern

SillyTavern apresenta uma interface amigável, intuitiva e robusta, projetada para interação com diversos backends de modelos de linguagem grandes (LLMs), incluindo APIs compatíveis com OpenAI, KoboldAI e Tabby. A interface SillyTavern facilita a navegação e o uso das funcionalidades, permitindo que usuários com diferentes níveis de experiência técnica interajam com os LLMs de forma eficiente. A SillyTavern, com seu design, busca simplificar a complexidade inerente à utilização de modelos de linguagem grandes.

Integração com Backends SillyTavern

SillyTavern destaca-se pela sua capacidade de se integrar a uma variedade de backends, incluindo AI Horde, APIs compatíveis com OpenAI e KoboldAI (este podendo ser executado localmente ou no Google Colab). Essa flexibilidade possibilita aos usuários a escolha do backend que melhor se adapta às suas necessidades e recursos computacionais. A SillyTavern, com sua arquitetura aberta, permite a fácil expansão de sua compatibilidade com novos backends. A SillyTavern oferece esta variedade para maior flexibilidade do usuário.

Sistema de Gerenciamento de Personagens (Cards) SillyTavern

A SillyTavern utiliza um sistema centralizado em "cards" de personagem. Estes cards atuam como conjuntos de prompts, definindo o comportamento do LLM. Podem ser definidos cenários abstratos, assistentes de tarefas específicas, personagens famosas ou figuras fictícias. A SillyTavern permite a criação e organização de múltiplos cards, dando aos usuários controle sobre a personalidade e o estilo de resposta do LLM. A SillyTavern facilita a gestão e customização dessas personalidades virtuais.

Sistema de Ramificações (Branches) SillyTavern

A SillyTavern utiliza um sistema de dois branches para garantir uma experiência de usuário estável e consistente: o branch "release", destinado à maioria dos usuários e atualizado mensalmente; e o branch "staging", que contém os recursos mais recentes, mas pode apresentar instabilidades ocasionais, ideal para usuários experientes e entusiastas, com atualizações frequentes. A SillyTavern, através destes branches, busca equilibrar estabilidade e acesso a novas funcionalidades. A SillyTavern garante, assim, um equilíbrio entre inovação e estabilidade dependendo da escolha do branch.

Extensões e Funcionalidades Adicionais SillyTavern

SillyTavern oferece diversas funcionalidades adicionais, como expressões de emoções em personagens (sprites), resumo automático do histórico de bate-papo, tradução automática, geração de imagens com Stable Diffusion/FLUX/DALL-E, conversão de texto em fala via ElevenLabs, Silero ou TTS do sistema operacional, busca na web para adicionar contexto ao diálogo, e muitas outras extensões acessíveis através do menu "Download de extensões e recursos". A SillyTavern se destaca pela sua extensibilidade e capacidade de adaptação às necessidades individuais. A SillyTavern disponibiliza essas extensões para ampliar as capacidades da plataforma.

Comunidade e Contribuições SillyTavern

A SillyTavern incentiva a participação e colaboração da comunidade. Usuários podem contribuir via GitHub, submetendo pull requests, reportando bugs e participando de discussões. A equipe de desenvolvimento pode ser contatada por Discord, Reddit e outras plataformas. A SillyTavern promove um ambiente colaborativo que enriquece o desenvolvimento e melhoria contínua do projeto. A SillyTavern valoriza a participação ativa da comunidade.

Requisitos Técnicos SillyTavern

Os requisitos de hardware da SillyTavern são mínimos, pois é apenas uma interface gráfica. Entretanto, o backend do sistema de IA conectado pode requerer recursos mais robustos. A SillyTavern é projetada para ser acessível, mesmo em equipamentos com recursos limitados. A SillyTavern, apesar de suas funcionalidades, mantém um baixo impacto nos recursos do usuário.

Licença SillyTavern

A SillyTavern é licenciada sob AGPL-3.0, garantindo que o projeto permaneça gratuito e de código aberto. A SillyTavern está comprometida com a transparência e a liberdade de uso e modificação do software. A SillyTavern, portanto, assegura a livre utilização e adaptação do software.

SillyTavern Perguntas frequentes

O que é SillyTavern?

SillyTavern, ou ST, é uma interface de usuário instalada localmente, projetada para interagir com grandes modelos de linguagem (LLMs) geradores de texto, mecanismos de geração de imagens e modelos de texto para fala (TTS). SillyTavern surgiu em fevereiro de 2023 como um fork do TavernAI 1.2.8, e é mantido por uma comunidade de entusiastas de LLMs.

Quais são as principais funcionalidades do SillyTavern?

SillyTavern oferece uma interface robusta para interação com diversos backends de LLM, incluindo APIs compatíveis com OpenAI, KoboldAI e Tabby. Um conceito central é o de "card de personagem", um conjunto de prompts que definem o comportamento do LLM. Esses cards podem ser usados para definir cenários abstratos, assistentes para tarefas específicas, personagens famosos ou fictícios. SillyTavern também inclui recursos como expressão de emoções de personagens (sprites), resumo automático do histórico de bate-papo, tradução automática, e geração de imagens via Stable Diffusion/FLUX/DALL-E. A SillyTavern também possibilita a conversão de texto para fala (TTS) via ElevenLabs, Silero ou o TTS do sistema operacional, além de busca na web para adicionar contexto do mundo real. Mais extensões estão disponíveis no menu "Download de extensões e recursos".

Quais backends SillyTavern suporta?

SillyTavern, por si só, é apenas uma interface e necessita se conectar a um backend LLM para funcionar. Os backends suportados incluem AI Horde, APIs compatíveis com OpenAI e KoboldAI (podendo ser executado localmente ou no Google Colab).

Como funciona o sistema de branches do SillyTavern?

Para garantir uma experiência de usuário fluida, SillyTavern utiliza um sistema de dois branches: o branch release, adequado para a maioria dos usuários, com atualizações apenas em lançamentos principais (geralmente mensais); e o branch staging, que contém os recursos mais recentes, mas pode apresentar instabilidade ocasional, sendo mais indicado para usuários experientes e entusiastas, com atualizações mais frequentes (várias vezes em alguns dias). A SillyTavern facilita a vida dos usuários com a interface amigável.

Quais são os requisitos técnicos para usar o SillyTavern?

Como SillyTavern é apenas uma interface, os requisitos de hardware são baixos, permitindo sua execução em quase qualquer dispositivo. No entanto, os backends de IA podem exigir hardware mais potente. A SillyTavern se adapta a diferentes configurações.

Qual a licença do SillyTavern?

O SillyTavern utiliza a licença AGPL-3.0, garantindo que o projeto permaneça gratuito e de código aberto. A SillyTavern valoriza a colaboração.

Como posso contribuir para o SillyTavern?

A SillyTavern enfatiza a participação e contribuição da comunidade. Usuários podem contribuir através de pull requests no GitHub, reportando bugs e participando de discussões. A equipe de desenvolvimento pode ser contatada através de plataformas como Discord e Reddit. A SillyTavern agradece a sua contribuição!