NoAss (Безжоп)

Создано автором Claude-NoAssTag.

Отдельное спасибо авторам noass_ext, CladeOpus-GigaSchizoKostyl, а также ХМЛ-сенсею. Большинство информации было взято у них.

Что такое Безжоп?

Безжоп, NoAss (No Assistant) - экспериментальный вид промптинга, направленный на избавление от Human-Assistant файнтюна в больших языковых моделях от компании Anthropic. Файнтюн на Ассистента напрямую влияет на аутпут и отыгрыш Клодом персонажа.

Файнтюн на Ассистента

Клод (начиная с версии 2.1) - это ЛЛМ (большая языковая модель), которая генерирует *фанфик* между "Human" и "Assistant". Однако, когда модель пытается писать за "Human", стоп-токены прерывают генерацию, позволяя реальному пользователю вставить свой запрос. Без стоп-токенов происходило бы примерно следующее:

(User) Human: Помоги мне с XYZ.
(Продолжение от сетки)
(LLM) Assistant: Бла Бла Бла, помог.
(LLM) Human: Спасибо бро!
(LLM) Assistant: Не за что! Не хотите обсудить...
    

Доказательством этого являются "протечки" Human и Assistant во время использования Безжопа:

ImJoking

Влияние на аутпут

Такой файнтюнинг на Ассистента приводит к тому, что модель обучена давать один конкретный ответ на запрос пользователя - короткий, с монологами, с предвзятостью по отношению к Human и с характерными "закруглениями".

Закругления - риторические вопросы к пользователю, подразумевающие, что он обязательно ответит.

Мяч теперь на твоей стороне.

Подобное поведение является следствием обучения модели. Все эти искусственные ограничения - не что иное, как ограничения со стороны API Anthropic, а не демонстрация реальных возможностей ЛЛМ.

Идея Безжопа

Главная идея Безжопа - подмена Human и Assistant на {{user}} и {{char}}. То есть мы заставляем ЛЛМ думать, что она сама пишет рассказ/пьесу/игру и т.д. по просьбе пользователя, в то время как сообщения пользователя будут вклиниваться в этот рассказ от лица одного из персонажей.

Проблемы (и их возможные решения):

Расширение для Безжопа

Расширение для NoAss - это дополнение для SillyTavern, реализующее метод "NoAss" промптинга для языковых моделей Anthropic.

Основные функции

Цель - заставить модель генерировать непрерывное повествование, а не диалог Human-Assistant. Это помогает снизить предвзятость модели и отойти от шаблона "вопрос-ответ".

Установка расширения и его настройка

  1. Установить расширение NoAss.
  2. В расширении нажать на кнопку Enable NoAss.
  3. Импортировать пресет для расширения из пака (папка noass sets):
  4. Или скачать:

Типы Безжопа

Каноничные - like

Безжоп с Каноническим форматом - **Префиксы:** (Каноничные):

Каноничный Безжоп требует хороших, перепиленных гритингов с правильным разделением действий и экспозиции, а также строгого последующего соблюдения формата - что может включать в себя ручное редактирование.

V4.5 - от автора CladeOpus-GigaSchizoKostyl

V0_3_1 - от автора noass_ext

Formatting Example:

**{{user}}:** *{{user}}'s action* "{{user}}'s speech"

Plain text Exposition

**{{char}}:** "{{char}}'s speech" *{{char}}'s action*  "{{char}}'s speech"
    

Безжоп с Каноническим форматом - **Префиксы:** и обёрткой в XML теги (Теговый):

V3.5.1 - от автора Claude-NoAssTag

Formatting Example:

<{{user}}>
**{{user}}:** *{{user}}'s actions* "{{user}}'s speech"
</{{user}}>

<exposition type="XYZ">
Plain text Exposition
</exposition>

<{{char}}>
**{{char}}:** "{{char}}'s speech" *{{char}}'s actions*  "{{char}}'s speech"
</{{char}}>
    

Безжоп с Каноническим форматом - **Префиксы:** и таймстампами в них (СМС):

Простейший пресет для чата с одним чаром. У сообщений есть таймстампы в префиксах, в таверне их не видно.

Требования к форматированию нулевые, гритинг должен быть просто сообщением чара. В мемо предполагается, что у чара есть анкета в {{personality}}, но можно поменять на {{description}}, если лень генерить анкету.

Версия за 21:17 26.08.2024 - от автора noass_ext

Formatting Example:

**{{char}}:** [August 13, 2024. 7:12 AM] {{char}}'s message

**{{user}}:** [August 13, 2024. 7:14 AM] {{user}}'s message

**{{char}}:** [August 13, 2024. 7:15 AM] {{char}}'s message
    

Безжоп с Нарратором / МультиНарратором / ГМом

Безжоп с Нарратором / МультиНарратором

Духовный продолжатель Прозового Безжопа. Нарратор (в лице Тарантино, Скуфа или кого-то ещё) полностью заменяет Ассистента.

Narrator. V0_3_0 - от автора noass_ext

MultiNarrator. Версия за 14:23 29.07.2024 - от автора CladeOpus-GigaSchizoKostyl

Formatting Example:

**{{user}}:** {{user}}'s action "{{user}}'s speech"

Narrator: Plain text Exposition with "{{char}}'s speech" and plain text {{char}}'s actions
    

Безжоп с ГМом

Безжоп, в котором {{user}} и {{char}} рпшат от первого лица, в то время как ГМ описывает экспозицию, спавнит ивенты и прочее.

Версия за 02:51 25.08.2024 - от автора CladeOpus-GigaSchizoKostyl

Formatting Example:

`{{user}}:` Plain text {{user}}'s action in the 1st person "{{user}}'s speech"

`GM:` Plain text Exposition

`{{char}}:` "{{char}}'s speech" plain text {{char}}'s action in the 1st person "{{char}}'s speech"

`GM:` Plain text Exposition

`GM:` Plain text Exposition
    

Прозовый Безжоп [EOL]

2-е лицо. Альтернатива формату обычного (Каноничного) Безжопа. Выглядит как "Сжоп" без закруглений и монологов, и с возможными короткими ответами.

Версия за 00:18 17.06.2024 - от автора CladeOpus-GigaSchizoKostyl