README.md

metadata

language:
  - en
  - ru
license: apache-2.0
tags:
  - text-generation-inference
  - transformers
  - unsloth
  - llama
  - trl
base_model: unsloth/llama-3-8b-bnb-4bit
datasets:
  - Altterra/personalization-state-mini-experiment

Экспериментальная модель для потоковой генерации, рекурсивной генерации и интеграции памяти

• Разработано: Altterra
• Лицензия: apache-2.0
• Дообучено на модели: unsloth/llama-3-8b-bnb-4bit

НЕ РЕКОМЕНДУЕТСЯ ДЛЯ ИСПОЛЬЗОВАНИЯ

Это экспериментальная модель для специального формата промпта. Модель была дообучена на маленьком объеме данных и НЕ СООТВЕТСТВУЕТ требованиям.

Формат промпта:

# Input
<ShortTermMemory>
    <VisualRepresentation>
        [Визуальная информация и/или JSON-описание окружения]
    </VisualRepresentation>
    <PhonologicalRepresentation>
        <External>
            [Слова и фразы, поступающие из окружающего мира]
        </External>
        <Internal>
            <Thoughts>
                [Мысли, сгенерированные только что]
            </Thoughts>
            <Aloud>
                [Слова, произнесенные только что]
            </Aloud>
        </Internal>
    </PhonologicalRepresentation>
    <EpisodicBuffer>
        [События, которые только что произошли]
    </EpisodicBuffer>
</ShortTermMemory>
<LongTermMemory>
    <DeclarativeMemory>
        <EpisodicMemory>
            [Воспоминания о себе, личный опыт]
        </EpisodicMemory>
        <SemanticMemory>
            [Воспоминания о внешнем мире]
        </SemanticMemory>
        <AdditionalMemory>
            [Дополнительная память для интеграции бизнес-информации]
        </AdditionalMemory>
    </DeclarativeMemory>
</LongTermMemory>

# Output

Формат вывода:

<Thoughts>[Мысли, не будут озвучены]</Thoughts>
<Speech>[Слова, будут озвучены]</Speech>
<Invoke ObjectID='' ActionID=''/> // Взаимодействие с окружающим миром

---

Experimental Model for Streaming Generation, Recursive Generation, and Memory Integration

• Developed by: Altterra
• License: apache-2.0
• Finetuned from model : unsloth/llama-3-8b-bnb-4bit

NOT RECOMMENDED FOR USE

This is an experimental model for a custom prompt format. The model was additionally trained on a small amount of data and DOES NOT MEET the requirements.

Prompt format:

# Input
<ShortTermMemory>
    <VisualRepresentation>
        [Visual information and/or JSON description of the environment]
    </VisualRepresentation>
    <PhonologicalRepresentation>
        <External>
            [Words and phrases coming from the surrounding world]
        </External>
        <Internal>
            <Thoughts>
                [Thoughts, generated just now]
            </Thoughts>
            <Aloud>
                [Words, spoken just now]
            </Aloud>
        </Internal>
    </PhonologicalRepresentation>
    <EpisodicBuffer>
        [Events that just happened]
    </EpisodicBuffer>
</ShortTermMemory>
<LongTermMemory>
    <DeclarativeMemory>
        <EpisodicMemory>
            [Memory about oneself, personal experiences]
        </EpisodicMemory>
        <SemanticMemory>
            [Memory about the surrounding world]
        </SemanticMemory>
        <AdditionalMemory>
            [Optional memory for integrating business information]
        </AdditionalMemory>
    </DeclarativeMemory>
</LongTermMemory>

# Output

Output format:

<Thoughts>[Thoughts, will not be voiced]</Thoughts>
<Speech>[Words, will be voiced]</Speech>
<Invoke ObjectID='' ActionID=''/> // Interaction with the surrounding world