RisuAI 사용 시 대화한 내역이
최대 콘텍스트보다 많으면
AI가 이전에 대화한 내용을 까먹게 되는데
최대 콘텍스트를
계속 늘리는 식으로 대처하면
비용이 무한하게 증가하기 때문에
중요한 내용을 따로 기억해두는
수파메모리를 사용해줘야 하는데
먼저 메뉴에서 설정으로 들어온 후
채팅 봇 탭에서 모델을 누르고 보조 모델을
GPT-3.5 Turbo Instruct로 설정해주자
여기서 옛날 모델인
3.5 Turbo를 사용하는 이유는
검열에 걸리지 않기 때문이다
이후 기타 봇 탭에서 장기기억을 누르고
타입을 수파메모리로 고른 뒤
수파메모리 모델은 보조 모델로 고르고
최대 수파메모리 청크 크기는
기본 크기에서 사용하다가
AI가 기억을 잘 못하는 것 같으면
2배씩 늘려주며 사용해주면 되겠다
이후 수파메모리 Prompt는
<End> *** <Instructions> - The above is a partial history of what had happened in the past. Write a brief overview of the key events that had occurred in natural sentences. - If it contains Korean characters, translate them to English before proceeding. - If you can find any clue, include the date and temporal indicators. - Only use information that is explicitly mentioned in the text. - Maintain an objective perspective, avoiding explanations or interpretations. - Make sure your output is written in the past tense. -
위 내용을 복사한 뒤 붙여 넣어주고
채팅 시에는 왼쪽 하단의
수파메모리 토글을 눌러주고 대화를 하면
주기적으로 대화 내용을 수파메모리에 저장하는데
해당 부분을 확인하려면
캐릭터 > 고급 설정 탭으로 들어와
하단으로 쭉 내려오면
수파메모리에서
지금까지 대화 내용을 요약해서
장기 기억 효과를 주게 된다
다만 한번 채팅 후
수파메모리에 대화 내용이 없다고 해도
딱히 걱정할 것은 없는데
대화 내용이 길어지면
자동적으로 수파메모리를
계속 사용하기 때문이다
Leave a Reply
이메일은 알림 용도로만 사용됩니다.