AI 캐릭터가 앞의 대화를 잊는 이유와 대처법

AI 캐릭터가 앞의 대화를 잊는 건 대체로 버그가 아니라 구조입니다. 모델은 매 턴 '최근 대화 일부'만 다시 읽고 답하기 때문에, 그 창을 벗어난 옛 내용은 따로 저장해 두지 않으면 사라집니다. 그래서 서비스가 요약이나 장기 기억을 어떻게 만드는지가 체감 차이를 만듭니다. 이용자 입장에서는 중요한 설정을 한 번에 몰아 말하지 말고, 대화 중간에 자연스럽게 다시 언급해 주는 것이 가장 확실합니다.

왜 잊어버리나

캐릭터가 앞의 대화를 잊는 것은 대부분 고장이 아닙니다. 대화를 만드는 언어 모델은 사람처럼 기억을 쌓아 두지 않습니다. 매 턴마다 지금까지 대화 중 일부를 다시 읽고, 그걸 근거로 다음 답을 만듭니다. 이 “다시 읽는 범위”에는 한계가 있어서, 대화가 길어지면 오래된 내용부터 범위 밖으로 밀려납니다.

그래서 대화 스무 번쯤 전에 한 번 스치듯 말한 설정은, 서비스가 따로 저장해 두지 않는 한 사라집니다. 캐릭터가 갑자기 내 이름을 다시 묻거나, 이미 정한 관계를 처음처럼 대하는 건 대개 이 때문입니다.

서비스가 기억을 만드는 방식

범위 한계는 모든 서비스가 똑같이 안고 있습니다. 차이는 그 바깥을 어떻게 메우느냐에서 생깁니다. 흔히 쓰이는 방법은 셋입니다.

• 요약을 만들어 함께 넣는다 — 지난 대화를 짧게 압축해 매 턴 같이 보냅니다. 값이 싸지만 요약에서 빠진 세부는 그대로 사라집니다.
• 중요한 사실만 따로 저장한다 — 이름, 관계, 약속처럼 계속 쓰이는 정보를 별도로 기록해 두고 필요할 때 꺼냅니다. 무엇을 ‘중요’로 볼지가 품질을 가릅니다.
• 장면 단위로 기록한다 — 어디서 무슨 일이 있었는지를 장면 카드처럼 남겨 두고, 관련 있는 화제가 나오면 그 장면을 다시 꺼냅니다. 나중에 “그때 그 얘기”가 가능해집니다.

이용자가 할 수 있는 것

서비스를 바꾸지 않고도 체감을 꽤 올릴 수 있습니다.

1. 중요한 설정은 한 번에 몰아 넣지 않는다. 긴 설정문을 처음에 통째로 붙여 넣으면 범위를 빠르게 벗어납니다. 짧게 나눠, 대화 중간중간 다시 언급하는 편이 오래 남습니다.
2. 페르소나 기능이 있으면 거기에 적는다. 이름이나 관계처럼 늘 유지돼야 하는 정보는 대화 본문이 아니라 설정 항목에 넣어야 매 턴 따라옵니다.
3. 잊었을 때는 지적보다 자연스러운 복기가 낫다. “아까 말했잖아”보다 “지난번에 내가 야근한다고 했던 그날 말인데”처럼 사실을 다시 실어 주면 대화 흐름을 깨지 않고 복구됩니다.
4. 장면이 크게 바뀌면 새 대화를 고려한다. 설정이 많이 어긋난 채로 길게 끌면 이후 답변도 계속 어긋납니다.

로벨은 어떻게 하고 있나

로벨은 위 세 가지를 함께 씁니다. 최근 대화는 그대로 참고하고, 그 바깥은 요약으로 압축합니다. 대화 중 등장한 인물 이름은 요약과 별개로 따로 붙잡아 두어 온보딩에 묻힌 이름도 살아남게 합니다. 장면은 기억 카드로 남겨 두었다가 관련 화제가 나오면 다시 꺼내 씁니다.

대화 자체는 계정에 저장되므로 앱을 껐다 켜거나 다른 기기에서 로그인해도 이어집니다. 관계 단계도 누적돼서, 대화가 쌓이면 캐릭터가 나를 대하는 태도가 달라집니다.

다만 완벽하지는 않습니다. 아주 긴 대화에서 세부까지 전부 유지되는 서비스는 현재 없습니다. 중요한 설정은 가끔 다시 언급해 주는 편이 어느 서비스에서든 안전합니다.