본문 바로가기
Build in Public

AI가 중요한 걸 못 기억하는 이유는 “점수”가 없기 때문이다

by H . Sol 2026. 4. 8.

AI를 쓰다 보면 이런 경험을 한다.

“왜 중요한 건 기억 못하고, 쓸데없는 건 계속 나오지?”


문제는 RAG가 아니었다

이전 글에서 말한 것처럼
👉 [RAG로는 왜 AI가 “기억”하지 못할까?]

RAG는 기억이 아니다

👉 검색이다


실제로 발생하는 문제

RAG를 쓰면 이런 일이 생긴다.

  • 중요한 정보가 묻힌다
  • 덜 중요한 정보가 튀어나온다
  • 맥락이 계속 끊긴다

왜 이런 일이 생길까?

핵심은 이거다.

👉 “선별”이 없다


RAG는

  • 저장한다
  • 비슷한 걸 찾는다
  • 꺼낸다

👉 끝이다


사람은 다르게 기억한다

사람은 이렇게 기억한다.

  • 중요한 건 오래 남는다
  • 자주 쓰는 건 더 잘 떠오른다
  • 오래된 건 흐려진다

AI는?

👉 모든 정보를 동일하게 취급한다


그래서 문제가 생긴다.

  • 중요한 것과
  • 중요하지 않은 것

👉 구분이 안 된다


방향을 바꿨다

질문을 이렇게 바꿨다.

❌ 어떻게 더 많이 저장할까
⭕ 어떻게 더 잘 남길까


해결 방법

👉 기억에 점수를 붙인다


핵심 구조

  1. 중요도
  2. 사용도
  3. 최근성
  4. 안정성

이걸 적용하면

👉 기억의 우선순위가 생긴다


변화 (Before vs After)

❌ 기존 AI
→ 모든 정보 동일

⭕ 기억 시스템
→ 중요한 정보는 위로
→ 덜 중요한 정보는 아래로


핵심 변화

👉 기억이 정렬된다

그리고 더 중요한 건

👉 시간이 지나면 점수가 변한다


기억은 고정이 아니라

👉 “상태”다


한 줄 결론

AI는 기억을 못하는 게 아니라

👉 기억의 우선순위가 없다


나는 지금

👉 기억에 “점수”를 붙이는 시스템을 만들고 있다


다음 글

왜 “관계”가 없으면 AI는 절대 기억 못하는지 설명한다


이 구조는 이전 글에서 설명한 것처럼
👉 [RAG의 한계를 넘어가기 위한 방식이다]


이걸 실제로 어떻게 쓰는지는
AI 사업 실험실에서 계속 공개 할 예정이다