[AI 에이전트 엔지니어링] Ch6. 지식과 메모리

• 도구와 오케스트레이션만으로는 부족해서 과거에 일어난 일을 기억해야함
  • 지식: 외부 사실과 도메인 특화 정보 (주로 RAG)
  • 메모리: 에이전트 자신의 히스토리

 

메모리 기본 개념

• 컨텍스트 윈도우: 한 번의 호출에서 모델에 전달되는 모든 정보
• 롤링 컨텍스트 윈도우: FIFO 방식으로 오래된 컨텍스트 제거
  • 장점: 구현 쉬움, 복잡도 낮음
  • 단점: 중요 정보도 관련성 무관하게 밀려남

 

검색

• 키워드 기반 검색: BM25
  • 장점: 정확한 용어 매칭에는 탁월
  • 단점: 동의어나 개념적 연관성은 놓칠 수 있음
• 시맨틱 검색: Embedding (Word2Word, GloVe, BERT → LLM)
  • 개념적 관계 파악 가능
  • 벡터 스토어 구현

 

RAG

(1) 인덱싱: 문서 → 청크 분할 → 임베딩 → 벡터 DB 저장
(2) 검색: 사용자 쿼리와 관련된 청크를 벡터 스토어에서 검색
(3) 생성: 검색된 컨텍스트 + 질문을 모델에 전달 → 응답 생성 

 

GraphRAG

• 기존 RAG의 한계
  • 여러 문서에 흩어진 정보의 연결 어려움
  • 서사형 구조나 시간적 관계 처리 미흡
• GraphRAG
  • node - edge
  • entity 간 관계를 명시적으로 저장
  • 멀티홉 추론 & 관계 체이닝 지원
• 8단계 프로세스
  • 데이터 수집 → 데이터 전처리 → Entity 인식 → 관계 추출 →
    온톨로지 설계 → 그래프 채우기(node-edge)  → 통합/검증  → 유지보수

 

Dynamic GraphRAG

• 실시간 정보 반영

 

노트 작성 기법

• 일반: 컨텍스트 + 질문 → 바로 응답
• 노트작성: 컨텍스트 → 노트 생성  → 노트 + 콘텍스트 + 질문 → 응답