최근 에이전트 개발을 진행하며 고민 했던 부분을 메모로 간단하게 남겨 봅니다.
에이전트 개발의 핵심은 단순히 ‘만드는 기술’을 넘어, ‘무엇을 위해 존재하는가?’라는 본질적인 질문에서 시작해야 합니다. 특히 서비스 에이전트는 ‘사용자’와 ‘서비스’에 대한 깊은 이해가 선행되지 않으면 그 가치를 제대로 발휘하기 어렵습니다. 진정으로 의미 있는 에이전트를 만들기 위해서는 다음의 과정들을 끊임없이 순환하며 발전시켜 나가야 합니다.
1단계: 본질 파악
에이전트 개발에 앞서, 우리는 서비스의 존재 이유와 목표를 명확히 해야 합니다. 이는 에이전트가 나아갈 방향을 설정하는 나침반과 같습니다.
- 서비스의 존재 이유: 이 서비스는 근본적으로 사용자에게 어떤 가치를 제공하기 위해 존재하는가?
- 핵심 성과 지표(KPI): 에이전트의 성공을 어떻게 측정할 것인가? 단순히 반복적인 작업을 돕는 것인가, 아니면 구매 전환율이나 고객 만족도 향상과 같은 구체적인 비즈니스 목표 달성인가?
- 사용자 행동 패턴: 사용자는 서비스를 어떻게 이용하며, 어떤 경로를 통해 의사결정을 내리는가?
이러한 질문에 대한 답이 불명확하다면, 실제 서비스 로그 데이터를 분석하여 사용자의 목소리에 귀를 기울이는 것이 무엇보다 중요합니다.
2단계: 데이터를 통한 ‘지식’과 ‘기억’ 구축
에이전트가 똑똑하게 행동하기 위해서는 잘 정제된 데이터, 즉 ‘지식’과 ‘기억’이 필요합니다. 이는 흩어진 원시 데이터를 가치 있는 정보로 변환하는 과정입니다.
- 데이터 소스 연결: 서비스 내부에 흩어져 있는 다양한 데이터 소스를 하나로 통합합니다.
- 의미 관계 구축: 연결된 데이터 간의 관계를 파악하여 의미 있는 구조로 엮습니다.
- 데이터 명확화: 명확한 데이터는 자연어나 특정 단어로 치환하여 에이전트가 쉽게 이해할 수 있도록 합니다.
- LLM 기반 추론 보강: 명시적으로 드러나지 않는 관계나 사용자의 숨은 의도는 LLM의 추론 능력을 활용하여 보강합니다.
- ‘지식’으로 가공: 방대한 원시 데이터를 에이전트가 즉시 활용할 수 있는 ‘지식 체계’로 구축합니다.
이 과정에서 ‘개인화’는 필수적입니다. ‘에이전트’라는 용어 자체가 개인 비서를 의미하듯, 각 사용자에게 최적화된 경험을 제공하는 것을 목표로 해야 합니다.
3단계: 태스크(Task) 정의와 플로우(Flow) 디자인
앞선 단계를 통해 서비스와 사용자에 대한 깊은 이해를 갖추었다면, 이제 에이전트가 수행할 구체적인 ‘태스크’를 정의하고 그 실행 과정인 ‘플로우’를 디자인해야 합니다.
- 태스크 정의: 에이전트가 사용자를 위해 해결해야 할 구체적인 과업은 무엇인가?
- 플로우 디자인: 정의된 태스크를 어떤 순서와 방식으로 처리할 것인가?
4단계: 지속적인 평가와 개선의 순환 구조
에이전트 개발은 한 번에 끝나는 프로젝트가 아닙니다. AI 시스템의 성능과 효용성은 지속적인 평가와 개선을 통해 향상됩니다. 결론적으로, 에이전트를 만드는 과정은 [본질파악 → 데이터/로그 기반 지식 정의 → 태스크 고도화]의 사이클을 끊임없이 반복하는 것입니다. 이는 서비스를 만드는 과정과 본질적으로 같으며, 특히 서비스 데이터를 잘 가공하여 적시에 모델 컨텍스트에 제공하고, 그 결과를 평가하고 모니터링하는 부분이 에이전트의 성능에 가장 큰 영향을 미칠 거라 생각합니다. 이 부분이 누구나 가질 수 있는 AI API를 사용하지만 결국 결과적으로 큰 차별화를 할 수 있는 부분이라 생각합니다.
끝!
