Agent Builder로 만든 챗봇 워크 플로우를 Dify로 구현해 보기

이번에는 OpenAI Agent Builder로 개발했던 아크 레이더스 챗봇을 Dify 플랫폼으로 재구현해보는 프로젝트를 진행했습니다.

시도 배경:

• 오픈소스 대안을 통한 유연성과 비용 효율성 확보

• 셀프호스팅 환경에서 AI 애플리케이션을 직접 운영해보고 싶었음

Dify는 코딩 없이 생성형 AI 애플리케이션을 쉽게 개발할 수 있는 오픈소스 플랫폼으로, 워크플로우 기반의 시각적 개발 환경을 제공합니다.

진행 방법

사용 도구

• 플랫폼: Dify (셀프호스팅)

• LLM 모델:

  • 메인: gpt-4.1-mini

  • 분류기: gpt-4.1-nano

• 임베딩: OpenAI text-embedding-3-large

• 리랭킹: Cohere rerank-multilingual-v3.0

1. 지식베이스 구성

Dify의 하이브리드 검색 기능을 활용하여 지식베이스를 구성했습니다:

• 임베딩 모델: text-embedding-3-large

• 검색 방식: 하이브리드 검색

  • 벡터 검색

  • 텍스트 검색

  • Rerank (Cohere rerank-multilingual-v3.0)
    

    

    

2. 워크플로우 구현

Agent Builder의 워크플로우를 Dify로 마이그레이션하면서 일부 변경사항을 적용했습니다:

주요 변경사항:

• 웹 검색: Agent 노드 내장 웹검색 → Tavily Search 로 대체

• 모델 최적화:

  • 분류기 작업: gpt-4.1 → gpt-4.1-nano (비용 절감)

  • 메인 응답: gpt-4.1 → gpt-4.1-mini (성능/비용 밸런스)

3. 배포 및 통합

Dify의 장점은 별도 배포 과정 없이 즉시 사용 가능하다는 점입니다:

• 기본 제공 기능:

  • 웹 챗봇 인터페이스

  • REST API 엔드포인트

  • MCP(Model Context Protocol) 서비스

  • 웹페이지 임베딩 위젯

• 선택적 커스텀 배포:

  • 원하는 경우 Vercel 등으로 사용자화 배포 가능

  • API를 통한 외부 애플리케이션 통합
    

    

    ALT

    Arc Builder 보조 앱의 스크린샷

    

결과와 배운 점

Agent Builder vs Dify 비교

앞으로의 계획

1. AgentKit 생태계 학습

   • Agent Builder보다는 OpenAI AgentKit 전반을 학습

2. Dify 활용 확대

   • 현재 다양하게 활용 중

   • 최근 추가된 트리거 기능(스케줄, 메신저)을 활용한 자동화 시스템 테스트