Obsidian Cannoli 플러그인으로 여러 LLM 모델 쉽게 비교하는 방법

최근 ChatGPT, Claude, Gemini 등 다양한 LLM 모델들이 등장하면서, LLM 모델 비교 방법이 점점 중요해지고 있습니다. 회사 프로젝트에서도 동일한 프롬프트로 여러 모델의 출력을 비교해야 했고, 이 과정을 효율화할 방법을 찾던 중 Obsidian Cannoli 플러그인을 발견했습니다.

Cannoli는 코드 작성 없이 AI 기반 워크플로우를 만들고 실행할 수 있게 해주는 Obsidian 플러그인 입니다. 이번 글에서는 Obsidian 플러그인 추천 목록에도 올릴 수 있을 만큼 유용한 Obsidian Cannoli 플러그인을 활용해 여러 LLM 모델을 한눈에 비교하는 방법을 소개합니다.

Cannoli 플러그인 소개: Obsidian을 위한 시각적 LLM 워크플로우 도구

Obsidian Cannoli 플러그인은 Obsidian Canvas 편집기를 기반으로 작동하며, 카드와 화살표를 이용해 AI 워크플로우를 시각적으로 설계할 수 있습니다.

특히, Obsidian Cannoli 플러그인을 사용하면 코딩 지식이 없는 사람도 복잡한 LLM 워크플로우를 쉽고 빠르게 구축할 수 있습니다.

주요 특징

  • 코딩 없이 AI 워크플로우 구축: 드래그 앤 드롭으로 손쉽게 구성

  • 다양한 LLM 모델 지원: OpenAI, Anthropic, Gemini, Groq, 로컬 LLM(Ollama)까지 호환

  • 시각적 로직 설계: 변수, 루프, 조건 분기 등을 Canvas 상에서 구현

  • 직관적인 Canvas 인터페이스: 마인드맵 스타일로 복잡한 흐름도 표현 가능

Cannoli를 사용하면 프로그래밍 없이도 강력한 LLM 워크플로우를 손쉽게 구성할 수 있습니다.

GitHub - DeabLabs/cannoli: Cannoli allows you to build and run no-code LLM scripts using the Obsidian Canvas editor.

Deallabs -Cannoli

Obsidian Cannoli 플러그인 설치 방법

Obsidian 플러그인 추천 드리는 Cannoli는 설치도 매우 간단합니다:

  1. Obsidian을 열고 설정(Settings)커뮤니티 플러그인(Community plugins) 으로 이동합니다.

  2. 찾아보기(Browse) 를 클릭하고 “Cannoli”를 검색합니다.

  3. Cannoli 플러그인을 설치하고 활성화합니다.

설치 후 Obsidian Cannoli 플러그인은 Obsidian 사이드바에 전용 아이콘을 추가하며, Canvas 파일 내에서 즉시 사용할 수 있습니다.

우분투 우분투 우분투 우분투 우불 스크린 샷

Cannoli로 여러 LLM 모델 비교하기

이제 실제로 Cannoli로 여러 LLM 테스트하기 방법을 소개합니다. 회사 프로젝트 내용은 비공개이지만, 예시로 한복을 만드는 친구를 위해 테스트했던 SNS 글 생성 프롬프트를 사용했습니다.

기본 Canvas 설정

  1. 새 Canvas 파일을 생성합니다.

  2. 하나의 카드에 프롬프트를 입력합니다.

  3. Claude, GPT-4, Gemini, 로컬 LLM 등 다양한 모델 노드를 추가합니다.

  4. 프롬프트 카드에서 각 모델 카드로 화살표를 연결합니다.

  5. 각 모델별 temperature 같은 매개변수를 세팅합니다.

이렇게 설정하면 하나의 프롬프트에 대해 여러 LLM 응답을 동시에 비교할 수 있습니다.

시스템의 다른 부분을 보여주는 다이어그램

Obsidian Canvas에서 LLM 테스트 결과 보기

Canvas에서 워크플로우를 실행하면, 각 모델의 응답이 카드 형태로 시각적으로 표시됩니다.

  • Claude, GPT-4, Gemini 등은 동일한 프롬프트에도 각기 다른 스타일과 톤의 답변을 제공합니다.

  • 이를 통해 LLM 모델 비교 방법을 더욱 직관적으로 경험할 수 있습니다.

Obsidian Cannoli 플러그인을 활용하면 최적의 모델을 빠르게 선별할 수 있습니다.

Cannoli를 활용한 다양한 프롬프트 테스트 방법

Cannoli는 단순한 LLM 비교를 넘어 다양한 프롬프트 테스트에도 유용합니다.

1. 프롬프트 변형 테스트

  • 동일 모델에 여러 버전의 프롬프트를 보내고 결과를 비교

  • 지시사항, 예시 추가, 출력 형식 변경 등을 쉽게 실험

2. 모델 및 매개변수 조정 테스트

  • 모델 및 Temperature 매개변수를 다르게 설정해 결과 차이 분석

3. 프롬프트 체인 구성

  • 다단계 프롬프트 체인을 통해 복잡한 작업을 순차적으로 처리

Cannoli를 활용한 LLM 워크플로우 예시

콘텐츠 제작 워크플로우

  • 아이디어 생성 → 구조화 → 초안 작성 → 개선까지 자동화

데이터 분석 워크플로우

  • 데이터 요약 → 인사이트 도출 → 시각화 제안

제품 개발 지원 워크플로우

  • 아이디어 브레인스토밍 → 기능 설계 → 사용자 시나리오 작성

결론: Obsidian Cannoli 플러그인으로 효율적인 LLM 모델 비교

아직 Obsidian Cannoli 플러그인의 모든 기능을 다 활용한 것은 아니지만, 기본적인 LLM 모델 비교나 프롬프트 테스트에는 이미 충분히 강력한 도구입니다.

특히, 여러 팀원이 협업하는 환경에서는 Obsidian Cannoli 플러그인을 통해 복잡한 테스트를 시각적으로 관리할 수 있어 생산성을 크게 향상시킬 수 있습니다.

Obsidian 사용자라면, 또는 다양한 LLM 모델 특성을 비교해보고 싶은 분이라면, Obsidian Cannoli 플러그인을 꼭 한 번 활용해보세요.

출처: https://aiandgamedev.com/ai/obsidian-cannoli-llm-comparison/

4
1개의 답글

👉 이 게시글도 읽어보세요