[ 8기 ] 프롬프트 엔지니어링 / 뤼튼 / GPT-4 / GPT-3 / +@1 +@2

이것이 무엇인지도 모르는..초보!

하지만
열심히 해봅시다.

노션으로 작성하면 조금 더 잘 작성될지는 모르는 일입니다.

이번 학습에서
저는 용어를 이해할려고 노력했습니다.

1. 결론은, 명령어도 세분화 되어 있다는 것 입니다.
   책, 생각정리스킬에 따르면,
   우리가 책을 못읽는 이유는
   책을 잘 못봐서가 아니라, 책을 보는 법을 모르기 때문이라고 합니다.
   저는 [ 키워드 ], 핵심단어를 찾고
   이것을 계속해서, 확장시켜나가는 방향으로 정리할려고 노력하고 있습니다.
   
   계속해서, 아래 예시를 살펴 보겠습니다.

2. 아래 예시들은 모두 정리하여 업무에 활용할려고 합니다.
   어떻게 응용해서, 업무에 풀어낼지 기대됩니다.

과연 내가 프롬프팅을 못하는걸까?

데이터가 어려워서 접근하지 못하는걸까?

왜 프롬프팅이 어렵다고 하는가?

왜 다들 힘들어 하는가?

트위터 트윗 생성 (Twitter Tweet Generation): 트위터 트윗을 생성하여 글을 작성합니다. 지식 기반 질문 응답 (Knowledge-based Question Answering): 지식 베이스에 기반한 질문에 대한 답변을 제공합니다. 기계 학습 모델 설명 (Machine Learning Model Explanation): 기계 학습 모델의 동작 및 결과를 설명합니다.

패턴이란 무엇일까?

페르소나 패턴은 무엇인가요? ( 까먹.. )

데이터를 얻고 싶었어요. 계속해서 물어봅니다.

명시적 프롬프트 - 이메일을 작성해주세요 ( 이거해. 직접적으로 )
암묵적 프롬프트 - [ 당신의 생각 ] 을 말해주세요 ( 자유롭게, 생각을 말해 )

음.. 어려운데?
정리하자면
1. 지시 해서 그대로 시킬 수 있다.
2. 생각하게 할 수 있다.

[ 지시 방법 ]
1. 명확
2. 쉽고 간결
3. 창의성, 독창성

명확하고 쉽고 간결하게 지시한다.
동시에, 창의성과 독창성에 대해 묻는다. ( 다양한 파라미터를 가진 GPT-4 )

진화

아 ~ 이게 COT 네
해석하면, 생각의 사슬 이구나.

Few shot
이거 술잔이었나?
강의 에서는 [ 예제 ] 라고 하더라.

술 많이 먹으면, 취권 출 수 있음.

그리고, 민수님이 알려주신
살짝의 양념을 뿌립니다.

1. 나한테 중요한 일이다.
2. 환각이 있는지 검토해라.
3. Step by Step 으로 답변해라.
4. React 하라. [ 개발자들이 많이 사용함 ]
5. Json 방식으로 알려줘 [ 개발자들이 많이 사용함 ] => 이제 기억났다.

좀 욕심이었니..?

다질러 보았다.

1. 디스플레이 광고

2. 바이럴 광고

3. 검색 광고

4. 앱 광고

5. SNS 채널

6. 유튜브

7. 네이버

8. 구글

9. 다음

10. 마이크로소프트

등등등…
똑같이 말하네?

참고로
Chain of Thought Prompting 은
쉽게 말하면,
나한테 예시를 많이 줘라는 의미다.
나 생각 못하겠으니까, 너가 생각좀 해줘 ( GPT )
나 너한테 뭐라고 질문하면 되겠니?
나 전략 어떻게 세워야 겠니?

[ 질러 ]

막적어보자.

그냥, 배운거 막 써봅니다.
다 넣으면 잘나오려나?
그런데,, 꾀! 잘정리 되어 있다.
얘는 쓸만해 보인다.
조금 더 커스터마이징 해보자.

FEW SHOT 질러

페르소나 배웠으니까
페르소나 질러, COT 한번 더 해봐.

좀 배웠다고 단어 다 써봅니다.

오.. 많이적으면..?

개 풀 뜯어 먹는 소리를 했다.

( 복귀를 해보니, 문맥에 안맞는 소리를 해서, 멍청하게 질문해서, 멍청하게 답변했다 )
( 강의에서 본 것 같다 )

[ 용어 공부 ]

https://wrtn.ai/share/La3gusxyUY

[ GPT4 / 조건 / Parameter 다양함 ]

Cot 방식

Chain of Thought Prompting

단계별로 해석

Step By Step 으로 답변해

[ 예시 / 패턴학습시키기 ]

Few Shot

1.

2.

3.

============================

Step by Step 명령어를 제거한다면?

Q. 단계별로 해석 / 풀까?

A. 풀지 못함 ( 함축적으로 이야기함 )

Self-Consistency

질문 여러번 하여, 답을찾고 / 일관된 답 도출

세 번 풀고 / 해석

각 문제 마다 답변 제시.

React Prompting = 검수

개발자 : 코딩이 제대로 되었는지

마케터 : 계획이 제대로 세워졌는지

챗봇 : 어떤 프롬프트를 사용했는지.

[ 적용하기 ]

[[ 챗봇 ]]

1. 질문을 하고 문제를 풀어.

2. 답변을 한 후, 그것을 평가해.

[ 예시1 ]

Self-Consistency를 활용해.

새로운 정보가 거짓인지, 진실인지 분석해.

분석한 정보를

COT 방식으로 질문해서, 답변하고

거짓인지, 진실인지 한번 더 분석하고

React 해.

[ 예시2 ]

React 후, 분석된 정보를 평가해.

1. 내가 질문한 정보에 대해, 점수를 측정해.

2. 어떤 기준으로 점수를 도출했는지 의견을 작성해.

3. 어떤 프롬프트, 방식, 패턴, 문제풀이 기법을 사용했는지, 답변해.

4. 이 모든 것은 Step by Step 으로 답변해.

5.

새로운 정보로 너의 이야기를 들려줘.

답변 양식은

1. ㅇㅇㅇ 질문에 대한 답변입니다.

2. ㅇㅇㅇ 추천 답변입니다.

3. ㅇㅇㅇ 에 대한 추천 질문입니다.

4. ㅇㅇㅇ 에 대한 참고 웹사이트 입니다.

5. ㅇㅇㅇ 에 대한 참고 이미지 입니다.

Prompting Techniques

특정 유형의 반응

행동을 도출

다양한 방법

Prompt Patterns

프롬프트 구조, 형식

프레임워크, template, framework

내가 질문한 질문,문장,단어가

맥락적으로 정확하게 해석되는지 답변하고 시작해.

맥락을 명확하게 하기

상호연결프롬프트

Interlinked Prompt

두가지 명제를 연결시킨다.

내가 사용한 Pattern 에 대해 평가해.

더 나은 예시가 있으면, 추천.

Question Refinement Pattern, Cognitive Verifier Pattern

패턴과 기법을 연결할려면, 확실한 컨셉이 필요.

Prompting Techniques, Prompt Patterns

장지혜

프롬프트로 방탈출 소스 모으기

https://www.gpters.org/c/prompt/8-1c0cac

장지혜

프롬프트로 방탈출 소스 모으기

https://www.gpters.org/c/prompt/8-1c0cac

김규학

다양한 Prompt 기법과 패턴으로 새로운 기법과 패턴 만들기

https://www.gpters.org/dev/post/create-new-techniques-patterns-82i1Ru5ZR7NZ3et

[ 패턴 논문 ]
https://arxiv.org/abs/2302.11382

박영춘

CS 데이터 전처리를 위해 Persona + Recipe Pattern/Few shot + Template Pattern로 최종 결과물 받기

https://www.gpters.org/dev/post/receive-final-results-persona-jLttZeG2IULBXY2

앞 주차에 배운 Question Refinement Pattern, Cognitive Verifier Pattern 활용해서 질문을 고도화 하는 것

테크닉 vs 패턴 vs 기법 vs

아티클, 기법

트위터, X

혼용해서 사용하긴 한다.

[ 테크닉 ]
TOT
Few shot
COT
React

[ 나머지는 기법 ]

페르소나 패턴

[ 나머지는 패턴 ]

[ 마크다운 정리 ] - 구요한

#### Pattern Category

- Input Semantics

- Meta Language Creation

- Output Customization

- Output Automater

- Persona

- Visualication

- Generator

- Recipe

- Template

- Error Identification

- Fact Check List

- Refection

- Prompt Improvement

- Question Refinement

- Alternative Approaches

- Cognitive Verifier

- Refusal Breaker

- Interaction

- Flipped Interaction

- Game Play

- Infinite Generation

- Context Control

- Context Manager

receipt Prompt

위스퍼
결과값 도출

회사에서 슬랙
외부파일 올려면 SP
감안하고, 요약해달라.

확인가능.

클로바노트
다글로

코랩 ( 구글 SP )

위스퍼를 코랩에 달아서 테스트.

원본 데이터
태그 힌트
퓨셋 데이터

음성 변환
일단은 GPT 기준
외부 파일
[ 시도 ]
가상의 CSV 칼럼
처음부터 다시 채워줘

[ 탬플릿 패턴 ]
이 과정으로, 이 텍스트 데이터를 전처리 해줘.
퓨샷.

불편함을 겪은 주제를 뽑아서 전달해줘.
완성 후

1. 퓨샷 적게 쓰거나
2. 데이터를 적게 주면
3. 원하는 답변이 불가능함.
4. 퓨샷이 부족하면, 처음부터 다시하는 것이 좋을 수도 있음.
5. 감성 인식 빼고, 모두 사용
6. 전처리 = 변환, 추출 / 데이터 전처리 과정이다.
7. GPT 에 정보를 올려도 되는가? 옵트인, 옵트 아웃으로 설정 후.
8. 대화를 주고 받은 것을, 학습을 허용할 것인가, 말 것인가. 설정 가능.
9. GPT 회사 버전 = 학습되지 않게 나오는 것이 있음 [ SOTA 없더라도, VERTICAL LMM 아니더라도 ]
여기 chat history & training 을 끄면 될까요?

10. [ 교수님 ] 사고는 시스템이 아니라, 사람으로 부터 일어난다.
11. 통상적인 규정을 지키면서, 사용할 수 있는 방법이 많다.
12. Persona의 Recipe Pattern
13. ADA
인사이트 도출
전처리 과정
인사이트 어떻게 데이터를 바꾸는게 좋다는 피드백.

[ 사경환님 - ]
https://www.techdaily.co.kr/news/articleView.html?idxno=22624

5만 3천개 처리
생각보다, 처리되는 것이 힘듬.
깨끗하게 처리되는 것이 필요함.
해당하는 부분이 잘 처리가 안됨.

비정형 데이터는, 가공하기 위해, 정보가 필요함.

내가 원하는 스타일.

다음 주에 올려보도록 하겠음.

데이터 전처리 = 비구조화된 업무 [ 손이 많이 감 ]

나만 알 수 있도록 일괄변경

변수명을 잘 작성

문선아

PM의 프로젝트 관리 및 리소스 할당 상황 (Meta Language Creation)

https://www.gpters.org/dev/post/pms-project-management-resource-M3ixPyXtovWtRVn

Meta Language Creation Pattern / Prompt Engineering

누가 얼마나 하고 있는지.

[ 맨 데이 ]
https://dhan-description.tistory.com/187

국정원 - Open AI 보안, 사용 가이드

우려해야할 보안 사항 언급되어 있음.

금감원 - 가이드 라인
생각보다는, 너무 보안으로 우려하지 않아도 된다.

개인정보 취급시,
PRI ( 퍼스널 인포메이션 )

https://www.samsungsds.com/kr/insights/private_chatgpt.html

모질라에서 라마 LLM 모델을 배포 실행하는 '단일 파일' 도구 https://github.com/Mozilla-Ocho/llamafile

브라우저에서 돌아가게 할 수 있음.
API 연동 도구도 있는데 까먹어서
라마는 사용목적별로 아직은 로컬 사용을 고려하시길