TIL_3_ AI 프롬프트 기초

 

1.프롬프트란?

LLM(Large Language Model)에게 일을 시키도록 입력하는 모든 문장.

(chatGPT, 재미나이에 물어보는 모든 질문(=명령문) 포함)

 

★프롬프트는 LLM의 정체성이나, 주요 임무, 사용자 설정을 하기 위해서 사용한다

 

 

 

프롬프트의 요소

- 지시 ( Instruction ) -> LLM이 수행해야 하는 명령

- 입력 값 ( Input Data ) -> LLM이 받아 들일 값, 그림, 글 등등

- 문맥 ( Context ) -> 추가적인 정보, 어조, 말투

- 출력 지시자 ( Output Indicator) -> 출력 틀, 양식

- 예시 ( Example ) -> 사용자가 원하는 추가적인 예시

 

프롬프트 요소 <> 매개변수 요소

 

- 자유도( temperature ) -> LLM의 답변 자유도를 설정하는 값

!! 자유도가 너무 높으면 환각이 발생할 수 있음

자유도가 너무 낮으면 추론 능력이 낮아질 수 있음 !!

 

- 최대 토큰( token ) 수 -> LLM이 소화할 수 있는 최대 토큰 수

*토큰: 문장을 자르는 기준

LLM의 용량이 클 수록 토근 수를 늘릴 수 있음

( 위 매개 변수들 말고도 더 많음 )

 

 

토큰 수를 제한해줘야 함.(리소스 측면에서 차지하는 부분이 많기 때문)

ㄴ>너무 낮게 맞추면 , 얘가 소화하고 답변할 수 있는 문장의 길이가 짧아짐

 

하드웨어가 충분하면, 토큰수가 이왕이면 큰 게 좋다.

 

한글은 200글자 ~250 내외 = 300토큰

영어는 200 ~220 내외 = 300토큰

 

 

 

프롬프트 조정하는 활동 = Prompt Engineering

<<상황에 따라>> 다양하게 적용할 수 있는 프롬프트 엔지니어링 기법

 

 

 

2. 프롬프트 기법 종류

• Zero-Shot Prompting

모델에 예시 없이 원하는 작업을 지시하여, 사전 학습된 일반적인 지식만으로 문제를 해결하는 방법

 

ex)

예시 1

Prompt

"고양이와 개의 차이를 한 문장으로 설명해라"

 

LLM의 예상 출력

"고양이는 독립적이고 유연하며, 개는 사람과의 상호작용을 선호하고,

충성심이 강하다"

 

 

예시 2

Prompt

" 이 문장을 영어로 번역하라: "나는 오늘도 공부한다."

 

예상출력

"I study again today."

 

• 0열 선택0열 다음에 열 추가
• 1열 선택1열 다음에 열 추가

• 0행 선택0행 다음에 행 추가
• 1행 선택1행 다음에 행 추가

셀 전체 선택

열 너비 조절

행 높이 조절

장점	단점
별도의 학습을 수행하지 않고, 지시문만 명료하게 작성하면 되므로 사용자 입장에서 직관적이고, 간편함	LLM의 기존의 학습된 내용에 오로지 의존해야함.

• 셀 병합
• 행 분할
• 열 분할
• 너비 맞춤
• 삭제

 

 

 

 

 

 

• Few-Shot Prompting

프롬프트 내에 소수의 관련 예시를 포함시켜서 AI 모델의 성능을 향상시키는 프롬프트 엔지니어링 기법 ( 정보를 약간 줌)

 

상황 1 )

예시 1:

입력: 고양이

출력: 고양이는 독립적이며 조용한 동물입니다

 

예시 2:

입력: 개

출력: 개는 사람을 잘 따르고 활발한 동물입니다

 

예시 3:

입력 : 토끼

출력:

 

▶ LLM이 예시 1과 예시 2를 보고 패턴을 인식하여, 예시 3의 출력을 채움

 

 

상황 2 )

예시 1

원문: 오늘 기분이 좋다.

요약: 기분 좋은 하루.

 

예시 2

원문: 점심에 친구와 파스타를 먹었다.

요약: 친구와 점심 파스타

 

예시 3

원문: 내일 시험이라 걱정된다.

요약

 

▶ LLM이 예시 1과 예시 2를 보고 패턴을 인식하여, 예시 3의 출력을 채움

 

• 0열 선택0열 다음에 열 추가
• 1열 선택1열 다음에 열 추가

• 0행 선택0행 다음에 행 추가
• 1행 선택1행 다음에 행 추가

셀 전체 선택

열 너비 조절

행 높이 조절

장점	단점
예시를 포함하여 다음 출력 결과를 예상할 수 있음	예시가 명확해야하며, 정확한 답변을 원할 수록 더 많은 예시와 예외처리가 필요함

• 셀 병합
• 행 분할
• 열 분할
• 너비 맞춤
• 삭제

>> 단점은 작성자 입장에서 더 많은 예시를 넣어준다는 것과 예외 처리가 필요하다는 것이 프롬프트 내용이 좀 길어지기 때문에 번거롭다

 

 

 

 

 

 

• Chain - of - Thought Prompting(생각의 사슬)

복잡한 문제를 해결할 때, 정답을 바로 제시하는 대신 사고 과정을 단계별로 거쳐 추론하도록 유도하는 방식

 

상황 1

Prompt

" 문제를 단계별로 자세한 사고 과정을 써서 풀어라.

문제: 한 상자에 연필이 12자루 들어 있다. 이러한 상자 7개에는 연필이 몇 자루 있는가? "

 

예상출력

┌

먼저 상자 1개에는 연필 12자루가 들어 있다.

상자가 7개이므로 12 x 7을 계산해야 한다.

12 x 7 = ( 10 x 7 ) + ( 2 x 7 ) = 70 + 14 = 84

따라서 연필은 총 84자루이다.

┘

• 0열 선택0열 다음에 열 추가
• 1열 선택1열 다음에 열 추가

• 0행 선택0행 다음에 행 추가
• 1행 선택1행 다음에 행 추가

셀 전체 선택

열 너비 조절

행 높이 조절

장점	단점
LLM이 추론해 나가는 과정을 볼 수 있어서 만약 잘못 추론한 부분이 있으면 피드백하기 쉬움	필요없는 내용까지 방대해질 수 있으며 답변을 후처리 가공이 필요할 수 있음

• 셀 병합
• 행 분할
• 열 분할
• 너비 맞춤
• 삭제

>>단점은 TMI일 수 있음..

 

 

 

상황 2

Prompt

" 다음 질문에 대해 생각의 흐름을 단계별로 적은 후 결론을 말하라

질문: 왜 일찍 자는 것이 건강에 좋은가? "

 

예상출력

┌

일찍 자면 수면 시간이 충분하게 확보된다.

수면은 신체 회복과 면역력 강화에 필요하다.

또한 일정한 수면 리듬은 호르몬 분비를 정상화한다.

따라서 일찍 자는 것은 신체 회복과 건강 유지에 도움이 된다.

 

 

결론도 원하지만, 왜 그런 결론이 도달하게 되었는가를 알고싶을때 사용

 

 

 

 

 

 

• Tree of Thoughts ( 생각의 나무 )

복잡한 문제의 해결과정을 나무처럼 여러 가지 가능성을 탐색하고 최적의 경로를 찾는 방식 (n개의 방법을 찾아줌)

 

Prompt

"다음 문제를 Tree of Thoughts 방식으로 해결하라.

각 단계에서 최소 3가지 대안을 생성하고, 각 대안을 간단히 평가한 뒤 가장 적절한 경로를 선택해 최종 답을 도출하라.

 

문제: 직장 동료와 갈등이 생겼을 때 해결할 수 있는 가장 효과적인 방법은 무엇인가?"

예상출력

 

1단계

a 상황일 경우 ~ 결과가 나올 수 있다

b 상황일 경우 ~ 결과가 나올 수 있다

c 상황일 경우 ~ 결과가 나올 수 있다

 

2단계: 가장 유효한 거 선택

 

3단계: 평가

 

최종결론: ~한 이유로 ~게 하는 것이 좋을 것이다

 

• 0열 선택0열 다음에 열 추가
• 1열 선택1열 다음에 열 추가

• 0행 선택0행 다음에 행 추가
• 1행 선택1행 다음에 행 추가

셀 전체 선택

열 너비 조절

행 높이 조절

장점	단점
여러 해결책을 구할 수 있음	어느 답이 제일 적절한지, 환각은 없는지 검증을 해야하거나, 검증이 어려움

• 셀 병합
• 행 분할
• 열 분할
• 너비 맞춤
• 삭제

>> 단점은 너무 많은 답을 검증을 해야할 수 있음

해결법 가지수를 제한하거나, 비용이 가장 적게 드는 방법과 시간을 가장 적게 드는 방법을 제안해줘라는 추가 프롬프트 쓰기

 

 

 

 

 

 

 

• Structured prompting ( 구조화 지시 )

구조를 갖춰서 절차지향적으로 프롬프트를 작성하는 방법

현업에서 가장 많이 활용 -> 기계가 이해하기 가장 쉬움

 

 

Prompt

다음 질문에 반드시 Json형태로만 답하라.

 

질문: 커피의 장점을 두가지 말하라

출력 형식

{

"benefits" : [

"문장1",

"문장2"

]

}

 

 

예상출력

{

"benefits" : [

"집중력을 높여 준다",

"피로를 일시적으로 감소시킨다"

]

}

 

 

*Json 형식이란?

key랑 Value로 되어 있는 형태

 

 

 

 

상황2

다음 글을 아래 구조에 맞춰 요약하라

[요약]

-핵심 문장:

-주요 포인트:

-결론:

 

글: ~~~~~~

 

• 0열 선택0열 다음에 열 추가
• 1열 선택1열 다음에 열 추가

• 0행 선택0행 다음에 행 추가
• 1행 선택1행 다음에 행 추가

셀 전체 선택

열 너비 조절

행 높이 조절

장점	단점
LLM이 절차를 수행하는데 가장 직관적인 방법	사람이 이해하는 초점을 두기 보다는 기계의 입장에서 프롬프트를 이해하도록 작성하는데 초점을 둬야 함

• 셀 병합
• 행 분할
• 열 분할
• 너비 맞춤
• 삭제

장점/ 단점을 알아야 하는 이유는

양날의 검을 알아야, 언제 적절하게 사용할 수 있고, 어떤 취약점을 있는지 알 수 있기 때문

 

 

 

 

 

 

• Generated Knowledge Prompting ( 지식 생성 )

응답 정확도와 추론 능력을 향상시키기 위한 프롬프트 엔지니어링 기법

 

prompt

"다음 질문에 답하기 저에 먼저 관련 배경지식을 3~5개 생성해라.

그 지식을 기반으로 최종 답을 작성하라.

 

질문: "왜 바다의 물은 짠가?"

 

 

 

예상출력

[생성된 지식]

1) 강물은 육지에서 다양한 미네랄을 녹여 바다로 흘러 들어간

2) 바다에서는 물이 증발하지만 소금과 미네랄은 남아 농도가 높아짐

3) 수백만 년 동안 이러한 과정이 반복되어 바다의 염도가 높아짐

 

[최종 답]

바다는 강물로부터 미네랄이 지속적으로 쌓이고 물은 증발하면서 소금만 남기 때문에 짜다.

 

 

>> 이 기법은 LLM이 추론하는 과정을 한 번 더 점검할 수 있도록 도와주는 기법 + 사용자가 퓨 샷 프롬프팅 정보도 조금 넣어줘

LLM이 학습을 하면서 답변을 할 수 있는 기법이다

 

 

• 0열 선택0열 다음에 열 추가
• 1열 선택1열 다음에 열 추가

• 0행 선택0행 다음에 행 추가
• 1행 선택1행 다음에 행 추가

셀 전체 선택

열 너비 조절

행 높이 조절

장점	단점
모델이 지식을 정리하고 사고 기반을 만들기 때문에 정확도와 추론력 향상에 도움	생성된 지식이 부정확할 경우 잘못된 정보를 기반으로 답이 더 크게 틀릴 위험

• 셀 병합
• 행 분할
• 열 분할
• 너비 맞춤
• 삭제