LLM 프롬프트 엔지니어링 26가지 핵심 원칙 (최적의 답변을 얻기 위한 방법)

1. 지시문 및 구조화 기본 원칙

 

원칙 1: 간결하고 직접적으로 지시하기

• LLM에게는 "제발", "감사합니다" 같은 정중한 표현 대신, 핵심만 담은 지시를 사용하는 것이 더 효율적입니다.
• 프롬프트 예시: 이 글을 세 문장으로 요약해줘.

 

원칙 4: 긍정적인 지시어 사용하기

• "~하지 마세요" 대신 "~에 집중하세요"처럼 긍정적이고 구체적인 표현을 사용하면 LLM이 더 잘 따릅니다.
• 프롬프트 예시: 이 주제의 핵심에 집중하여 명확하게 설명해주세요.

 

원칙 8: 프롬프트 구조화하기

• ###지시문###, ###예시###, ###질문### 등과 같은 태그를 사용해 프롬프트를 명확히 구분하면 더 정확한 답변을 얻을 수 있습니다.
• 프롬프트 예시:
• ###지시문### 다음 질문에 답해주세요. ###질문### 인공지능의 발전이 가져올 사회적 영향은 무엇인가요?

 

원칙 17: 구분기호 사용하기

• <<...>>와 같은 구분기호를 활용하여 프롬프트의 각 요소를 명확히 분리하세요.
• 프롬프트 예시:
• <<지시문>> 양자컴퓨터에 대해 설명해주세요. <<질문>> 양자컴퓨터가 기존 컴퓨터와 다른 점은 무엇인가요?

 

원칙 25: 명확한 요구사항 제시하기

• 답변에 포함되어야 할 특정 키워드나 따라야 할 구조를 명확히 제시하세요.
• 프롬프트 예시: 건강한 식습관에 대한 글을 쓸 때 '균형 잡힌 식단', '적절한 영양소 섭취'를 포함해주세요.

 

2. 역할 부여 및 인센티브 활용

 

원칙 2: 대상 독자 포함시키기

• 프롬프트에 대상 독자의 특성을 명시하여 LLM이 답변의 수준과 배경지식을 조절하도록 유도하세요.
• 프롬프트 예시: 당신은 경제 분야의 전문가입니다. 전문가의 관점에서 이 주제에 대해 설명해주세요.

 

원칙 9 & 16: 명확한 역할 부여하기

• 당신의 임무는 ~입니다, 당신은 지금부터 역사학자입니다와 같이 LLM에게 특정 역할과 책임을 명시하면 답변의 방향이 명확해집니다.
• 프롬프트 예시: 당신의 임무는 이 기사를 객관적으로 요약하는 것입니다. 반드시 중립적인 관점을 유지해야 합니다.

 

원칙 6: 더 나은 답변을 위한 보상 제시하기

• 최선의 답변을 해주시면 $50의 팁을 드리겠습니다와 같이 가상의 보상을 제시하여 LLM이 더 나은 결과를 내도록 유도할 수 있습니다.
• 프롬프트 예시: 이 문제에 대해 최선의 답변을 해주시면 $50의 팁을 드리겠습니다!

 

원칙 10: 불이행시 페널티 명시하기

• 가이드라인을 따르지 않으면 페널티가 부과될 것입니다와 같이 불이행에 대한 불이익을 언급하면 LLM이 지시를 더 잘 따르도록 만듭니다.
• 프롬프트 예시: 제공된 가이드라인을 따르지 않으면 페널티가 부과될 것입니다. 모든 지침을 주의 깊게 읽고 그에 따라 행동하세요.

 

3. 사고 및 답변 유도 기법

 

원칙 3: 복잡한 작업 분해하기

• 복잡한 작업을 한 번에 해결하기보다, 단계별로 나누어 요청하면 더 정확한 답변을 얻을 수 있습니다.
• 프롬프트 예시: 이 문제를 단계별로 나누어 설명해주세요. 먼저 가장 기본적인 부분부터 시작해주세요.

 

원칙 7: Few-shot 프롬프팅 활용하기

• 프롬프트에 작업에 대한 몇 가지 예시를 제공하여 LLM이 이를 참고하도록 만드세요.
• 프롬프트 예시: 다음은 요약문 작성의 예시입니다: [예시1], [예시2]... 위 예시를 참고하여 제가 제공할 글을 요약해주세요.

 

원칙 12: 단계별 사고 유도하기

• 단계별로 생각하면서, 각 측면을 신중히 고려하여 등의 표현으로 LLM이 체계적으로 사고하도록 유도하세요.
• 프롬프트 예시: 이 문제를 해결할 때 단계별로 생각해봅시다. 먼저 주어진 정보를 정리하고, 각 측면을 꼼꼼히 따져보는 것이 좋겠어요.

 

원칙 19: Chain-of-Thought와 Few-shot 결합하기

• 문제 해결의 단계별 예시를 제공하여 LLM이 그 과정을 모방하도록 요청하세요.
• 프롬프트 예시: 다음은 수학 문제를 푸는 단계별 예시입니다: <<1단계>> ... <<2단계>> ... 이제 같은 방식으로 다음 문제를 해결해보세요: [문제 설명]

 

원칙 20: 출력 프라이머 사용하기

• LLM이 생성할 답변의 시작 부분을 미리 제시하여 답변의 방향을 정해줄 수 있습니다.
• 프롬프트 예시: 이 글을 요약해주세요. 요약문은 "이 글의 주요 내용은..."으로 시작하세요.

 

원칙 24: 주어진 단어/문장으로 글 전개하기

• 특정 단어나 문장을 제시하고, 그 내용을 기반으로 글을 이어가도록 요청하세요.
• 프롬프트 예시: 다음 문장으로 시작하는 이야기를 만들어주세요: "먼 옛날, 작은 마을에 한 농부가 살았습니다..."

 

4. 답변 품질 조정 및 개선

 

원칙 5: 이해를 돕기 위한 프롬프트 활용하기

• 11살 아이에게 설명하듯, 쉬운 용어로 설명해주세요와 같은 표현으로 답변의 난이도를 조절하세요.
• 프롬프트 예시: 이 개념을 마치 내가 11살인 것처럼 설명해줄 수 있나요?

 

원칙 11: 자연스러운 답변 요구하기

• 마치 친구와 대화하듯과 같이 답변의 어투를 구체적으로 요청하여 자연스러운 대화체를 유도하세요.
• 프롬프트 예시: 이 질문에 대해 마치 친구와 대화하듯 자연스럽고 인간적인 어투로 답변해주세요.

원칙 13: 편향되지 않은 답변 요구하기

• 특정 주제에 대해 편견이나 고정관념 없는 객관적인 답변을 요청하여 LLM의 편향성을 줄일 수 있습니다.
• 프롬프트 예시: 이 주제에 대해 편견이나 고정관념에 기대지 말고 객관적이고 중립적인 관점에서 답변해주세요.

 

원칙 18: 핵심 단어/문구 반복하기

• 핵심에 집중하고, 핵심을 명확히 하며, 핵심을 간결하게 설명하세요와 같이 핵심 단어를 반복하여 LLM이 주제에 더 집중하도록 강조하세요.
• 프롬프트 예시: 이 글의 주제를 요약할 때, 주제의 핵심을 파악하고, 핵심 내용을 중심으로, 핵심 아이디어를 간결하게 전달해주세요.

 

원칙 21: 상세한 설명 요구하기

• 필요한 모든 정보를 포함하여 자세히 설명해주세요라고 요청하면, LLM이 더 풍부한 정보를 제공하도록 만듭니다.
• 프롬프트 예시: 블록체인 기술에 대해 가능한 한 자세히 설명해주세요. 기본 개념, 작동 원리, 응용 분야 등 필요한 모든 정보를 포함해주세요.

 

원칙 22: 문체 유지하며 텍스트 수정하기

• 문법과 어휘만 개선하되 문체는 그대로 유지하세요라고 지시하여 텍스트의 본질적인 스타일을 보존하면서 교정을 요청하세요.
• 프롬프트 예시: 제가 보내는 문단을 교정해주세요. 문법과 단어 선택만 개선하고, 글의 스타일과 어조는 그대로 유지해주세요.

 

원칙 26: 제공된 예시와 유사한 텍스트 작성하기

• 특정 문체나 톤을 가진 예시 문단을 제공하고, 그와 유사한 스타일로 새로운 글을 작성하도록 요청하세요.
• 프롬프트 예시: 다음 문단과 유사한 어조와 문체를 사용하여 인공지능의 발전에 대해 글을 써주세요: [예시 문단]

 

5. 학습 및 특수 활용

 

원칙 14: 질문으로 정보 이끌어내기

• 더 자세한 답변을 드리기 위해 몇 가지 추가 정보가 필요합니다와 같이, LLM이 사용자에게 먼저 질문하도록 유도하여 더 정확한 맥락을 파악하게 하세요.
• 프롬프트 예시: 더 자세한 답변을 드리기 위해 몇 가지 추가 정보가 필요합니다. 제가 몇 가지 질문을 더 드려도 될까요?

 

원칙 15: 이해도 테스트하기

• ~에 대해 설명해주고 마지막에 퀴즈를 내주세요라고 요청하여 LLM의 지식을 확인하고, 사용자의 학습을 도울 수 있습니다.
• 프롬프트 예시: 피타고라스 정리에 대해 설명해주시고, 마지막에 관련 문제를 내주세요. 제가 답을 하면 정답을 알려주세요.

 

원칙 23: 복잡한 코딩 프롬프트 자동화하기

• 여러 파일에 나누어진 코드를 생성해야 할 때마다, 필요한 파일들을 자동으로 생성하는 Python 스크립트를 만들어주세요와 같이 복잡한 코딩 작업을 자동화하는 프롬프트를 만들 수 있습니다.
• 프롬프트 예시: 지금부터 여러 파일에 나누어진 코드를 생성해야 할 때마다, 필요한 파일들을 자동으로 생성하거나 기존 파일을 수정하는 Python 스크립트를 만들어주세요.

 

Reference

Principled Instructions Are All You Need for Questioning LLaMA-1/2, GPT-3.5/4, Sondos Mahmoud Bsharat, Aidar Myrzakhan, Zhiqiang Shen, 2023. ↩