Prompt(프롬프트)
사용자가 원하는 출력을 생성하고자 할 때 대규모 언어 모델(LLM, Large Language Model)을 안내하기 위한 특정 입력 텍스트 및 질문 텍스트
모델에 제공하는 광범위한 지침으로, 모델이 원하는 출력을 이해하는 데 도움이 되는 일련의 입력 문구
텍스트는 사용자와 generative AI 모델 간의 주요 통신 수단
예) 긴 기사를 요약하고 싶으면
"Summarize the above in one sentence" 같은 프롬프트와 기사 텍스트를 LLM(Large Language Model)에 입력
AI 프롬프트는 모델의 사고 과정을 위한 출발점 역할을 하므로 AI 모델과 상호 작용하는 데 필수적입니다.
간단하고 간단한 질문부터 AI가 정보를 합성하고 추론을 도출하거나 창의적인 솔루션을 제공해야 하는 보다 복잡하고 미묘한 하위 작업에 이르기까지 다양합니다.
프롬프트의 품질과 명확성은 AI 모델에서 생성되는 출력에 큰 영향을 미칠 수 있으므로 사용자의 의도와 원하는 결과를 효과적으로 전달하는 프롬프트를 만드는 것이 중요합니다.
Prompt 구성 요소
지시사항(Instruction)
AI 모델이 수행하기를 원하는 작업
구체적으로 어떤 작업을 해야 하는지에 대해 명확한 지시를 정의
모델이 개 산책 사업에 대한 아이디어를 나열하도록 하려면 다음과 같이 지시할 수 있습니다.
"List ideas for starting a dog-walking business:”
"List ideas for starting a large, wildly successful dog-walking business"
상황(Context)
AI 모델이 답변을 하게 되는 주변의 상황 또는 외부의 정보 및 추가 내용
지시사항이 이루어지는 상황에 대해서 AI에게 인지시킴으로써 해당 상황 내에서 지시에 대한 답을 내도록 한정하는 역할
프롬프트에 배경 또는 컨텍스트 정보를 포함하면 모델 출력이 원하는 방향으로 조금씩 움직일 수 있습니다.
특히 프롬프트 텍스트에 나타나는 (토큰화된) 단어는 생성된 출력에 포함될 가능성이 더 큽니다.
Examaples
원하는 모델 응답의 형식 또는 모양을 나타내려면 생성된 텍스트가 따르기를 원하는 패턴을 보여주는 하나 이상의 예제 입력 쌍과 해당하는 원하는 출력을 포함한다.
입력 값
구하고자 하는 최종 답에 대한 질문
지시와 상황을 기본 내용으로 해 최종으로 구하는 답을 얻게 하는 목표 내용
출력 형식
결과물의 형식 또는 형태 요소
입력값에 대한 출력 형태이므로 어떤 출력을 내도록 할 것인지는 매우 중요
출력의 형태가 간명할수록 원하는 결과에 가깝게 됨
Cue
큐는 원하는 경로에서 생성된 출력을 시작할 가능성이 있는 프롬프트 끝에 있는 텍스트
* 모델이 프롬프트에 응답하는 것처럼 보이지만 실제로는 프롬프트에 텍스트를 추가하거나 프롬프트를 계속하고 있음을 기억하십시오.
Zero-shot Prompting
zero-shot prompting에서 AI 모델은 기존 지식과 언어에 대한 일반적인 이해뿐만 아니라 프롬프트의 큰 언어에 포함된 정보에서 추론하는 능력에만 의존합니다. 이 접근 방식은 응답을 안내하는 데 도움이 되도록 모델에 각각 제한적이거나 광범위한 수의 예제가 제공되는 소수 학습 및 다중 학습과 대조됩니다.
예시)
다양한 소스의 텍스트가 포함된 대규모 데이터 세트에서 학습된 GPT-3과 같은 강력한 AI 언어 모델이 있다고 상상해 보십시오.
AI 언어 모델이 주어진 기사에 대한 요약을 제공하기를 원합니다.
'다음 기사를 세 문장으로 요약하십시오.'와 같은 간결한 지침이 뒤따르는 기사 텍스트를 AI 모델에 제공하기만 하면 제로샷 프롬프팅을 사용할 수 있습니다. 그런 다음 AI 모델은 기사 요약 작업에 대해 명시적으로 훈련되지 않은 상태에서 입력 텍스트를 처리하고 가장 중요한 사항을 추출하고 요약을 생성합니다.
이것은 GPT-3 및 유사한 AI 모델이 훈련 중에 큰 언어 모델과 광범위한 텍스트를 가지고 있기 때문에 해당 작업에 대한 특정 예나 사전 훈련 없이도 요약과 같은 새로운 작업을 일반화하고 수행할 수 있기 때문에 가능합니다.
One-shot Prompting
one-shot prompting은 AI 모델에 사용되는 기술로, 모델에 작업 설명과 단일 예제를 제공하여 학습하고 주어진 프롬프트에 대한 응답을 생성합니다. AI 모델은 이 작업 설명과 예제를 참조로 사용하여 작업을 이해하고 적절한 출력을 생성합니다.
one-shot prompting은 예가 없는 소프트 프롬프트를 제공하는 제로샷 프롬팅과 모델의 반응을 안내하기 위해 여러 예를 포함하는 소수 또는 다수 샷 학습 사이의 균형을 이룹니다.
one-shot prompting에서 AI 모델은 제공된 예와 결합된 기존 지식과 언어에 대한 일반적인 이해를 활용하여 당면한 작업을 수행합니다. 이 접근 방식은 모델이 one-shot prompting만 사용하여 원하는 출력을 추론하는 데 어려움을 겪을 수 있는 경우에 특히 유용할 수 있습니다.
Few-shot Prompting
few-shot prompting은 주어진 프롬프트에서 학습하고 응답을 생성하기 위해 적은 수의 예(일반적으로 2~10개)만 모델에 제공하는 AI 모델과 함께 사용되는 기술입니다. 이러한 예는 모델이 작업을 더 잘 이해하고 더 정확한 출력을 생성할 수 있도록 하는 참조 역할을 합니다.
few-shot prompting는 one-shot prompting보다 AI 모델에 더 많은 지침을 제공하는 동시에 광범위한 교육 데이터가 필요하지 않습니다. 제공된 몇 가지 예에서 모델을 일반화하고 그 이해를 새로운 보이지 않는 프롬프트에 적용하는 데 도움이 됩니다.
Prompt Engineering (프롬프트 엔지니어링)
by OpenAI CEO
Writing a really great prompt for a chatbot persona is an amazingly high-leverage skill and an early example of programming in a little bit of natural language
챗봇 페르소나를 위해 훌륭한 프롬프트를 작성하는 것은 활용성이 굉장히 높은 기술이며 몇 마디의 자연어로 프로그래밍하는 것의 초기 모습니다.
AI가 최적의 결과물을 만들어낼 수 있도록, AI 프롬프트를 작성하는 작업
Generative AI을 기반으로 한 AI 모델로부터 더 복잡한 태스크들에 대해 정확한 답변을 이끌어내도록 유도하면서 환각(hallucination) 현상과 같은 오류를 줄이는데 기여하고 있습니다.
AI에게 질문을 잘해 AI를 효과적으로 쓰는 방법입니다.
AI로부터 최상의 답변을 끌어내기 위해 최적의 단어, 즉 입력값들의 조합을 찾는 작업입니다.
대규모 언어 모델(LLM)이 일관성 있고 고품질의 텍스트 출력을 생성할 수 있도록 하는 효과적인 프롬프트를 설계하고 제작하는 작업
원하는 출력 결과물을 이해하고 요구 사항을 충족하는 텍스트를 생성하는 모델의 기능을 최대화하는 명확하고 간결한 입력을 제공하는 것을 목표로 합니다.
프롬프트를 구성하는 방식이 결과물의 퀄리티를 좌우!!
프롬프트 엔지니어링은 기본적으로 인간이 손으로 디자인한 프롬프트, 특히 자연어 처리에 중점을 둔 프롬프트이기 때문에 AI 모델 작업의 중요한 측면입니다. 여기에는 AI 모델의 성능, 안정성 및 유용성을 개선하기 위한 프롬프트 설계 및 최적화가 포함되어 생성된 출력이 사용자의 의도 및 원하는 결과와 일치하도록 합니다.
이 프로세스에서는 필요에 따라 컨텍스트와 예제를 제공하면서 명확하고 간결한 프롬프트를 작성해야 합니다. 주어진 작업에 대해 가장 효과적인 프롬프트 구조와 구문을 식별하기 위해 종종 반복적인 개선이 필요합니다.
프롬프트 엔지니어링을 마스터함으로써 사용자는 AI 모델에서 보다 정확하고 관련성이 높으며 신뢰할 수 있는 결과를 얻을 수 있으므로 보다 효율적이고 생산적인 상호 작용이 가능합니다.
프롬프트 엔지니어링의 주요 목표는 사용자의 의도와 원하는 결과를 전달하는 프롬프트를 세심하게 만들어 모델의 성능, 정확성 및 유용성을 극대화하는 것입니다. 이는 명확한 지침, 충분한 컨텍스트 및 필요한 경우 예를 제공하는 것을 포함하여 몇 가지 기술과 고려 사항을 통해 달성됩니다.
Prompt Engineering이 필요한 이유
프롬프트 엔지니어링은 AI 모델, 특히 자연어 처리에 중점을 둔 모델의 잠재력을 최대한 활용하는 데 있어 중요한 측면입니다.
프롬프트 엔지니어링의 중요성은 모델 출력의 품질, 정확성 및 관련성에 직접적인 영향을 미친다는 것입니다. 잘 만들어진 프롬프트는 사용자 경험을 향상시킬 뿐만 아니라 모델에 적절한 지침과 명확성을 제공하여 작업 복잡성을 해결합니다. 그렇게 함으로써 모호성을 해결하고 전반적인 효율성을 개선하며 원하는 출력을 얻는 데 필요한 반복 횟수를 줄임으로써 시간과 리소스를 절약합니다.
또한 프롬프트 엔지니어링을 통해 사용자 지정이 가능하여 사용자가 특정 요구 사항이나 선호도에 따라 AI 모델의 응답을 조정할 수 있습니다. 결과적으로 보다 개인화되고 상황에 맞는 관련 출력이 생성됩니다.
프롬프트 엔지니어링의 또 다른 중요한 측면은 윤리적 고려 사항을 다루는 역할입니다. 적절한 제약 조건과 지침으로 프롬프트를 작성함으로써 AI 모델은 잠재적으로 유해하거나 편향되거나 공격적인 콘텐츠를 생성하는 것을 방지하고 결과를 윤리적 고려 사항 및 사용자 기대치에 맞춥니다.
본질적으로 프롬프트 엔지니어링은 사용자와 AI 모델 간의 상호 작용을 최적화하여 생성된 출력이 사용자의 기대를 충족하고 특정 요구 사항을 충족하여 궁극적으로 보다 효율적이고 생산적인 상호 작용을 유도하는 데 필수적입니다.
Auto-Regression LLM의 한계
LLM은 단어의 순서를 비롯한 프롬프트의 작은 변화에 따라 응답의 품질이 상당히 다를 수 있습니다.
LLM은 명령(Instruction)과 예제(Example)의 미묘한 패턴을 감지하여 답변을 조정합니다. 따라서 LLM 의 답변 결과는 프롬프트(ex. 프롬프트에 포함된 특정 명령뿐만 아니라 단어의 선택, 단어의 순서)에 따라 민감하게 달라질 수 있습니다.
대표적인 LLM인 GPT 모델이 Auto-Regression 모델임을 기억하십시오.
Auto-Regression LLM은 이전 단어를 보고 가장 높은 확률의 단어를 다음 단어로 예측하므로 단어의 순서에 따라 얼마든지 다른 답변을 출력할 수 있습니다.
Human-Computer 간의 인터페이스로 자연어 사용
컴퓨터가 발명된 이후, 컴퓨터의 프로세서에서 실행되는 기계어를 인간이 직접 프로그래밍하는 것을 시작으로 인간과 컴퓨터간 인터페이스는 컴퓨터의 구조를 잘 알지 못하여도 쉽게 프로그래밍할 수 있도록 고급 프로그래밍 언어의 형태로 점점 더 발전되어 왔습니다. 결국 우리가 현재 사용하는 GUI 등은 쉽고 직관적인 인터페이스를 제공하기 위한 결과입니다.
하지만 인간에게는 자연어를 능가하는 사용자 인터페이스는 없습니다.
반대로 컴퓨터에게 자연어만큼 불친절한 인터페이스는 없습니다.
자연어는 매우 모호하고, 부정확하고, Context에 매우 의존적이며, 사람마다 해석이 다를 수 있습니다.
LLM은 주위 환경의 Context를 이해하는데 한계를 갖음
현재의 LLM은 사람과 달리 장기 기억을 갖지 못하고 다양한 감각 기관의 도움을 받을 수 없기 때문에 자기 주위의 컨텍스트를 이해할 수 없습니다.
프롬프트 엔지니어링은 자연어의 복잡성과 다양성을 유지하면서 AI 시스템을 명확하게 프로그래밍할 수 있는 방법을 제공합니다.
하지만 프롬프트 엔지니어링에도 단점이 있습니다. 예를 들어 LLM으로부터 원하는 답변을 유도하는 것은 내부가 어떻게 동작하는지 알지 못하는 블랙 박스를 제어하는 것과 유사하기 때문에 원하는 답변을 얻기 위한 프롬프트를 만드는데 많은 시간이 필요합니다.
Prompt Engineer
[Generative AI] Prompt Engineer (프롬프트 엔지니어)
Prompt Tuning
프롬프트 튜닝은 프롬프트 형태로 모델에 제공된 입력을 정제하는 프롬프트 엔지니어링에 비해 더 무거운 접근 방식입니다.
AI 모델의 매개변수를 fine-tuning함으로써 프롬프트 튜닝을 통해 모델의 동작을 보다 정확하게 조정하여 보다 정확하고 적절하며 신뢰할 수 있는 출력을 얻을 수 있습니다.
프롬프트 튜닝을 통해 모델은 내부 표현에 대한 미묘한 조정을 학습하여 Foundation 모델을 광범위하게 재교육하거나 수정하지 않고도 특정 작업이나 프롬프트에서 더 잘 수행할 수 있습니다. 보다 상업적인 의미에서 프롬프트 튜닝을 통해 제한된 데이터를 가진 회사는 대규모 모델을 좁은 작업에 맞게 조정할 수 있습니다.
말 그대로 대규모 언어 모델(LLM, Large Language Model) 자체를 fine-tuning하는 기술로, 주어진 입력 프롬프트에 대해 원하는 답변을 생성하는 LLM을 만드는 것을 목표로 합니다.
프롬프트 튜닝을 통해 LLM은 내부 표현에 대한 미묘한 조정을 배우며 LLM을 광범위하게 재학습하거나 수정하지 않고도 특정 작업이나 프롬프트를 더 잘 수행할 수 있습니다.
제한된 데이터를 가진 회사는 LLM을 협소한 태스크에 맞게 튜닝할 수 있습니다.
프롬프트 튜닝은 입력 프롬프트와 해당 프롬프트에 대해 사용자가 원하는 출력을 포함하는 특수 데이터셋으로 LLM을 fine-tuning 함으로써 모델의 동작을 최적화하고 향후 유사한 프롬프트를 처리하는 능력을 향상시킬 수 있습니다.
Fine-tuning은 Pre-training된 모델을 각 task A, B, C에 해당하는 데이터셋을 이용하여 학습하는 것으로 모델의 weight가 변경됩니다.
반면 프롬프트 튜닝은 Pre-training된 모델의 weight를 변경하지 않고 모델에 입력되는 프롬프트에 해당하는 weight만을 학습합니다.
모델 weight 보다 프롬프트 weight가 훨씬 더 작기 때문에 fine-tuning보다 프롬프트 튜닝의 학습 시간이 빠른 장점이 있습니다.
Prompt Tuning는 어떻게 동작되는가
프롬프트 튜닝은 사용자와 AI 모델 간의 안내된 커뮤니케이션 프로세스로 시각화할 수 있습니다.
AI를 고도로 지식이 풍부하지만 때로는 대화에서 지나치게 문자적이거나 장황한 파트너라고 생각하십시오. 귀하의 목표는 신중하게 디자인된 텍스트 프롬프트를 사용하여 AI에서 가장 정확하고 관련성이 있으며 간결한 정보를 추출하는 것입니다.
초기 프롬프트 튜닝으로 시작하십시오. 예를 들어 사용자의 쿼리가 '프롬프트 튜닝이란 무엇입니까?'인 경우 'AI에서 프롬프트 튜닝의 개념과 목적을 설명하십시오.'와 같이 보다 구체적으로 쿼리를 수정합니다. 그런 다음 AI의 응답을 분석하고 필요한 경우 프롬프트를 다시 수정하여 더 정확하고 간결한 답변을 얻습니다.
Prompt Tuning 중요점
프롬프트 튜닝은 보다 집중적이고 간결한 출력을 장려함으로써 지나치게 장황하거나 문자 그대로의 경향과 같은 AI 모델의 고유한 한계를 극복하는 데 도움이 됩니다.
AI 기술이 계속 진화하고 우리 삶의 다양한 측면에 점점 더 통합됨에 따라 AI 모델의 성능을 최적화하는 데 즉각적인 튜닝에 대한 철저한 이해가 필수적이며 궁극적으로 더 유익한 인간-AI 협업으로 이어질 것입니다. 이러한 시너지를 촉진함으로써 우리는 AI 기술이 가능한 가장 효과적인 방식으로 우리에게 서비스를 제공하여 생산성을 높이고 광범위한 영역에서 더 나은 의사 결정을 용이하게 할 수 있습니다.
Prompt Engineering vs Prompt Tuning
프롬프트 튜닝과 프롬프트 엔지니어링의 주요 차이점은 프로프트 튜닝이 더 자동화된다는 것입니다.
프롬프트 튜닝을 사용하면 사용자가 프롬프트를 제공하기만 하면 LLM이 나머지 작업을 수행합니다.
프롬프트 엔지니어링을 사용하면 사용자가 직접 프롬프트를 설계해야 하므로 더 많은 시간이 소요될 수 있습니다.
prompt engineering과 prompt tuning은 AI 성능과 출력을 최적화하기 위한 두 가지 보완적인 접근 방식입니다. 두 전략 모두 사용자와 AI 간의 상호 작용을 개선하는 데 중점을 두지만 구체적인 목표와 기술이 다릅니다.
Prompt Engineering
프롬프트 엔지니어링은 AI 모델에서 원하는 응답을 도출하기 위해 효과적인 입력 프롬프트를 설계하는 기술입니다. 이 프로세스는 종종 프롬프트를 공식화하는 데 창의성과 실험이 필요하며 AI의 강점과 약점에 대한 깊은 이해가 필요합니다. 컨텍스트를 추가하고 기대치를 명확히 하고 AI의 응답을 기반으로 프롬프트를 반복적으로 개선함으로써 사용자는 AI가 보다 정확하고 관련성 있으며 컨텍스트 인식 결과를 생성하도록 안내할 수 있습니다.
프롬프트 엔지니어링은 사용자가 Foundation 모델을 수정하지 않고도 더 나은 출력을 얻을 수 있으므로 사전 훈련된 모델로 작업할 때 특히 유용합니다.
Prompt Tuning
프롬프트 튜닝은 AI 모델 자체를 fine-tuning하는 고급 기술로, 특히 주어진 입력 프롬프트에 대해 원하는 응답을 생성하는 모델의 기능을 목표로 합니다.
프롬프트 튜닝은 특정 프롬프트 또는 프롬프트 구조에서 AI 모델의 성능을 개선하는 데 중점을 둔 보다 광범위한 fine-tuning 프로세스의 하위 집합으로 볼 수 있습니다.
입력 프롬프트의 예와 해당하는 원하는 출력을 포함하는 특수 데이터 세트에서 AI 모델을 교육함으로써 사용자는 모델의 동작을 최적화하고 향후 유사한 프롬프트를 처리하는 능력을 향상시킬 수 있습니다.
프롬프트 엔지니어링과 프롬프트 튜닝은 모두 AI의 성능을 향상시키고 사용자의 잠재력을 극대화한다는 궁극적인 목표를 제공합니다.
프롬프트 엔지니어링은 종종 더 빠르고 더 적은 계산 리소스를 필요로 하지만, 프롬프트 튜닝은 AI의 동작을 보다 중요하고 지속적으로 개선할 수 있으므로 AI 모델을 특정 요구 사항과 과제에 맞게 조정하려는 사용자에게 강력한 도구가 됩니다.
실제로 사용자는 AI 모델에서 가능한 최상의 결과를 얻기 위해 고유한 강점을 활용하여 이러한 기술을 조합하여 사용할 수 있습니다.
| 장점 | 단점 | |
| Prompt Engineering | 출력을 더 많이 제어할 수 있기 때문에 프롬프트 튜닝보다 좀더 효과적 LLM을 원하는 출력으로 안내하도록 프롬프트를 신중하게 만들 수 있음 |
사람의 입력이 더 많이 필요하기 때문에 프롬프트 튜닝보다 더 많은 시간이 소요됨 프롬프트는 신중하게 작성해야 하며 효과적인 프롬프트를 찾기 위해 시행 착오가 필요 |
| Prompt Tuning | 프롬프트 튜닝은 더 자동화되어 있기 때문에 프롬프트 엔지니어링보다 빠르고 쉬움 프롬프트는 모델에 의해 자동으로 생성되며 사람의 입력이 필요하지 않음 |
출력에 대한 많은 제어를 허용하지 않기 때문에 프롬프트 엔지니어링 보다 덜 효과적 프롬프트는 모델에 의해 생성되며 사람이 세심하게 만든 프롬프트만큼 효과적이지 않음 |
Fine-tuning
모델 튜닝에서는 서로 다른 작업에서 동일한 모델을 미세 조정(fine tune)합니다. 이렇게 하면 입력을 쉽게 일괄 처리할 수 없는 몇 가지 다른 모델이 제공됩니다.
GPT-3와 같은 사전 훈련된 모델은 초기에 방대한 양의 데이터, 학습 언어 패턴, 문법 및 일반 지식 습득에 대해 훈련됩니다. 그러나 이러한 모델은 특수 작업에서 최적으로 수행하거나 도메인별 응답을 생성하는 데 여전히 어려움을 겪을 수 있습니다.
fine-tuning은 사용자가 특정 요구 사항에 맞게 AI 모델을 조정하려고 할 때 시작됩니다. 해당 작업 또는 산업의 뉘앙스를 반영하는 더 작고 선별된 데이터 세트를 제공함으로써 사용자는 AI 모델의 이해를 구체화하고 대상 도메인에서 성능을 향상시킬 수 있습니다. 이러한 사용자 지정을 통해 AI 모델은 방대한 일반 지식을 유지할 뿐만 아니라 고유한 산업별 요구 사항을 능숙하게 처리할 수 있습니다.
예를 들어, 제약 산업에 종사하는 회사는 의학 문헌 및 제약 지침에 대한 언어 모델을 fine-tuning하여 AI가 해당 컨텍스트에서 더 정확하고 신뢰할 수 있는 응답을 생성할 수 있도록 합니다.
fine-tuning을 활용하여 사용자는 AI 언어 모델의 잠재력을 최대한 활용하여 특정 요구 사항과 과제를 충족하는 강력한 도구로 변환하여 궁극적으로 효율성 향상, 더 나은 의사 결정 및 성공적인 AI 배포로 이어질 수 있습니다.
Fine-tuning 은 어떻게 동작되는가
fine-tuning 프로세스 자체에는 특정 수의 에포크 동안 이 특수 데이터 세트에서 AI 모델을 교육하는 것이 포함되어 모델이 매개 변수를 조정하고 사용자 애플리케이션에 고유한 패턴, 용어 및 뉘앙스를 학습할 수 있습니다. 이 교육은 과적합 또는 과소적합을 방지하고 모델의 일반 지식을 유지하는 것과 특정 사용 사례에 맞게 조정하는 것 사이에서 올바른 균형을 유지하도록 신중하게 수행해야 합니다.
fine-tuning 프로세스가 완료되면 AI 모델은 사용자의 대상 도메인에 능숙한 고도로 사용자 정의된 도구가 됩니다. 그런 다음 이 맞춤형 모델을 배포하여 사용자의 특정 문제를 해결하고 사전 훈련된 범용 모델이 달성할 수 있는 것보다 더 정확하고 관련성 있고 신뢰할 수 있는 결과를 얻을 수 있습니다.
fine-tuning을 수용함으로써 사용자는 AI 기술의 진정한 잠재력을 잠금 해제하고 고유한 요구 사항을 충족하는 강력한 동맹으로 변환하여 궁극적으로 해당 영역에서 성공과 혁신을 주도할 수 있습니다.
Fine-tuning은 왜 중요한가
AI 모델을 fine-tuning함으로써 사용자는 모델이 특정 상황에서 더 정확하고 관련성 있고 신뢰할 수 있는 결과를 생성하도록 할 수 있으며, 이는 결과적으로 더 나은 의사 결정, 효율성 향상 및 생산성 증가로 이어집니다. 이 사용자 정의 프로세스를 통해 AI 모델은 사용자의 목표와 목표에 보다 잘 부합하여 고유한 문제를 해결하는 데 있어 보다 효과적이고 가치 있는 자산이 됩니다.
또한 fine-tuning은 초기에 훈련된 데이터의 다양하고 통제되지 않은 특성의 영향을 받았을 수 있는 사전 훈련된 모델에 내재된 일부 제한 또는 편향을 완화하는 데 도움이 될 수 있습니다.
세심하게 선별된 전문 데이터 세트에서 AI를 교육함으로써 사용자는 모델을 보다 객관적이고 안정적이며 상황에 맞는 응답으로 안내할 수 있으므로 궁극적으로 특정 도메인에서 AI 기술의 모든 기능을 활용하고 혁신과 확장을 주도할 수 있습니다.
Prompt tuning vs Fine-tuning
프롬프트 튜닝은 AI 모델에 제공된 입력 텍스트 프롬프트를 개선하여 보다 정확하고 관련성 있으며 상황 인식 응답을 유도하는 데 중점을 둡니다. 여기에는 컨텍스트를 추가하고, 기대치를 명확히 하고, AI의 응답을 기반으로 입력 텍스트를 반복적으로 다듬어 프롬프트를 신중하게 만드는 작업이 포함됩니다.
프롬프트 튜닝의 주요 이점은 기본 AI 모델을 수정할 필요가 없으므로 더 빠르고 리소스 효율적인 접근 방식이 된다는 것입니다. 프롬프트 튜닝은 사용자가 모델 자체를 재훈련하거나 적응시키지 않고도 더 나은 출력을 추출할 수 있기 때문에 사전 훈련된 모델로 작업할 때 특히 유용합니다.
fine-tuning은 사전 훈련된 AI 모델을 더 작고 전문화된 데이터 세트에서 훈련시켜 특정 작업, 도메인 또는 애플리케이션에서 더 잘 수행하도록 조정하는 프로세스입니다. 이 데이터 세트는 사용자의 대상 도메인 또는 작업의 뉘앙스를 반영하여 AI 모델이 특정 사용 사례에 고유한 패턴, 용어 및 컨텍스트를 학습할 수 있도록 합니다.
fine-tuning은 AI 모델을 재훈련하고 매개 변수를 조정하는 작업을 포함하므로 프롬프트 조정보다 더 많은 계산 리소스와 시간이 필요합니다. 그러나 AI 모델의 예측 성능을 보다 중요하고 지속적으로 개선할 수 있으므로 AI 모델을 특정 요구 사항과 과제에 맞게 조정하려는 사용자에게 강력한 도구가 됩니다.
어떤 방법이 가장 쉬운가?
AI 모델을 최적화하기 위한 다양한 방법을 탐색함에 따라 필요한 머신 러닝 전문 지식 수준에 분명한 진전이 있습니다.
효과적인 입력 프롬프트를 만드는 데 중점을 둔 프롬프트 엔지니어링은 머신 러닝 모델에 대한 심층 지식이 필요하지 않으므로 기술 배경이 제한된 사용자가 액세스할 수 있습니다.
프롬프트 튜닝 및 fine-tuning과 같은 고급 기술로 이동함에 따라 머신 러닝에 대한 더 깊은 이해가 필수적입니다.
프롬프트 튜닝에는 AI 모델로 작업하고 원하는 프롬프트를 제공하는 것이 포함되며 fine-tuning에는 사용자의 요구에 맞는 특정 데이터 세트에 대한 원본 모델의 추가 교육이 필요합니다.
인간 피드백으로부터의 강화 학습(RLHF, Reinforcement Learning from Human Feedback)은 가장 복잡한 방법이며 인간 피드백 수집을 위한 메커니즘 설계에 대한 전문 지식이 필요합니다. 사용자는 이러한 기술을 통해 진행하면서 고유한 문제와 기술 숙련도를 기반으로 가장 적합한 방법을 선택하여 AI 모델의 잠재력을 최대한 활용할 수 있습니다.
결론적으로 AI 모델이 원하는 작업을 수행하도록 하려면 특정 사용 사례에 맞는 기술 조합이 필요합니다.
일반적인 작업의 경우 제로샷, 원샷 및 퓨샷 프롬프팅은 추가 교육 없이도 귀중한 결과를 제공할 수 있습니다.
성능을 더욱 최적화하기 위해 프롬프트 엔지니어링은 효과적인 입력 프롬프트를 만드는 데 도움이 될 수 있으며 프롬프트 튜닝 및 fine-tuning을 통해 전문 작업 또는 도메인에 맞게 AI 모델을 사용자 지정할 수 있습니다.
가장 좋은 방법은 고유한 요구 사항에 따라 다릅니다.
프롬프트 엔지니어링 및 프롬프트 전략은 신속하고 리소스 효율적인 최적화에 이상적이며 fine-tuning은 보다 전문적인 요구 사항에 대한 보다 심층적인 사용자 정의를 제공합니다. 이러한 기술을 이해하고 활용함으로써 AI 모델의 잠재력을 최대한 활용하여 특정 문제를 해결하고 도메인에서 성공을 이끄는 강력한 도구로 변환할 수 있습니다.
References
- Prompting Guide
- Guiding Frozen Language Models with Learned Soft Prompts
- The Power of Scale for Parameter-Efficient Prompt Tuning
- Introduction to Prompt Tuning
- Prompting: Getting AI to do what you want
- (서적) 누구든 시작하라 프롬프트 엔지니어
- https://moon-walker.medium.com/the-art-of-prompt-engneering-1-prompt-engineering이란 무엇인가
'Generative AI > Prompt Engineering & Tuning' 카테고리의 다른 글
| [Prompt Engineering] Best Practices of Prompt Engineering (0) | 2023.07.17 |
|---|---|
| [Prompt Engineering] RAG(Retrieval Augmented Generation) (0) | 2023.07.11 |
| [Generative AI] Prompt Engineer (프롬프트 엔지니어) (1) | 2023.07.11 |
| [Prompt Tuning] Multi-task Prompt Tuning (0) | 2023.07.03 |
| [논문리뷰] The Power of Scale for Parameter-Efficient Prompt (0) | 2023.06.21 |