[NLP/prompt] few shot prompting method

Few-shot prompting method는 주어진 작업에서 몇 가지 샘플만을 사용하여 학습 및 일반화하는 기법이다. 이 방법은 대규모 데이터셋이나 추가적인 레이블이 제한적인 상황에서 사용할 수 있다.

Few-shot prompting은 일반적으로 LLM인 GPT (Generative Pre-trained Transformer)과 같은 모델을 기반으로 한다. 이러한 모델은 주어진 문맥에서 다음 단어를 생성하거나 예측하는 등의 작업에 사용될 수 있다.

Few-shot prompting에서는 작업을 수행하기 위해 모델에 일부 입력 문장, 즉 "prompt"를 제공한다. 이 prompt에는 예시 문장이 포함되며, 모델은 이를 기반으로 일반화된 결과를 생성한다. prompt에 포함된 문장은 일부 문맥이 제공되어 모델이 새로운 입력을 처리하는 데 도움이 된다.

예를 들어, 계산하는 task에서 "2+2="와 같은 문장을 prompt로 사용할 수 있다. 이 prompt는 모델에게 어떤 계산을 수행해야 하는지 알려주며, 모델은 이를 기반으로 정답을 예측한다. Few-shot prompting은 몇 가지 예시를 제공함으로써 모델이 주어진 작업을 수행하고 일반화하는 능력을 향상시킨다.

Few-shot prompting은 다양한 작업과 도메인에서 적용될 수 있다. 산술 계산, 자연어 이해, 문서 요약, 기계 번역 등 다양한 작업에 적용할 수 있다. 또한, Few-shot prompting은 작업의 목적에 따라 다양한 예시 문장의 형태와 구성을 사용할 수 있다.

Few-shot prompting은 작은 데이터셋이나 추가 레이블 제약이 있는 상황에서 유용하게 사용될 수 있는 방법이다. 이를 통해 모델은 몇 가지 예시를 통해 일반화된 작업을 수행하고, 작은 데이터셋에서도 효과적인 성능을 보일 수 있다.