초보자 안내 서비스 : Prompt vs Fine-tuning vs RAG

초보자가 게임에 처음 접속하여 게임을 진행하려고 하면 알아야 할 정보가 너무 많아 초반에 적응하지 못해 이탈하는 사용자가 많습니다. 이러한 이탈하는 사용자를 줄이고, 초기 사용자 경험을 개선하고, 초보자들이 게임에 빠르게 적응할 수 있도록 지원하기 위해 LLM을 활용하여 초보자들이 게임에 처음 접속할 때 맞닥뜨리는 많은 질문과 궁금증을 빠르고 효율적으로 해결해주는 것을 목표로 합니다.

 

LLM을 

 

1. 프롬프트 (Prompt)

• 정의: 프롬프트는 특정 작업이나 질문에 대한 입력을 지시하는 텍스트 조각입니다. 이는 모델이 어떤 유형의 답변을 생성해야 하는지 방향을 제시하는 역할을 합니다.
• 특징:
  • 사용자는 직접 프롬프트를 설계하여 모델의 출력을 제어할 수 있습니다.
  • 프롬프트의 품질은 생성된 답변의 정확성과 완성도에 직접적인 영향을 미칩니다.
  • 일반적으로 사용자가 프롬프트를 잘 설계하고 최적화할 수 있을 때 가장 효과적입니다.

하지만, 프롬프트에 얼마나 잘 응답하는지에 대한 한계가 있을 수 있으며, 복잡한 작업에서는 성능 저하가 될 수 있습니다. 또한 프롬프트에 모든 내용을 넣어서 질의 하기에는 비용이 크게 증가하는 문제가 있습니다.

2. Fine-tuning

• 정의: Fine-tuning은 사전 훈련된 모델을 특정 작업이나 데이터셋에 맞게 추가적으로 학습시키는 과정을 의미합니다.
• 특징:
  • 주어진 작업에 대해 정확한 예측을 위해 모델의 파라미터를 미세 조정합니다.
  • 일반적으로 특정 작업에 특화된 성능을 내는 데 유리합니다.
  • 하지만 특정 작업에 대한 데이터가 제한적이거나 노이즈가 많은 경우 과적합 문제가 발생할 수 있습니다.

모델을 재훈련하는 데 많은 시간과 자원이 필요하며 고품질의 대규모 데이터셋이 필요함으로 여러 패치가 지속적으로 발생하는 게임과는 적합하지 않은 방식이라고 생각합니다.

3. RAG (Retrieval-Augmented Generation)

• 정의: RAG는 생성 모델과 정보 검색 모델을 결합하여 사용하는 방식입니다. 생성된 답변을 검색 모델을 통해 보완하거나 개선할 수 있습니다.
• 특징:
  • 생성된 답변의 품질을 높이기 위해 외부 지식을 활용합니다.
  • 검색 모델을 통해 관련성이 높은 정보를 검색하여 답변을 보강할 수 있습니다.
  • 일반적으로 다양한 주제나 도메인에 대해 효과적으로 작동할 수 있습니다.

 

현재 계획중인 프로젝트는 게임에 처음 접하는 초보자들이 게임 내용에 대해 쉽게 정보를 얻을 수 있는 서비스를 제공하는 것이 목적입니다.
아래의 이유로 프로젝트에선 RAG를 사용해서 서비스를 제공하려고 합니다.

 

초보자 안내 서비스에서 RAG 사용 선정 이유

초보자 안내 서비스에서 RAG를 사용하는 이유는 다음과 같습니다:

1. 정보 품질 개선: 초보자들은 종종 구체적인 문제나 상황에 대한 정확하고 완전한 답변을 필요로 합니다. RAG는 생성된 답변을 외부 데이터와 비교하여 추가적인 정보를 제공함으로써 답변의 품질을 개선할 수 있습니다.
2. 다양한 질문에 대응: 초보자는 여러 다양한 질문을 하게 되는데, 이에 대응하기 위해서는 다양한 지식 범위를 커버할 수 있는 RAG가 유용합니다. 외부 지식을 활용하여 다양한 주제나 도메인에 대한 질문에 적절히 대응할 수 있습니다.
3. 신속한 학습: 초보자들이 RAG를 사용하면서 보다 빠르게 필요한 정보를 습득할 수 있습니다. 외부 지식을 통해 보다 깊이 있는 학습이 가능하며, 이는 사용자 경험을 향상시키는 데 기여할 수 있습니다.

결론적으로, 초보자 안내 서비스에서 RAG를 사용하는 것은 보다 정확하고 효과적인 사용자 지원을 제공하며, 사용자의 질문에 신속하게 대응할 수 있는 도구로서 큰 장점을 가집니다.