Model Context Protocol은 언어 모델이나 AI 시스템과 상호작용 할 떄 사용하는 일련의 규칙, 형식, 구조입니다.
이 Protocol은 모델이 주어진 정보를 "문맥"으로 이해하고 처리할 수 있도록 돕는 방식을 정의합니다.
쉽게 이해해봅시다
1. 프롬프팅과 컨텍스트 관리
* 언어 모델은 한 번에 처리할 수 있는 문맥의 길이가 있습니다. (token limit) 중요합니다.
* MCP는 이 문맥 안에 사용자 입력, 이전 대화, 명령어, 시스템 메시지, 메타데이터 등을 어떻게 배치할지 정할수 있습니다.
{
"system": "You are a helpful assistant.",
"user": "What's the weather today?",
"chat_history": [
{"user": "Hi!", "assistant": "Hello! How can I help you today?"}
]
}
위와 같은 구조를 통해 모델은 맥락을 이해하고 적절히 반응할 수 있게 됩니다.
2. MCP와 AI app 통신
* 여러 AI app ( 뭐 예를들어서 코파일럿, 노션 ai 등) 이 언어 모델 API를 사용할때, 자체적인 MCP구조를 갖고 있습니다.
* 이는 정보를 어떠헥 순서대로 모델에 넣을지, 어떤 정보를 고정할지( system prompt) 또는, 유저의 프라이버시를 어떻게 보호할지 등을 정의합니다.
3. 멀티모달 맥락 통합
* 이미지, 텍스트, 코드, 음성 등 다양한 정보가 섞여있을 경우, MCP는 이를 어떻게 통합해서 모델에 줄지 정의합니다.
LangGraph (0) | 2025.03.26 |
---|---|
MoE (Mixture of Experts) (0) | 2025.03.26 |