개요
단순한 모델 선택기를 넘어, Copilot auto model selection는 모델 환경이 빠르게 변화하는 가운데 고품질 결과와 더 뛰어난 신뢰성을 제공하고, 내려야 할 결정을 하나 덜어 주는 지능형 시스템입니다.
모델 선택기에서 Copilot auto model selection을 선택하여 **** 를 사용합니다. 선택기에 Copilot Fusion가 자동 대신 표시되면, 이는 사용자의 Copilot Fusion surface에서 Copilot를 사용할 수 있음을 의미합니다. 정보 GitHub Copilot Fusion을(를) 참조하세요.
Auto model selection 가용성
Auto model selection 는 다음 환경에서 사용할 수 있습니다.
- Copilot in the cloud
- Copilot Free의 Copilot cloud agent 및 gh.asamalin.top의 Copilot Chat에서
- GitHub Copilot Chat in GitHub Mobile
- Eclipse
- Xcode
- Visual Studio
사용에 대한 할인 auto model selection
유료 Copilot 요금제에 있는 경우 Copilot Chat 또는 Copilot cloud agent에서 auto model selection를 사용하는 동안 모델 비용에서 10% 할인을 받을 수 있습니다.
작업 최적화가 포함된 자동
참고
Auto model selection의 작업 최적화는 GitHubCopilot Chat 웹 사이트에서 일반적으로 사용할 수 있습니다.
Auto model selection 작업 최적화를 통해 두 시스템을 결합하여 고품질의 결과와 더 나은 안정성을 제공합니다. 한 시스템은 실시간 시스템 상태 및 가용성을 추적하고 다른 시스템은 작업 복잡성을 평가합니다. 이러한 항목을 함께 배치하면 auto model selection 작업을 최적 모델로 라우팅합니다.
라우팅은 품질 향상 없이 추가 캐시 관련 비용을 방지하기 위해 자연 캐시 경계와 대화 복잡성의 큰 드리프트를 따라 발생합니다.
이렇게 하면 각 작업을 가장 효율적으로 해결할 수 있는 모델과 일치하기 때문에 더 많은 가치를 Copilot 얻을 수 있습니다. 즉, 진정으로 필요한 문제에 대해 고비용 추론 모델을 예약하는 동시에 간단한 작업을 더 빠르고 저렴한 모델로 라우팅하여 여전히 훌륭한 결과를 제공합니다.
사용 auto model selection 의 이점은 다음과 같습니다.
- 각 작업을 가장 효율적으로 해결할 수 있는 모델과 일치합니다.
- 실시간 시스템 상태 및 가용성에 따라 모델 선택
- 언어 차이: 라우팅 결정은 요청하는 언어가 아니라 수행하려는 내용에 따라 달라집니다.
- 지능형 작업 라우팅으로 인한 비용 효율성이 향상되었습니다.
에 대한 계층 옵션 auto model selection
세 가지 계층이 제공됩니다. 이러한 계층을 사용하여 각 프롬프트에 대해 모델을 우선적으로 라우팅하는 방법을 auto model selection 조정합니다.
| 계층 | Priority | 일반적인 용도 |
|---|---|---|
| 효율성 | Cost | 빠르고 간단한 작업에 적합합니다. |
| 균형 | 비용, 품질 및 대기 시간의 균형을 조정합니다. | 일상 업무에 적합합니다. |
| 인텔리전스 | Quality | 복잡한 작업을 위해 빌드되었습니다. |
계층을 사용하는 경우에도 auto model selection는 각 작업의 프롬프트를 여전히 고려합니다. 각 계층에서 동일한 모델을 사용할 수 있지만 계층화된 라우팅은 각 작업에 대해 기본 모델을 선택하는 방법을 변경합니다. 각 계층에 대한 예:
- 효율성: 모든 프롬프트는 작업에 가장 비용 효율적이고 적절하게 지원되는 모델로 라우팅됩니다.
- 균형: 각 프롬프트에 대해 각 프롬프트의 복잡성에 적합한 비용 효율적이고 효율적인 성능을 제공하기 위해 비용, 품질 및 대기 시간을 고려하여 모델을 선택합니다.
- 인텔리전스: 프롬프트는 어떤 모델이 최고 품질의 응답을 제공할 것인지 평가됩니다. 간단한 프롬프트는 더 작은 모델로 라우팅될 수 있지만 복잡한 프롬프트는 해당 작업에 가장 적합한 모델로 라우팅됩니다.
사용량은 계층에 관계없이 모델 자동 선택과 유료 요금제 사용자에 대한 10개의% 할인에 따라 요금이 청구됩니다. 자동 모델 선택에 대한 할인을 참조하세요.
정책 및 모델 가용성
자동auto model selection을 선택하면 정책 및 구독 유형에 따라 지원되는 모델 중에서 선택합니다. 사용 가능한 모델은 시간이 지남에 따라 변경 될 수 있습니다. GitHub Copilot에서 지원되는 AI 모델을(를) 참조하세요.
Auto model selection 는 다음 모델을 포함하지 않습니다.
- 현재 사용자님의 플랜에서는 해당 모델을 지원하지 않습니다.
- 관리자 정책에서 제외된 모델입니다. GitHub Copilot AI 모델에 대한 액세스 구성을(를) 참조하세요.
- Copilot를 데이터 상주형 또는 FedRAMP 준수 모델로 제한하는 정책에 의해 제외되는 모델입니다.
- 평가 모델을 제한하는 정책에서 제외된 모델입니다.
- 사용자 또는 엔터프라이즈 또는 조직의 관리자가 로컬 네트워크 또는 로컬 컴퓨터에 설치하고 모델 선택기에서 선택할 수 있도록 Copilot에 추가한 모델입니다.
에서 평가 모델을 사용하지 않도록 설정 auto model selection
Auto model selection 는 개인 플랜에 대해 Copilot 사용자에게 평가 모델을 제공할 수 있습니다. 개인은 언제든지 이러한 모델의 사용을 사용하지 않도록 설정할 수 있습니다. GitHub Copilot에서 지원되는 AI 모델을(를) 참조하세요.