Verwenden von eigenen LLM-Modellen in der GitHub Copilot-App

Verbinden Sie ein Modell von einem externen Anbieter Ihrer Wahl, indem Sie Ihren eigenen API-Schlüssel angeben und dann das Modell in Agentsitzungen verwenden.

Wer kann dieses Feature verwenden?

GitHub Copilot App ist für alle Copilot Pläne verfügbar.
Sign up for Copilot

In diesem Artikel

Hinweis

Die Unterstützung für die Verwendung Ihres eigenen Modellanbieters in der GitHub Copilot App ist in Öffentliche Vorschau verfügbar und kann sich ändern.

Sie können GitHub Copilot App so konfigurieren, dass Ihr eigener LLM-Anbieter verwendet wird, auch BYOK (Bring Your Own Key) genannt, anstelle von von GitHub gehosteten Modellen. Sie können Ihren Modellanbieter beim ersten Öffnen der App oder später in den App-Einstellungen einrichten.

Sie müssen sich mit einem GitHub-Konto anmelden, um die App zu nutzen, aber sie benötigen keinen Copilot-Plan, wenn sie ihren eigenen Modellanbieter verwenden. Wenn Sie über einen Copilot Plan verfügen, können Sie sowohl Ihren eigenen Modellanbieter GitHubals auch -gehostete Modelle in derselben App verwenden.

Hinweis

Dieser Artikel richtet sich an Benutzer, die ihre eigenen LLM-Anbietereinstellungen auf ihrem lokalen Computer konfigurieren möchten. Informationen zum Einrichten von benutzerdefinierten Modellen für Benutzer in einer Organisation oder einem Unternehmen finden Sie unter Verwenden Ihrer LLM-Anbieter-API-Schlüssel mit Copilot und Verwenden Ihrer LLM-Anbieter-API-Schlüssel mit Copilot.

Unterstützte Anbieter

GitHub Copilot App unterstützt diese Modellanbieter:

  • OpenAI
  • Azure OpenAI
  • Microsoft Foundry
  • Anthropic
  • Ollama
  • Gießerei Lokal
  • LM Studio
  • Jeder openAI-kompatible HTTP-Endpunkt

Prerequisites

  • GitHub Copilot App ist installiert. Die Einrichtungsschritte finden Sie unter Erste Schritte mit dem GitHub-App Copilot.
  • Sie verfügen über alle erforderlichen Anmeldeinformationen, z. B. einen API-Schlüssel, bei Ihrem Modellanbieter.

Einrichten eines Modellanbieters

Wenn Sie die App zum ersten Mal einrichten und keinen Plan haben Copilot , können Sie während des Onboardings Ihren eigenen Modellanbieter einrichten.

So fügen Sie später einen Modellanbieter hinzu oder aktualisieren ihn:

  1. Öffnen Sie die GitHub Copilot App.
  2. Öffnen Sie App-Einstellungen, und klicken Sie dann auf "Modellanbieter".
  3. Klicken Sie auf "Anbieter hinzufügen".
  4. Wählen Sie Ihren Anbieter aus.
  5. Geben Sie die Anbieterdetails ein. Dies variiert je nach Anbieter, kann jedoch den Anzeigenamen, die Basis-URL und den API-Schlüssel enthalten.
  6. Klicken Sie auf "Anbieter hinzufügen" , um den Anbieter zu speichern.

Nachdem Sie einen Anbieter hinzugefügt haben, werden seine Modelle zusammen mit GitHubgehosteten Modellen in der Modellauswahl angezeigt. Sie können das Modell auswählen und in einer Sitzung verwenden. Weitere Informationen findest du unter Arbeiten mit Agent-Sitzungen in der GitHub-Copilot-App.

Anbieteranmeldeinformationen werden im Systemanmeldeinformationsspeicher gespeichert und werden nie in der Benutzeroberfläche angezeigt.