Azure OpenAI für Entwickler, Teil 2 Azure OpenAI mit REST-API und SDK

Anbieter zum Thema

Windhoff Group

Azure OpenAI stellt eine REST-API für die Interaktion und zum Generieren von Antworten bereit. Diese können Entwickler nutzen, um Anwendungen KI-Funktionen hinzuzufügen. Wir zeigen im Folgenden, wie sich komfortabel mit REST-API und Software Development Kits arbeiten lässt.

Bevor eine Interaktion mit der API möglich ist, müssen wir eine OpenAI-Ressource im Azure-Portal erstellen, dort das Azure OpenAI Studio aufrufen, darin ein Modell bereitstellen und dann den Endpunkt und die zugehörigen Schlüssel abrufen. Schlüssel und Endpunkte finden sich in der Azure-OpenAI-Ressource u. a. unter „Ressourcenverwaltung / Schlüssel und Endpunkt“:

Für jeden Aufruf der REST-API werden jeweils der Endpunkt, ein Schlüssel aus der Azure OpenAI-Ressource und der für das bereitgestellte Modell verwendete Name benötigt. Das lässt sich einfach ausprobieren: Wurde ein Modell in einer AOAI-Ressource bereitgestellt, kann man im Falle des Modells vom Typ „Completion“ mit Hilfe einer HTTP-POST-Anforderung eine „Aussage“ an den Dienst senden. Dabei ist „completion“ der Endpunkt, der für Vervollständigungen zuständig ist.

Zum Senden der REST-Anforderung empfiehlt sich ein beliebiges geeignetes Werkzeug, wie z. B. „Postman“ oder die Development-Tools des favorisierten Browsers. Eine HTTP-POST-Anfrage wie …

… sollte ein vergleichbares JSON-Ergebnis wie das Folgende liefern:

Die zu suchende Vervollständigungsantwort findet sich innerhalb von „choices[].text“. Bemerkenswert ist, dass die Antwort auch „finish_reason“ enthält, was in diesem Beispiel „stop“ ist. Eine andere Möglichkeit für „finish_reason“ wären „in length“. Das würde bedeuten, dass der in der Anforderung angegebene Wert für „max_tokens“ überschritten ist. Ein „content_filter“ als Grund würde bedeuten, dass das System von der Äußerung generierte schädliche Inhalte erkannt hat. Ist das Fall, gibt die API-Anforderung einen Fehler zurück.

„Normale“ Vervollständigungen sind sicher interessant, viele Entwickler und Entwicklerinnen sind aber wohl mehr an einer Chat-Integration in ihre Anwendung interessiert. Anstelle von „completions“ verwenden sie in ihrer Anforderung dann „chat/completions“. Wer mag, kann das auch vorab im „Playground“ des Azure-OpenAI-Studios ausprobieren.

Der Playground im Azure OpenAI-Studio ist vielseitig. Beispielsweise können wir hier auf „JSON-Rohdaten anzeigen“ klicken, um selbige sichtbar zu machen.

Alternativ können wir schauen, was passiert, wenn der Schieber bei „Code anzeigen“ bestätigt wird. Das Tool zeigt dann den Quellecode für „json“, „python“, „c#“ oder „curl“ entsprechend der Auswahl rechts oben. Außerdem findet sich unten den zuständigen Endpunkt, wie in unserem Beispiel „https://driopenai[...]?api-version=2023-07-01-preview“ und den zugehörigen Schlüssel.

Das Tolle dabei ist, dass sich die benötigen Werte hier bequem kopieren lassen, falls man beispielsweise REST-Anfragen mit einem anderen Werkzeug, wie z. B. den Entwicklertools des Browsers oder mit Postman, an den Endpunkt senden möchte. In Postman sähe das etwa so aus, wie im vorangestellten Bild.

Den benötigten Endpunkt kennen wir ja bereits und können ihn oben im Anfrage-Feld eintragen. Als HTTP-REST-Methode verwenden wir „POST“. Der API-Schlüssel lässt sich im Tab „Authorization“ als Bearer-Token hinterlegen. Den übrigen Quellcode fügen wir im Tab „Body“ im „raw“-Format ein. Der „Typ“ wird in der Werkzeugleiste des Body-Tabs rechts oben auf „JSON“ eingestellt. Auf die gleiche Weise können wir nun weitere Fragen an den Dienst senden und damit das Code-Fragment für unsere Anwendung testen und optimieren.

OpenAI-SDK nutzen

Ergänzend zu den REST-APIs können wir auch über die Python- oder C#-SDKs auf Azure-OpenAI-Modelle zugreifen mit der gleichen Funktionalität. Dazu gilt es lediglich die erforderlichen Bibliotheken zu installieren.

Beim C#-SDK handelt es sich um eine .NET-Adaptation der REST-APIs, die von Microsoft speziell für Azure OpenAI entwickelt wurde. Das SDK kann allerdings nicht nur zum Herstellen einer Verbindung mit Azure-OpenAI-Ressourcen verwendet werden, sondern auch für Nicht-Azure-OpenAI-Endpunkte. Das Python-SDK hingegen wird exklusiv von OpenAI entwickelt und verwaltet. Ersteres stellen wir daher mit …

… zur Verfügung. Die Konfiguration ist für die jeweiligen Sprache leicht unterschiedlich. Jedoch müssen wir für beide letztlich die gleichen Parameter festlegen, nämlich „endpoint“, „key“ sowie den Namen des „Deployments“, welcher beim Senden der Eingabeaufforderung an das Modell als „engine“ bezeichnet wird. Nun gilt es noch, der Applikation die Bibliothek hinzuzufügen und die für den Client erforderlichen Parameter festzulegen. In C# sähe das dann so aus (Quelle Microsoft):

Wurde eine Verbindung mit Azure OpenAI konfiguriert, ist es möglich, eine Eingabeaufforderung an einen der verfügbaren Endpunkte von Completion, ChatCompletion oder Embedding zu senden.

Das Antwort-Objekt enthält dann mehrere Werte, wie z. B. total_tokens und finish_reason. Die Bedeutung haben wir oben erklärt.

(ID:49870044)