DokumentationOpenAI-Kompatibilität

Loslegen

OpenAI-Kompatibilität

Ihr für OpenAI geschriebener Code funktioniert mit Learnya. Drei Werte ändern sich, der Rest bleibt unverändert.

Auf dieser Seite
  1. Drei Werte ändern
  2. Akzeptierte Parameter
  3. Was anders ist
  4. Tools, die bereits OpenAI sprechen

Drei Werte ändern

Die API-Adresse, der Schlüssel und der Modellname. Sie sind bernsteinfarben markiert.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.learnya.ai/v1",
    api_key=os.environ["LEARNYA_API_KEY"],
)
response = client.chat.completions.create(
    model="flash", messages=messages
)

Akzeptierte Parameter

Die Konversation akzeptiert die folgenden OpenAI-Parameter und gibt sie an das Modell weiter.

ParameterFür
model, messagesDas Modell und die Konversation. Die einzigen Pflichtfelder
stream, stream_optionsDie Antwort als Stream und die Token-Zählung am Ende
max_tokens, stop, nLänge, Stoppsequenzen und Anzahl der Antworten
temperature, top_p, top_k, min_p, seedDas Sampling
presence_penalty, frequency_penalty, logit_biasWiederholungen und Wortwahl
logprobs, top_logprobsDie Wahrscheinlichkeiten der Tokens
tools, tool_choice, parallel_tool_callsDer Aufruf Ihrer Funktionen
response_formatEine Antwort in JSON
reasoning_effortDer Aufwand fürs Schlussfolgern: none, low, medium oder high
user, metadataIhre eigenen Kennzeichnungen

Was anders ist

ThemaBei Learnya
ModellnameEin Learnya-Modellname: flash oder max. Ein anderer Name erhält einen Fehler 400, der die bekannten Namen auflistet.
Unbekanntes FeldWird entfernt, bevor es das Modell erreicht. Der Antwort-Header x-learnya-dialect nennt, was entfernt wurde.
Antwortlängemax_tokens wird auf die Obergrenze des Modells gesenkt, wenn es sie überschreitet.
StreamingDie letzte Nachricht des Streams enthält die Token-Zählung, ausser Sie haben stream_options selbst gesetzt.
SchlussfolgernDas Schlussfolgern des Modells kommt in reasoning_content, neben der Antwort.
FehlerDer Fehler-Body enthält eine Meldung und einen Typ, ohne die Felder code und param.
ModelllisteDie Modellliste steht API-Schlüsseln nicht zur Verfügung. Die Namen finden Sie auf der Seite Modelle.
BrowserKeine Aufrufe aus einer Webseite. Die API wird von Ihrem Server aus aufgerufen.

Tools, die bereits OpenAI sprechen

Jede Bibliothek, die eine eigene OpenAI-API-Adresse akzeptiert, funktioniert genauso: Geben Sie https://api.learnya.ai/v1, Ihren Schlüssel und einen Learnya-Modellnamen an.