KI-Übersicht

Der Workspace ai kapselt das Vercel AI SDK. Verwenden Sie chatCompletion(messages, options?) für die gemeinsame Textantwort-Schnittstelle:

import { chatCompletion } from "ai";

const response = await chatCompletion([
  { role: "user", content: "Schreibe einen Slogan für ein Entwickler-SaaS." },
], { temperature: 0.5, maxTokens: 100 });
console.log(response.text);

AiAdapter liefert { text: string }. Optionen sind ein optionales Modell, Temperatur und maximale Ausgabetokens. MOCK_SERVICES=true, AI_PROVIDER=mock oder automatische Auswahl ohne Schlüssel verwendet eine Offline-Mock-Antwort.

Direkter Modellzugriff

Für echtes Streaming, strukturierte Ausgabe oder Tool-Aufrufe nutzen Sie getLanguageModel(provider?, modelName?, credentials?) mit den exportierten SDK-Helfern:

import { getLanguageModel, generateText } from "ai";

const model = await getLanguageModel("openai", "your-enabled-model-id");
const result = await generateText({ model, prompt: "Fasse dieses Release zusammen." });

Ersetzen Sie den Modellplatzhalter durch ein Modell, das Ihr Anbieterkonto unterstützt. generateText, streamText und generateObject sind erneut exportierte SDK-Funktionen. getLanguageModel() schlägt bei mock fehl; nutzen Sie chatCompletion() für Offline-Antworten. Der Mock-Adapter emuliert weder Streaming noch Tool-Ausführung.

Die Serverprozedur des Widgets verwaltet Kontext, Berechtigungen und gespeicherte Integrationen. Ein direkter Paketaufruf übernimmt diese anwendungsspezifischen Prüfungen nicht automatisch.

Copilot-Budget und Timeout

Der Live-Copilot reserviert vor dem Aufruf eines Anbieters ein konservatives Token-Kontingent. AI_COPILOT_GLOBAL_DAILY_TOKENS hat standardmäßig 20000000 pro UTC-Tag, AI_COPILOT_MAX_CONCURRENT standardmäßig 8 gleichzeitige Anfragen. Ungültige Werte lehnen neue Arbeit ab, statt das Limit stillschweigend auszuschalten. Diese Grenzen sind Anwendungsgrenzen, keine Angaben zur Anbieterabrechnung.

Das SDK-Timeout beträgt 30 Sekunden, eine nicht bestätigte Reservierung bleibt 120 Sekunden bestehen. Ist die Nutzung nach einer abgeschlossenen Anfrage bekannt, wird nicht genutztes Kontingent zurückgegeben. Bei unbekannter Nutzung, Anbieterfehler oder Prozessabsturz bleibt die konservative Belastung bestehen. So wird aus einem fehlgeschlagenen Abrechnungsschritt keine unbegrenzte Anbieternutzung.

Siehe KI-Provider für Auswahl und Erweiterung.