Live-Antworten auf dem Bildschirm
Die Antwort eines KI-Modells auf dem Bildschirm zeigen, während das Modell sie schreibt, mit einem KI-Schritt in einer API oder mit einem Skript, und einem Markdown-Widget.
Eine lange Antwort eines Modells kann Dutzende Sekunden dauern. Mit der Live-Antwort erscheint der Text auf dem Bildschirm, während das Modell ihn schreibt, wie in einem Chat, statt am Ende auf einmal zu erscheinen.
Sie brauchen zwei Teile mit demselben Namen:
- Was die Antwort anfordert: der Schritt KI einer API, mit dem Namen
unter Live-Antwort, oder ein Skript, mit
stream="name". - Was sie zeigt: ein Markdown-Widget mit der Quelle KI-Antwort live und demselben Namen unter Name der Antwort.
Bevor Sie beginnen
- Die Benachrichtigungen in Echtzeit müssen in den Einstellungen der Plattform eingeschaltet sein. Der Text erreicht den Bildschirm über denselben Kanal wie die Benachrichtigungen.
- Wer den Bildschirm verwendet, muss in der App angemeldet sein. Die Antwort geht nur an die Person, die die Anfrage gestellt hat: andere Benutzer sehen sie nicht.
- Die App braucht ein Text-KI-Modell (siehe KI-Modelle der App).
Die Antwort einer API zeigen
Legen Sie eine API vom Typ mutation mit einem Schritt KI an (siehe Der API-Konstruktor). Schreiben Sie die Anfrage und unter Live-Antwort den Namen
resumo.Fügen Sie auf dem Bildschirm ein Markdown-Widget hinzu. Wählen Sie unter Quelle KI-Antwort live, und schreiben Sie unter Name der Antwort
resumo.Optional: Schreiben Sie in den Inhalt des Widgets den Text, der vor der ersten Antwort erscheint, zum Beispiel
Klicken Sie auf Zusammenfassen.Fügen Sie einen Button Zusammenfassen hinzu, und rufen Sie im Ereignis onClick die API auf:
await keplin.api.mutate("resumirPedido", { id: keplin.nav.params.id });
Wenn die Person auf den Button klickt, zeigt das Widget den Text, während er ankommt, mit einem blinkenden Cursor bis zum Ende. Die API gibt am Ende wie immer die ganze Antwort zurück.
Die Antwort eines Skripts zeigen
Übergeben Sie in einem Skript den Namen in stream=:
from api_manager import ai
def main(input):
r = ai.chat(
"Escreve uma proposta comercial para: " + input["args"]["pedido"],
stream="resumo",
)
return {"texto": r["text"]}
Auch ai.json und ai.run akzeptieren stream=. Mit ai.run beginnt der
Text bei jeder Anfrage an das Modell neu, und der Bildschirm behält den Text
der letzten Antwort.
Was die Person sieht
| Zeitpunkt | Das Widget zeigt |
|---|---|
| Vor der ersten Anfrage | Den Inhalt, der im Widget steht. |
| Während das Modell schreibt | Den bereits angekommenen Text, mit einem blinkenden Cursor. |
| Am Ende | Die ganze Antwort. |
| Wenn der Aufruf fehlschlägt | Den bereits angekommenen Text und die Fehlermeldung. |
| Bei einer neuen Anfrage | Der Text beginnt neu. |
Häufige Fragen
Erhalten zwei offene Fenster dieselbe Antwort? Ja, wenn sie derselben Person gehören und ein Widget mit demselben Namen haben. Die Antwort geht an alle offenen Fenster der Person, die die Anfrage gestellt hat.
Funktioniert das in KeplinGo? Ja. Die mobile App verwendet denselben Echtzeitkanal.
Und in einer Planung, oder in einer API, die mit einem API-Schlüssel aufgerufen wird? Niemand mit einer Sitzung wartet, deshalb geht der Text an keinen Bildschirm. Der Aufruf funktioniert wie immer.
Zeigt der Schritt KI der Workflows die Antwort auch live? Nein. Ein Prozess läuft, ohne dass jemand wartet: Der Schritt speichert die Antwort in einer Variable.