Réponses en direct à l'écran
Afficher à l'écran la réponse d'un modèle d'IA pendant qu'il l'écrit, avec une étape IA dans une API ou avec un script, et un widget Markdown.
Une longue réponse d'un modèle peut prendre des dizaines de secondes. Avec la réponse en direct, le texte apparaît à l'écran au fur et à mesure que le modèle l'écrit, comme dans un chat, au lieu d'apparaître d'un coup à la fin.
Il faut deux éléments avec le même nom :
- Ce qui demande la réponse : l'étape IA d'une API, avec le nom dans
Réponse en direct, ou un script, avec
stream="nom". - Ce qui l'affiche : un widget Markdown avec la source Réponse de l'IA en direct et le même nom dans Nom de la réponse.
Avant de commencer
- Les Notifications en temps réel doivent être activées dans les Paramètres de la plateforme. Le texte arrive à l'écran par le même canal que les notifications.
- La personne qui utilise l'écran doit avoir une session dans l'app. La réponse va seulement à la personne qui a fait la demande : les autres utilisateurs ne la voient pas.
- L'app a besoin d'un modèle d'IA de texte (voir Modèles d'IA de l'application).
Afficher la réponse d'une API
Créez une API du type mutation avec une étape IA (voir Le constructeur d'APIs). Écrivez la requête et, dans Réponse en direct, le nom
resumo.Sur l'écran, ajoutez un widget Markdown. Dans Source, choisissez Réponse de l'IA en direct et, dans Nom de la réponse, écrivez
resumo.Facultatif : écrivez dans le contenu du widget le texte qui apparaît avant la première réponse, par exemple
Cliquez sur Résumer.Ajoutez un bouton Résumer et, dans l'événement onClick, appelez l'API :
await keplin.api.mutate("resumirPedido", { id: keplin.nav.params.id });
Quand la personne clique sur le bouton, le widget affiche le texte au fur et à mesure qu'il arrive, avec un curseur qui clignote jusqu'à la fin. L'API renvoie la réponse entière à la fin, comme toujours.
Afficher la réponse d'un script
Dans un script, passez le nom dans stream= :
from api_manager import ai
def main(input):
r = ai.chat(
"Escreve uma proposta comercial para: " + input["args"]["pedido"],
stream="resumo",
)
return {"texto": r["text"]}
ai.json et ai.run acceptent aussi stream=. Avec ai.run, le texte
recommence à chaque requête au modèle, et l'écran garde celui de la réponse
finale.
Ce que la personne voit
| Moment | Le widget affiche |
|---|---|
| Avant la première demande | Le contenu écrit dans le widget. |
| Pendant que le modèle écrit | Le texte déjà arrivé, avec un curseur qui clignote. |
| À la fin | La réponse entière. |
| Si l'appel échoue | Le texte déjà arrivé et le message d'erreur. |
| À une nouvelle demande | Le texte recommence. |
Questions fréquentes
Deux fenêtres ouvertes reçoivent-elles la même réponse ? Oui, si elles appartiennent à la même personne et ont un widget avec le même nom. La réponse va à toutes les fenêtres ouvertes de la personne qui a fait la demande.
Est-ce que cela fonctionne dans KeplinGo ? Oui. L'app mobile utilise le même canal en temps réel.
Et dans une planification, ou dans une API appelée avec une clé d'API ? Personne n'attend avec une session, donc le texte ne va vers aucun écran. L'appel fonctionne comme toujours.
L'étape IA des workflows affiche-t-elle aussi la réponse en direct ? Non. Un processus s'exécute sans personne qui attend : l'étape enregistre la réponse dans une variable.