KEPLIN Docs

Réponses en direct à l'écran

Afficher à l'écran la réponse d'un modèle d'IA pendant qu'il l'écrit, avec une étape IA dans une API ou avec un script, et un widget Markdown.

Une longue réponse d'un modèle peut prendre des dizaines de secondes. Avec la réponse en direct, le texte apparaît à l'écran au fur et à mesure que le modèle l'écrit, comme dans un chat, au lieu d'apparaître d'un coup à la fin.

Il faut deux éléments avec le même nom :

  • Ce qui demande la réponse : l'étape IA d'une API, avec le nom dans Réponse en direct, ou un script, avec stream="nom".
  • Ce qui l'affiche : un widget Markdown avec la source Réponse de l'IA en direct et le même nom dans Nom de la réponse.

Avant de commencer

  • Les Notifications en temps réel doivent être activées dans les Paramètres de la plateforme. Le texte arrive à l'écran par le même canal que les notifications.
  • La personne qui utilise l'écran doit avoir une session dans l'app. La réponse va seulement à la personne qui a fait la demande : les autres utilisateurs ne la voient pas.
  • L'app a besoin d'un modèle d'IA de texte (voir Modèles d'IA de l'application).

Afficher la réponse d'une API

  1. Créez une API du type mutation avec une étape IA (voir Le constructeur d'APIs). Écrivez la requête et, dans Réponse en direct, le nom resumo.

  2. Sur l'écran, ajoutez un widget Markdown. Dans Source, choisissez Réponse de l'IA en direct et, dans Nom de la réponse, écrivez resumo.

  3. Facultatif : écrivez dans le contenu du widget le texte qui apparaît avant la première réponse, par exemple Cliquez sur Résumer.

  4. Ajoutez un bouton Résumer et, dans l'événement onClick, appelez l'API :

    await keplin.api.mutate("resumirPedido", { id: keplin.nav.params.id });
    

Quand la personne clique sur le bouton, le widget affiche le texte au fur et à mesure qu'il arrive, avec un curseur qui clignote jusqu'à la fin. L'API renvoie la réponse entière à la fin, comme toujours.

Afficher la réponse d'un script

Dans un script, passez le nom dans stream= :

from api_manager import ai


def main(input):
    r = ai.chat(
        "Escreve uma proposta comercial para: " + input["args"]["pedido"],
        stream="resumo",
    )
    return {"texto": r["text"]}

ai.json et ai.run acceptent aussi stream=. Avec ai.run, le texte recommence à chaque requête au modèle, et l'écran garde celui de la réponse finale.

Ce que la personne voit

Moment Le widget affiche
Avant la première demande Le contenu écrit dans le widget.
Pendant que le modèle écrit Le texte déjà arrivé, avec un curseur qui clignote.
À la fin La réponse entière.
Si l'appel échoue Le texte déjà arrivé et le message d'erreur.
À une nouvelle demande Le texte recommence.

Questions fréquentes

Deux fenêtres ouvertes reçoivent-elles la même réponse ? Oui, si elles appartiennent à la même personne et ont un widget avec le même nom. La réponse va à toutes les fenêtres ouvertes de la personne qui a fait la demande.

Est-ce que cela fonctionne dans KeplinGo ? Oui. L'app mobile utilise le même canal en temps réel.

Et dans une planification, ou dans une API appelée avec une clé d'API ? Personne n'attend avec une session, donc le texte ne va vers aucun écran. L'appel fonctionne comme toujours.

L'étape IA des workflows affiche-t-elle aussi la réponse en direct ? Non. Un processus s'exécute sans personne qui attend : l'étape enregistre la réponse dans une variable.