Live antwoorden op het scherm
Het antwoord van een AI-model op het scherm tonen terwijl het model het schrijft, met een AI-stap in een API of met een script, en een Markdown-widget.
Een lang antwoord van een model kan tientallen seconden duren. Met het live antwoord verschijnt de tekst op het scherm terwijl het model hem schrijft, zoals in een chat, in plaats van in één keer aan het einde.
U hebt twee onderdelen met dezelfde naam nodig:
- Wat om het antwoord vraagt: de stap AI van een API, met de naam bij
Live antwoord, of een script, met
stream="naam". - Wat het toont: een Markdown-widget met de bron Live AI-antwoord en dezelfde naam bij Naam van het antwoord.
Voordat u begint
- Meldingen in real time moet ingeschakeld zijn in de Instellingen van het platform. De tekst bereikt het scherm via hetzelfde kanaal als de meldingen.
- Wie het scherm gebruikt, moet een sessie in de app hebben. Het antwoord gaat alleen naar de persoon die het verzoek deed: andere gebruikers zien het niet.
- De app heeft een AI-model voor tekst nodig (zie AI-modellen van de app).
Het antwoord van een API tonen
Maak een API van het type mutation met een stap AI (zie De API-builder). Schrijf het verzoek en, bij Live antwoord, de naam
resumo.Voeg op het scherm een Markdown-widget toe. Kies bij Bron Live AI-antwoord en schrijf bij Naam van het antwoord
resumo.Optioneel: schrijf in de inhoud van de widget de tekst die vóór het eerste antwoord verschijnt, bijvoorbeeld
Klik op Samenvatten.Voeg een knop Samenvatten toe en roep in de gebeurtenis onClick de API aan:
await keplin.api.mutate("resumirPedido", { id: keplin.nav.params.id });
Als de persoon op de knop klikt, toont de widget de tekst terwijl hij binnenkomt, met een knipperende cursor tot het einde. De API geeft aan het einde zoals altijd het hele antwoord terug.
Het antwoord van een script tonen
Geef in een script de naam mee in stream=:
from api_manager import ai
def main(input):
r = ai.chat(
"Escreve uma proposta comercial para: " + input["args"]["pedido"],
stream="resumo",
)
return {"texto": r["text"]}
Ook ai.json en ai.run accepteren stream=. Met ai.run begint de tekst
bij elk verzoek aan het model opnieuw, en het scherm houdt de tekst van het
laatste antwoord.
Wat de persoon ziet
| Moment | De widget toont |
|---|---|
| Voor het eerste verzoek | De inhoud die in de widget staat. |
| Terwijl het model schrijft | De tekst die al binnen is, met een knipperende cursor. |
| Aan het einde | Het hele antwoord. |
| Als de aanroep mislukt | De tekst die al binnen was en de foutmelding. |
| Bij een nieuw verzoek | De tekst begint opnieuw. |
Veelgestelde vragen
Krijgen twee open vensters hetzelfde antwoord? Ja, als ze van dezelfde persoon zijn en een widget met dezelfde naam hebben. Het antwoord gaat naar alle open vensters van wie het verzoek deed.
Werkt het in KeplinGo? Ja. De mobiele app gebruikt hetzelfde real-time kanaal.
En in een planning, of in een API die met een API-sleutel wordt aangeroepen? Niemand met een sessie wacht, dus de tekst gaat naar geen enkel scherm. De aanroep werkt zoals altijd.
Toont de stap AI van workflows het antwoord ook live? Nee. Een proces draait zonder dat iemand wacht: de stap slaat het antwoord op in een variabele.