KEPLIN Docs

Live antwoorden op het scherm

Het antwoord van een AI-model op het scherm tonen terwijl het model het schrijft, met een AI-stap in een API of met een script, en een Markdown-widget.

Een lang antwoord van een model kan tientallen seconden duren. Met het live antwoord verschijnt de tekst op het scherm terwijl het model hem schrijft, zoals in een chat, in plaats van in één keer aan het einde.

U hebt twee onderdelen met dezelfde naam nodig:

  • Wat om het antwoord vraagt: de stap AI van een API, met de naam bij Live antwoord, of een script, met stream="naam".
  • Wat het toont: een Markdown-widget met de bron Live AI-antwoord en dezelfde naam bij Naam van het antwoord.

Voordat u begint

  • Meldingen in real time moet ingeschakeld zijn in de Instellingen van het platform. De tekst bereikt het scherm via hetzelfde kanaal als de meldingen.
  • Wie het scherm gebruikt, moet een sessie in de app hebben. Het antwoord gaat alleen naar de persoon die het verzoek deed: andere gebruikers zien het niet.
  • De app heeft een AI-model voor tekst nodig (zie AI-modellen van de app).

Het antwoord van een API tonen

  1. Maak een API van het type mutation met een stap AI (zie De API-builder). Schrijf het verzoek en, bij Live antwoord, de naam resumo.

  2. Voeg op het scherm een Markdown-widget toe. Kies bij Bron Live AI-antwoord en schrijf bij Naam van het antwoord resumo.

  3. Optioneel: schrijf in de inhoud van de widget de tekst die vóór het eerste antwoord verschijnt, bijvoorbeeld Klik op Samenvatten.

  4. Voeg een knop Samenvatten toe en roep in de gebeurtenis onClick de API aan:

    await keplin.api.mutate("resumirPedido", { id: keplin.nav.params.id });
    

Als de persoon op de knop klikt, toont de widget de tekst terwijl hij binnenkomt, met een knipperende cursor tot het einde. De API geeft aan het einde zoals altijd het hele antwoord terug.

Het antwoord van een script tonen

Geef in een script de naam mee in stream=:

from api_manager import ai


def main(input):
    r = ai.chat(
        "Escreve uma proposta comercial para: " + input["args"]["pedido"],
        stream="resumo",
    )
    return {"texto": r["text"]}

Ook ai.json en ai.run accepteren stream=. Met ai.run begint de tekst bij elk verzoek aan het model opnieuw, en het scherm houdt de tekst van het laatste antwoord.

Wat de persoon ziet

Moment De widget toont
Voor het eerste verzoek De inhoud die in de widget staat.
Terwijl het model schrijft De tekst die al binnen is, met een knipperende cursor.
Aan het einde Het hele antwoord.
Als de aanroep mislukt De tekst die al binnen was en de foutmelding.
Bij een nieuw verzoek De tekst begint opnieuw.

Veelgestelde vragen

Krijgen twee open vensters hetzelfde antwoord? Ja, als ze van dezelfde persoon zijn en een widget met dezelfde naam hebben. Het antwoord gaat naar alle open vensters van wie het verzoek deed.

Werkt het in KeplinGo? Ja. De mobiele app gebruikt hetzelfde real-time kanaal.

En in een planning, of in een API die met een API-sleutel wordt aangeroepen? Niemand met een sessie wacht, dus de tekst gaat naar geen enkel scherm. De aanroep werkt zoals altijd.

Toont de stap AI van workflows het antwoord ook live? Nee. Een proces draait zonder dat iemand wacht: de stap slaat het antwoord op in een variabele.