KEPLIN Docs

Respuestas en directo en la pantalla

Mostrar en la pantalla la respuesta de un modelo de IA mientras la escribe, con un paso IA en una API o con un script, y un widget Markdown.

Una respuesta larga de un modelo puede tardar decenas de segundos. Con la respuesta en directo, el texto aparece en la pantalla a medida que el modelo lo escribe, como en un chat, en lugar de aparecer todo al final.

Hacen falta dos piezas con el mismo nombre:

  • Quien pide la respuesta: el paso IA de una API, con el nombre en Respuesta en directo, o un script, con stream="nombre".
  • Quien la muestra: un widget Markdown con el origen Respuesta de la IA en directo y el mismo nombre en Nombre de la respuesta.

Antes de empezar

  • Las Notificaciones en tiempo real tienen que estar activadas en los Ajustes de la plataforma. El texto llega a la pantalla por el mismo canal que las notificaciones.
  • Quien usa la pantalla tiene que tener sesión en la app. La respuesta va solo a la persona que hizo la petición: los demás usuarios no la ven.
  • La app necesita un modelo de IA de texto (ver Modelos de IA de la app).

Mostrar la respuesta de una API

  1. Crea una API del tipo mutation con un paso IA (ver El constructor de APIs). Escribe la petición y, en Respuesta en directo, el nombre resumo.

  2. En la pantalla, añade un widget Markdown. En Origen, elige Respuesta de la IA en directo y, en Nombre de la respuesta, escribe resumo.

  3. Opcional: escribe en el contenido del widget el texto que aparece antes de la primera respuesta, por ejemplo Pulsa Resumir.

  4. Añade un botón Resumir y, en el evento onClick, llama a la API:

    await keplin.api.mutate("resumirPedido", { id: keplin.nav.params.id });
    

Cuando la persona pulsa el botón, el widget muestra el texto a medida que llega, con un cursor parpadeando hasta el final. La API devuelve la respuesta entera al final, como siempre.

Mostrar la respuesta de un script

En un script, pasa el nombre en stream=:

from api_manager import ai


def main(input):
    r = ai.chat(
        "Escreve uma proposta comercial para: " + input["args"]["pedido"],
        stream="resumo",
    )
    return {"texto": r["text"]}

ai.json y ai.run también aceptan stream=. Con ai.run, el texto vuelve a empezar en cada petición al modelo, y la pantalla se queda con el de la respuesta final.

Lo que ve la persona

Momento El widget muestra
Antes de la primera petición El contenido escrito en el widget.
Mientras el modelo escribe El texto que ya llegó, con un cursor parpadeando.
Al final La respuesta entera.
Si la llamada falla El texto que ya había llegado y el mensaje del error.
En una petición nueva El texto vuelve a empezar.

Preguntas frecuentes

¿Dos ventanas abiertas reciben la misma respuesta? Sí, si son de la misma persona y tienen un widget con el mismo nombre. La respuesta va a todas las ventanas abiertas de quien hizo la petición.

¿Funciona en KeplinGo? Sí. La app móvil usa el mismo canal en tiempo real.

¿Y en una programación, o en una API llamada con una clave de API? No hay nadie con sesión esperando, por eso el texto no va a ninguna pantalla. La llamada funciona como siempre.

¿El paso IA de los workflows también muestra la respuesta en directo? No. Un proceso corre sin nadie esperando: el paso guarda la respuesta en una variable.