KEPLIN Docs

Tekoälypalveluntarjoajat

Tenantin tekoälypalveluiden rekisteröinti ja sovellusten käyttöön sallittujen mallien valinta, tunnistetiedot salattuina palvelimella.

Sovellusten skriptit kutsuvat tekoälymalleja skriptien SDK:n kautta. Sitä ennen ylläpitäjä rekisteröi palveluntarjoajat: tekoälypalvelun, käyttöoikeuden tunnistetiedot ja mallit, joita sovellukset saavat käyttää.

Tunnistetiedot pysyvät salattuina palvelimella. Ne eivät koskaan päädy selaimeen, skriptien koodiin eikä viedyn sovelluksen pakettiin.

Huomio

Palveluntarjoajat kuuluvat tenantille: ne koskevat kaikkia sovelluksia. Kukin sovellus valitsee omissa asetuksissaan, mitä täällä sallituista malleista se käyttää (ks. Sovelluksen tekoälymallit).

Missä ne ovat

Avaa Asetukset sivupalkin alareunasta ja valitse Palveluntarjoajat ryhmästä Tekoäly. Sinne pääsevät vain ylläpitäjäprofiilin tilit.

Luettelossa näkyy kunkin palveluntarjoajan nimi, tyyppi, yhteys (osoite tai alue, ei koskaan tunnistetietoa) ja sallittujen mallien määrä.

Tekoälypalveluntarjoajien luettelo, jossa on paikallinen OpenAI-yhteensopiva palvelin
Tekoälypalveluntarjoajien luettelo, jossa on paikallinen OpenAI-yhteensopiva palvelin

Palveluntarjoajien tyypit

Tyyppi Mitä täytetään Huomioita
OpenAI API-avain; Organisaatio ja Projekti ovat valinnaisia OpenAI:n mallit.
Anthropic API-avain Claude-mallit. Anthropicilla ei ole upotusmalleja.
Microsoft Foundry Resurssin osoite ja API-avain Kunkin mallin nimi on resurssin käyttöönoton nimi. Claude-mallit toimivat vain services.ai.azure.com-osoitteessa.
Amazon Bedrock Alue, Käyttöavaimen tunnus ja Salainen käyttöavain IAM-avaimella on oltava oikeus kutsua malleja. Jotta testi voi luetella mallit, avain tarvitsee myös oikeuden bedrock:ListFoundationModels.
Google Cloud Palvelu: Gemini API:lla API-avain; Vertex AI:lla Google Cloud -projekti, Sijainti ja Palvelutili (JSON) Palvelutili tarvitsee Vertex AI User -roolin. Claude-mallit toimivat vain Vertex AI:n kautta.
OpenRouter API-avain; Sovelluksen nimi on valinnainen Usean valmistajan mallit yhdellä avaimella.
OpenAI-yhteensopiva Perusosoite ja, jos palvelin sitä pyytää, API-avain (valinnainen) Ollama, LM Studio, vLLM ja muut palvelimet, joissa on OpenAI:n API.

Varoitus

OpenAI-yhteensopivan palveluntarjoajan osoitteen on oltava tavoitettavissa alustan palvelimelta, ei sovelluksen käyttäjän tietokoneelta. localhost on itse alustan palvelin.

Palveluntarjoajan luominen

  1. Valitse Palveluntarjoajat-kohdassa Uusi palveluntarjoaja.
  2. Valitse Tyyppi. Tyyppi ei muutu luomisen jälkeen.
  3. Kirjoita Nimi. Sovellukset valitsevat palveluntarjoajan tällä nimellä: pieniä kirjaimia, numeroita, yhdysmerkkejä ja alaviivoja. Nimikään ei muutu luomisen jälkeen.
  4. Täytä Yhteys-kentät, jotka riippuvat tyypistä.
  5. Valitse otsikkoriviltä Testaa yhteys. Testi käyttää kirjoitettuja tietoja tallentamatta mitään ja kertoo, hyväksyttiinkö yhteys ja avain. Jos palveluntarjoajalla on malliluettelo, se näkyy kohdassa Sallitut mallit.
  6. Valitse Sallitut mallit -kohdassa mallit, joita sovellukset saavat käyttää, tai valitse Lisää malli ja kirjoita nimi. Valitse kunkin mallin käyttö: Teksti, Upotukset, Kuvat, Litterointi tai Puhe. Microsoft Foundryssa valitse myös muoto: OpenAI-muoto tai Anthropic-muoto (Claude).
  7. Tarkista Rajat ja valitse Tallenna.

Uusi OpenAI-yhteensopiva palveluntarjoaja ja sen yhteyskentät
Uusi OpenAI-yhteensopiva palveluntarjoaja ja sen yhteyskentät

Tunnistetiedot

  • Ne kirjoitetaan, eivätkä ne koskaan palaa näytölle. Kentässä lukee Asetettu — kirjoita vaihtaaksesi tai Asettamatta.
  • Jos kenttä jätetään tallennettaessa tyhjäksi, tallennettu tunnistetieto säilyy.
  • Jos vaihdat osoitteen (Microsoft Foundryn Resurssin osoite tai yhteensopivan palvelimen Perusosoite), tallennettu tunnistetieto ei lähde uuteen osoitteeseen: sinun on kirjoitettava se uudelleen. Näin kukaan ei voi lähettää avainta, jota ei näe, omalle palvelimelleen.
  • Tarkastusloki tallentaa, mitkä tunnistetiedot kirjoitettiin, ei koskaan arvoa.

Rajat

  • Enimmäisaika (s): kuinka kauan pyyntö saa kestää, 5–600 sekuntia (oletus 120). Päättelymalli voi tarvita yli minuutin.
  • Samanaikaiset pyynnöt: kuinka monta pyyntöä tälle palveluntarjoajalle on käynnissä samanaikaisesti kaikista sovelluksista yhteensä (oletus 4). Muut odottavat vuoroaan.
  • Käytössä: kun palveluntarjoaja on pois käytöstä, mikään skripti ei voi käyttää sitä, ja tunnistetiedot säilyvät tallessa.

Palveluntarjoajan sivu, jossa on sallitut mallit ja rajat
Palveluntarjoajan sivu, jossa on sallitut mallit ja rajat

Palveluntarjoajan muokkaaminen ja poistaminen

  • Muokkaa valitsemalla palveluntarjoajan nimi tai avaamalla rivin ⋮-valikko ja valitsemalla Muokkaa.
  • Poista avaamalla rivin ⋮-valikko ja valitsemalla Poista. Vahvistus näkyy luettelon yläpuolella. Palveluntarjoajaa käyttävät sovellukset eivät voi kutsua tekoälyä, ennen kuin ne valitsevat toisen palveluntarjoajan.

Usein kysytyt kysymykset

Testi ilmoittaa ”Palveluntarjoajaan ei saatu yhteyttä” paikalliselle palvelimelle. Osoitteen on oltava tavoitettavissa alustan palvelimelta. Tarkista osoite ja portti sekä se, että palvelin hyväksyy yhteydet muilta koneilta.

Microsoft Foundryn testi ei näytä malleja. Foundryssa kutsutaan resurssin käyttöönottoja, joita API ei luettele. Testi vahvistaa avaimen; kirjoita käyttöönottojen nimet kohdassa Lisää malli.

Kuka voi nähdä avaimet? Ei kukaan. Näyttö kertoo vain, onko kukin tunnistetieto asetettu, skriptit eivät koskaan saa niitä, eikä sovelluksen vienti vie niitä mukanaan.