Sensuroimattoman API:n dokumentaatio

Pika-aloitus: Asenna ja määritä

Jokaisen osion ensimmäinen lause vastaa osion otsikossa esitettyyn kysymykseen. Ensimmäinen askel on hankkia API-avaimesi hallintapaneelista. Kun sinulla on kirjautumistiedot, konfiguroi asiakas osoittamaan base URL:iimme. Tämä varmistaa, että kaikki pyynnöt kulkevat uncensored-infrastruktuurimme kautta standardien OpenAI-päätepisteiden sijaan. Sinun tarvitsee vain päivittää base URL ja asettaa valtakirjavastake. API:emme on täysin yhteensopiva standardien OpenAI SDK:iden kanssa, joten voit käyttää olemassa olevaa asiakaskoodiasi vähäisin muutoksin.

Todennus ja otsikot

Todennus perustuu yhteen Bearer-tokeniin, joka välitetään Authorization header. Jokaisen pyynnön on sisällettävä tämä avain tilin vahvistamiseksi ja esimaksukrediittien vähentämiseksi. Jos avain puuttuu tai on virheellinen, API palauttaa 401-virheen. Voit luoda uuden avaimen milloin tahansa hallintapaneelista, mikä mitätöi välittömästi edellisen. Säilytä avain turvassa, sillä se on ainoa tunnus krediittisi saldoselle ja käyttörajoille.

Chat Completions Endpoint

Lähetä tekstipyyntöjä osoitteeseen POST /v1/chat/completions päätepiste. Tämä on standardiliittymä vastausten luomiseen sensuroimattomasta mallista. Määrität listan viestejä käyttäjän syötteestä ja valinnaisista järjestelmäohjeista. Malli palauttaa tekstimuotoisen vastauksen ilman yleisiä sisältöhylkäyksiä, joita löytyy pääsuurista malleista. Käytä tätä päätepistettä kaikkiin tekstin luontitarpeisiin, muistaen, että upotuksia (embeddings), kuvia ja ääntä ei tueta.

Streamausvastaukset

Ota virtauskäyttöön asettamalla stream parametri arvoon true. Tämä palauttaa vastaukset osissa niiden luomisen aikana, mikä vähentää havaittua viivettä pitkissä tulosteissa. Sinun on käsiteltävä Server-Sent Events (SSE) jäsentääksesi jokaisen tokenin sen saapuessa. Viimeinen osa sisältää kokonaistokenkäyttötilastot laskutusta varten. Streamaus on ihanteellinen reaaliaikaisille chat-liittymille tai sovelluksille, jotka vaativat välittömiä osittaisia tuloksia.

Malliparametrit ja vaihtoehdot

Säädä mallin käyttäytymistä käyttämällä yleisiä parametreja kuten temperature, top_p, ja stop. Voit pakottaa rakenteisen tulosteen asettamalla response_format vastaan json_object tai käytä tools funktiokutsuille. Malli tukee 100 000 tokenin konteksti-ikkunaa, mikä mahdollistaa laajan syöttödatan. Maksimituotos on 16 000 tokenia pyyntöä kohti, ellei toisin määrätä. Säädä näitä asetuksia tasapainottaaksesi luovuutta ja tarkkuutta tiettyä käyttötapaustasi varten.

Rajoitukset, virheet ja konteksti

Jokaisella API-avaimella on rajoitus 300 pyyntöä minuutissa ja 8 samanaikaista yhteyttä. Pyynnön rungon koko ei saa ylittää 8 Mt. Yleisiä virheitä ovat 401 virheellisistä avaimista, 402 kun krediiitit loppuvat ja 429 nopeusrajoituksista. Esimaksukreditiittisi vanhenee, joten voit keskeyttää käytön menettämättä varoja. Kontesttilaakko sisältää sekä prompt- että completion-tokenit. Jos ylität rajat, API palauttaa sopivan virhekoodin. Käytä uudelleenyrittämistä eksponentiaalisella viiveellä 429-virheiden käsittelyyn.

cURL

Copycurl https://api.chatgptsansrestriction.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the capital of France?"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.chatgptsansrestriction.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.chatgptsansrestriction.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)