Interface: TextGenerationStreamBestOfSequence

Propriedades

finalizar _ motivo

• finish_reason: TextGenerationStreamFinishReason

Motivo de término da geração

Definido em

inference/src/tasks/nlp/textGenerationStream.ts:37

---

gerado _ texto

• generated_text: string

Texto gerado

Definido em

inference/src/tasks/nlp/textGenerationStream.ts:35

---

tokens gerados

• generated_tokens: number

Número de tokens gerados

Definido em

inference/src/tasks/nlp/textGenerationStream.ts:39

---

prefill

• prefill: TextGenerationStreamPrefillToken[]

Tokens de prompt

Definido em

inference/src/tasks/nlp/textGenerationStream.ts:43

---

seed

• Optional seed: number

Semente de amostragem, caso a amostragem tenha sido ativada

Definido em

inference/src/tasks/nlp/textGenerationStream.ts:41

---

tokens

• tokens: TextGenerationStreamToken[]

Tokens gerados

Definido em

inference/src/tasks/nlp/textGenerationStream.ts:45

Update on GitHub