Hub documentation

Spaces 上的 ChatUI

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Spaces 上的 ChatUI

HuggingChat 是一个开源界面,让每个人都能体验 Falcon、StarCoder 和 BLOOM 等开源大语言模型。借助名为 ChatUI 的官方 Docker 模板,您可以利用 Hugging Face 的基础设施,通过几次点击即可基于您选择的模型部署自己的 HuggingChat。

部署你自己的 Chat UI

要开始使用,只需前往此处。在此应用的后端中,使用text-generation-inference 以实现更优化的模型推理。由于这些模型无法在 CPU 上运行,您可以根据所选的模型选择 GPU。

您应提供一个 MongoDB 端点,用于写入您的聊天记录。如果留空此部分,您的日志将持久化到 Space 内部的数据库中。请注意,Hugging Face 无法访问您的聊天记录。您可以通过提供 application name 和 application color 参数来配置 Space 的名称和主题。 在此下方,您可以选择要部署的模型的 Hugging Face Hub ID。您还可以以 JSON 格式修改下方字典中的生成超参数。

注意:如果您希望部署具有访问权限控制的模型或私有仓库中的模型,只需在仓库密钥中提供 HF_TOKEN 即可。您需要将其值设置为从此处获取的访问令牌。

创建完成后,您将在您的 Space 上看到 Building。构建完成后,您就可以体验自己的 HuggingChat 了!

开始聊天!

阅读更多

Update on GitHub