Skip to content

是否有提供openai-compatible的服务的方法? #11

@dinobot22

Description

@dinobot22

基于readme 中的方法已经成功在开发板上运行模型, 但我目前只能在命令行与模型进行交互, 这种方法是很受限的.
openai-compatible api 是社区的主流调用模型方法,有很好的适配性,我想知道当前仓库是否有这方面的实现?
如果有: 能否提供一个建议的use tutorial
没有的话: 是否有提供这种接口的计划

非常感谢!

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions