跳到主要内容
自动生成

此文档由 make doc-gen 命令从 Python 源码注释自动生成。

ModelProxy

Model Proxy 高层 API / Model Proxy High-Level API

此模块定义模型代理资源的高级API。 This module defines the high-level API for model proxy resources.

ModelProxy

class ModelProxy(ModelProxyImmutableProps, ModelProxyMutableProps, ModelProxySystemProps, ResourceBase)

模型服务

方法

🔹 create_async

async def create_async(cls, input: ModelProxyCreateInput, config: Optional[Config] = None)

创建模型服务(异步)

Args:

  • input: 模型服务输入参数
  • config: 配置

Returns:

ModelProxy: 创建的模型服务对象


🔹 create

def create(cls, input: ModelProxyCreateInput, config: Optional[Config] = None)

创建模型服务(同步)

Args:

  • input: 模型服务输入参数
  • config: 配置

Returns:

ModelProxy: 创建的模型服务对象


🔹 delete_by_name_async

async def delete_by_name_async(cls, model_Proxy_name: str, config: Optional[Config] = None)

根据名称删除模型服务(异步)

Args:

  • model_Proxy_name: 模型服务名称
  • config: 配置

🔹 delete_by_name

def delete_by_name(cls, model_Proxy_name: str, config: Optional[Config] = None)

根据名称删除模型服务(同步)

Args:

  • model_Proxy_name: 模型服务名称
  • config: 配置

🔹 update_by_name_async

async def update_by_name_async(cls, model_proxy_name: str, input: ModelProxyUpdateInput, config: Optional[Config] = None)

根据名称更新模型服务(异步)

Args:

  • model_Proxy_name: 模型服务名称
  • input: 模型服务更新输入参数
  • config: 配置

Returns:

ModelProxy: 更新后的模型服务对象


🔹 update_by_name

def update_by_name(cls, model_proxy_name: str, input: ModelProxyUpdateInput, config: Optional[Config] = None)

根据名称更新模型服务(同步)

Args:

  • model_Proxy_name: 模型服务名称
  • input: 模型服务更新输入参数
  • config: 配置

Returns:

ModelProxy: 更新后的模型服务对象


🔹 get_by_name_async

async def get_by_name_async(cls, model_proxy_name: str, config: Optional[Config] = None)

根据名称获取模型服务(异步)

Args:

  • model_Proxy_name: 模型服务名称
  • config: 配置

Returns:

ModelProxy: 模型服务对象


🔹 get_by_name

def get_by_name(cls, model_proxy_name: str, config: Optional[Config] = None)

根据名称获取模型服务(同步)

Args:

  • model_Proxy_name: 模型服务名称
  • config: 配置

Returns:

ModelProxy: 模型服务对象


🔹 list_all_async

async def list_all_async(cls) -> List['ModelProxy']

🔹 list_all

def list_all(cls) -> List['ModelProxy']

🔹 update_async

async def update_async(self, input: ModelProxyUpdateInput, config: Optional[Config] = None)

更新模型服务(异步)

Args:

  • input: 模型服务更新输入参数
  • config: 配置

Returns:

ModelProxy: 更新后的模型服务对象


🔹 update

def update(self, input: ModelProxyUpdateInput, config: Optional[Config] = None)

更新模型服务(同步)

Args:

  • input: 模型服务更新输入参数
  • config: 配置

Returns:

ModelProxy: 更新后的模型服务对象


🔹 delete_async

async def delete_async(self, config: Optional[Config] = None)

删除模型服务(异步)

Args:

  • config: 配置

🔹 delete

def delete(self, config: Optional[Config] = None)

删除模型服务(同步)

Args:

  • config: 配置

🔹 get_async

async def get_async(self, config: Optional[Config] = None)

刷新模型服务信息(异步)

Args:

  • config: 配置

Returns:

ModelProxy: 刷新后的模型服务对象


🔹 get

def get(self, config: Optional[Config] = None)

刷新模型服务信息(同步)

Args:

  • config: 配置

Returns:

ModelProxy: 刷新后的模型服务对象


🔹 refresh_async

async def refresh_async(self, config: Optional[Config] = None)

刷新模型服务信息(异步)

Args:

  • config: 配置

Returns:

ModelProxy: 刷新后的模型服务对象


🔹 refresh

def refresh(self, config: Optional[Config] = None)

刷新模型服务信息(同步)

Args:

  • config: 配置

Returns:

ModelProxy: 刷新后的模型服务对象


🔹 model_info

def model_info(self, config: Optional[Config] = None) -> BaseInfo

🔹 completions

def completions(self, messages: list, model: Optional[str] = None, stream: bool = False, config: Optional[Config] = None, **kwargs)

🔹 responses

def responses(self, messages: list, model: Optional[str] = None, stream: bool = False, config: Optional[Config] = None, **kwargs)