Elliot Yang 的动态
动态详情
返回列表
Elliot Yang
Ollama 0.2已发布更新
- 并行请求,可同时请求多个服务,每个请求仅占用少量内存。可支持同时处理多个聊天会话、为团队托管代码完成LLMs、同时处理文档的不同部分和同时运行多个代理。
- 运行多个模型,并增强了RAG功能(嵌入模型和文本完成模型可以同时加载到内存中)。
- 根据请求和可用 GPU 内存量自动加载和停止运行模型。
关注频道 @ZaiHuaPd 频道爆料 @ZaiHuabot
浏览:125点赞:0
动态详情
Ollama 0.2已发布更新
关注频道 @ZaiHuaPd 频道爆料 @ZaiHuabot