相关第三方服务
服务名称 | 服务功能 |
---|---|
Redis | 缓存服务 |
MongoDB | 日志存储 |
Nginx | 代理服务;分布式部署 |
Elasticsearch (V7.14.0 及以上) | 存储全文检索索引;向量存储 |
Neo4J(V5.26.4及以上) | 知识图谱信息存储。用于存储政策文档关联关系。 |
MinIO(OSS) | 非结构化文件存储。若有其它OSS服务可用,则不需要安装 |
minerU2.0 | 文档知识库上传文档时,用于PDF转MD格式 |
LibreOffice 或 Openoffice | 浏览器直接预览Word等格式文档时,转换为浏览器支持的文件格式进行预览 |
Ollama \ vLLM | 模型推理平台,按需部署。拉取相关模型 |
模型列表
模型 | 相关功能 |
---|---|
主模型 | 系统里称为”学习模型”,如Qwen系列、DeepSeek。用于对话、对话标题生成、问题改写、相关性识别、意图识别、知识学习(产生知识图谱、知识项等),分带思考和不带思考两类,其中非对话功能最好选择不带思考的模型。 |
嵌入模型 | 也称为“向量模型”,如:bge-m3 。用于把文本内容转为向量;文档块、指标、规则等都需向量化存储和召回 |
重排模型 | 用于把一组文本根据用户问题的相关性程度排序。如:bge-reranker-v2-m3 。 |
视觉模型 | 也可以称为多态模型,如:qwen-vl-max,一般是带VL的。目前主要用于对话时,把用户上传的文档(图片型pdf\图片)识别出文字,用作用户上下文。 |
第三方服务部署参考
https://www.yuque.com/xuanfengxiaocilang/zns1ih/gk1qaa7l9amy6fwg?singleDoc#j8vtW
Minio
最新版无法通过页面的控制台配置accesskey
https://blog.csdn.net/liudongyang123/article/details/149109750
作者:林 创建时间:2025-05-22 09:23
最后编辑:林 更新时间:2025-09-03 16:32
最后编辑:林 更新时间:2025-09-03 16:32
