AI服务器建设进展汇报

将 Qwen3.6-27B 大模型 API 接口面向公司各部门同事开放使用。同事可通过 ChatBox、Cherry Studio 等客户端接入，或通过 OpenAI 兼容 API 直接调用，用于日常办公辅助、文案撰写、代码补全、翻译等场景。制定接口使用规范与配额管理策略，确保资源公平分配。

部署 Dify RAG 平台，完成与 vLLM 大模型、TEI Embedding 和 Reranker 的全链路对接。随后以人事部门作为知识库应用的第一个试点，将公司规章制度、员工手册、考勤政策、福利方案、招聘流程等文档导入知识库。人事同事可通过自然语言提问，AI 自动检索相关内容并生成准确回答，减少重复性咨询工作量。试点成功后逐步推广至行政、财务、法务等部门。

根据使用反馈，逐步引入更多模型：多模态模型（支持图片理解）、代码专用模型（提升开发效率）、轻量级模型（降低延迟、提高并发）。探索模型微调与私有化训练能力，针对公司业务场景定制优化。