01模型选择
模型测试与选型
用企业实际需要处理的问题和文件，评估候选模型。
比较回答品质、处理速度与设备需求，决定采用的模型及是否需要调整。
03 Firmground AI Infra
企业模型部署与管理
按业务用途、现有设备及资料要求选择模型，安排部署和日常运行。支援需要在企业内部使用 AI 的团队。
AI Infra流程演示
输入01 / 04
选择模型与运行环境
MODELLLM / InferenceRUNTIMEGPU · ContainerENDPOINT/v1/chat/completions
模型部署流程
- 01
确认需求
了解使用人数、工作内容、现有设备及资料要求。
- 02
测试模型
使用具代表性的文件和问题，比较模型效果。
- 03
安排部署
确认模型运行位置、使用范围及应用连接。
- 04
运行维护
查看服务状态，处理问题，安排版本更新。
常见挑战
模型效果需要验证
通用示范未必反映企业实际文件与任务的效果。
资料有存放要求
部分文件需要在指定环境处理，并限制使用范围。
服务需要持续维护
使用量和模型版本变更后，需要重新确认服务表现。
02企业部署
内部环境部署
按企业的资料存放和存取要求，安排模型与相关服务的运行位置。
规划使用帐户、文件范围和业务系统连接，完成后进行使用验证。
03日常管理
运行状态与版本管理
查看模型服务的使用情况，了解请求是否正常处理及是否需要调整资源。
更新前使用相同的工作资料确认效果，记录版本和维护安排。