Zaishu Tech智能知识库解决方案

客户背景

Zaishu Tech是一家专注于构建分布式GPU计算基础设施的技术公司，为动态的企业级应用场景提供高性能计算解决方案。公司致力于让GPU基础设施提供商能够更轻松地扩展规模，同时让全球范围内的买家能够更便捷地获取GPU资源。

客户挑战

Zaishu Tech的技术团队积累了大量关于GPU架构、性能调优、故障排查的经验知识，但这些知识分散在文档、代码注释、工程师头脑中，难以系统化管理和复用。

这种情况短期会带来知识流失风险，资深工程师离职导致关键知识流失，团队能力断档，人力成本高企，无法形成组织级能力沉淀；长期来说会导致组织学习能力丧失，创新能力枯竭，无法应对技术演进和市场竞争。

方案设计

知行志成助力Zaishu Tech高效管理企业知识及全球行业信息，基于自研EAIGC平台与AWS云服务，成功设计并交付智能AI知识库系统。

设计方案与核心技术：采用分层架构设计，打造一体化知识中枢：
智能中枢层
EAIGC平台：集成RAG框架，实现知识检索与语义理解双重优化。
AWS Bedrock (NOVA LITE，Titan text Embeddings v2)：通过NOVA LITE模型提供多语言（英/日/韩等）语义分析，自动生成知识摘要与问题答案。
数据处理层
向量知识库：基于Milvus构建，实现毫秒级技术经验信息检索。
响应式Web/移动端：利用文本语音交互的智能问答。

AWS相关服务使用说明

在AI智能知识库解决方案中，我们深度集成了以下AWS专业服务，并启用其高级功能以满足系统的查询结果响应速度和质量的高要求：

1. AWS NOVA LITE 通用模型
AWS NOVA LITE能够处理文本、图像、视频和文档多种输入格式，搭载300K token上下文窗口（约225,000个单词或30分钟视频素材），可实现更广泛的推理分析和丰富的上下文学习。每百万token的输入价格低至0.0175美元，输出价格低至0.07美元，非常适合大规模商业应用。

2. Amazon DocumentDB（专业文档数据库服务）
高级功能应用
Amazon DocumentDB 兼容 MongoDB 3.6、4.0 和 5.0 驱动程序和工具。基于MongoDB 4.0开发的EAIGC应用程序，几乎没有做任何改动，就可以集成使用Amazon DocumentDB
全文检索与混合搜索功能可针对文本索引字段搜索部分或全部关键字，并根据相关性对结果排序。还能结合向量搜索实现混合搜索，通过双路召回的方式获得更精准和多样化的检索结果，可用于构建知识库系统。

3. Amazon Titan（专业文本模型）
Amazon Titan Embeddings 是一种文本嵌入模型，可将自然语言文本，包括单词、短语甚至大型文档，转换为数字表示形式即向量。它针对文本检索进行了优化，支持检索增强生成（RAG）用例。Titan Embeddings 支持超过 25 种语言，最多可输入 8192 个令牌，能返回 1536 个维度的输出向量。此外，Amazon Titan Text Embeddings V2 还可选择输出 256、512 或 1024 维度的向量，并提出了改进的单位向量归一化方法，有助于提高测量向量相似性时的准确度。

项目成果

• 关键员工核心知识留存率提升

此前，关键员工核心知识留存率维持在50%左右，通过收集员工经验数据，录入知识库，可以将留存率提升至80%以上，最终的成果为关键员工核心知识留存率高达百分之85%。该方案使得关键员工离职带来的影响降低30%，新员工培训周期从6周压缩至2周。

• 外部行业技术专利文献获取时效性大幅度强化

以往从人工收集和整理最新行业技术专利文献需要10天，通过配置知识库通过接口集成定时采集，将获取获取最新行业技术专利的及时性提升至不到24小时，最终实际成果为缩短至18小时。该配置将因为合规操作不当导致的游戏推广和运营活动的损失降低了90%。