已收藏
图书详情
内容简介:
《构建私有化大模型应用系统:部署、推理与知识库搭建》从基础理论到代码实现，系统阐述了构建私有化大语言模型（LLM）应用系统的完整流程，重点关注部署环境、模型推理、知识库搭建与应用集成等核心工程环节。
《构建私有化大模型应用系统:部署、推理与知识库搭建》分为3部分，共10章。首先，深入讲解模型格式、推理引擎、多GPU部署与嵌入生成技术；随后，围绕RAG系统构建、向量数据库、API接口封装、前端交互设计与私有化安全机制展开介绍；最后，通过项目案例，演示模型部署与知识库搭建的全流程。
读者可通过本书系统掌握LLaMA、Qwen、Baichuan等主流模型的部署方式，理解vLLM、TGI等推理引擎的性能调优手段，并掌握向量化表示、FAISS/Milvus索引构建及RAG问答系统的完整流程。
《构建私有化大模型应用系统:部署、推理与知识库搭建》还特别强调私有部署中的安全合规、权限控制与攻击防御机制，并提供法律问答与企业助手两个实战案例，具备较强的可复用性与工程价值。 
