火山引擎火山方舟RAG检索增强解决方案
首页
火山引擎大模型服务，用AI驱动增长
火山方舟RAG基于字节基座大模型给客户赋能
RAG检索增强，让大模型更专注并精准地生成答案RAG = 企业专有数据库 / 外部特定领域知识 + 问题检索 + 大模型生成
大模型的训练数据通常是固定的，无法反映最新的信息。而 RAG 可以实时检索最新的信息，使大模型能够回答关于当前事件和热点话题的问题。
RAG 可以通过检索事实性信息，对大模型的生成进行约束和验证，减少幻觉的出现。RAG 也可以为大模型提供更多的上下文信息和语义理解，进一步提升准确性。
不同领域的知识和术语差异很大，大模型可能难以准确理解和回答特定领域的问题。RAG 可以根据问题的领域，检索相关的领域知识，帮助大模型更好地适应不同领域的问题。
火山方舟RAG可以应用在多行业、多场景
火山方舟RAG的多种实现方式
火山方舟RAG的实现方式一
火山方舟RAG的实现方式二
体验中心，升级对话体验与交互，支持图片内容理解，更便捷全面地设置高级参数，并可轻松了解tokens定义与计数。
支持API球SDK方式接入，用户可自行定义组合方式并接入不同大模型。
火山方舟RAG知识库平台功能全景
火山方舟RAG优势
RAG知识库功能详解 -- 文档上传
支持多种文档格式
内容安全
数据安全
通过加密的传输链路、数据落盘即加密和安全沙箱等方法，在训练和部署模型过程中有效保障数据安全，防止恶意攻击和数据泄露。
RAG知识库功能详解 -- 解析切片解析速度快
千字符解析仅需亳秒级别。
支持图片OCR
支持对 pdf、docx 文档内的图片进行文字识别并将其保存成独立切片。
支持自定义分隔符切片
支持自定义分隔符切片或打开合并邻近短文本片。
RAG知识库功能详解 -- Embedding综合字节自研向量化模型及多功能版的优势，融合语义和关键词检索，适合大多数场景，检索效果表现最佳
Doubao-embedding
短文本高精度+多功能版
基于语言模型抽取字面匹配特征及语义特征，检索时兼顾两者，模型会分别使用最高质量的向量化模型产出稠密向量和稀疏向量，分别适用于语义检索和关键词检索。
RAG知识库功能详解 -- 构建索引支持Dense &Sparse
支持混合索引的 HNSW 算法。混合索引算法可以同时对数据集中的稠密向量和稀疏向量进行索引，并在检索时返回兼顾两种类型相似性的结果。
向量化模型对应不同索引算法
支持多种量化方式
Int8、Float、Fix16。
RAG知识库功能详解 -- 检索召回提供客户便捷测试能力
支持自定义召回策略
设置召回切片数、语义检索权重（Dense_weight）。
支持开启重排模型
默认提供基于doubao-pro-4k精调等重排模型，同时支持选择自有推理点。
RAG知识库功能详解 -- Prompt+大模型支持用户选择豆包大家族
豆包主力模型都可支持。
支持用户选择自建推理点
支持用户选择在方舟上搭建的推理点。
陪聊社交：Memory Bot 提升用户对话体验项目背景
某陪聊社交App是国内领先的企业结合大模型。
主要业务场景：
1、角色扮演：在需要倾诉或寻求情感支持时，用户可以通过App与愿意倾听的人聊天；
2、社交互动：用户通过角色扮演与其他玩家进行社交，建立友谊或竞争关系。
文化传媒：用RAG提升用户对话体验项目背景
某在线阅读App是国内领先的企业，结合大型。
主要业务场景：
1、传统的搜索无法满足用户个性化的搜索需求；
2、传统数据库在大数据量级下的检索速度亟待提升。
某智能客服厂商:用RAG大幅提升客服坐席响应速度和质量项目背景
头部智能客服厂商，香港上市公司,服务企业客户超 3000家,涵盖电商、教育培训、金融服务等十多个领域,在全国8个地区建立大型托管型呼叫中心平台，并发服务能力超 10.00 座席。
客户借助方舟知识库RAG 的产品能力与实践沉淀，通过构建商品知识库，大幅提升坐席回复效率和质量。
某在线医疗平台：用RAG提供智能医疗咨询项目背景
1、互联网医疗平台，业务涵盖了医生教育和患者服务两大领域。
2、将医疗领域专业资料给到知识库，提升大模型问答的医疗专业度，并提升整体app的停留。
· 客户导入学术主页、患者答疑、经典阅读、文章专栏、话题问答、文献速览内容，通过知识库进行切片解析和检索。
· 将客户高度相关的切片拼接提示词给到大模型，生成更准确的回答。
· 专业算法团队多轮提示词优化，实现更佳的模型性能和输出效果。
合作价值
· 速度快：比起传统人工回复或关键词搜索的能力，RAG智能搜索大大提升了回复速度，并且对用户提问的要求降低
· 成本省：节约人工客服压力
· 服务佳：7x24h响应，及时响应、排查和分析解决问题，保障业务稳定运行
某头部游戏厂商：用RAG扮演智能NPC客服项目背景
1、游戏行业头部厂商，月活千万。
2、游戏玩家使用传统智能客服方式只能用关键词进行智能问答,问答内容有限，且语气比较平淡，并且有较多内容依然需要人工进行支持，成本高，效率低。
解决方案
· 客户导入自有客服问答对、游戏玩法和游戏攻略等历史资料，通过知识库进行切片解析和检索。
· 将客户高度相关的切片拼接提示词给到大模型，生成更准确的回答。
· 专业算法团队多轮提示词优化，实现更佳的模型性能和输出效果。
· 使用联网内容插件，检索抖音/字节系内容插件能力，增加玩家互动新鲜感。
合作价值
时延佳：百万条向量数据检索时延20ms内，远超友商的58ms；
体验好:与客服对话时能感受到对方的语气和情绪；
成本省：节约人工客服压力；
收益正：相比传统词库，问答效果显著提升，一些游戏服的次留和长留显著正向；
服务佳：7x24h响应，及时响应、排查和分析解决问题，保障数干万DAU 业务稳定运行。
产品推荐
