AIGC引领保险数智化变革.ppt

下载

下载

280积分

350积分

下载

350积分

VIP价：280积分

AIGC引领保险数智化变革 李立 新华三集团高级副总裁、首席科学家 2024年05月 目 录 CONTENTS 01 新华三落地实践03 人工智能发展趋势和保险适用场景 新华三能力集02 人间一日，AI十年，大模型技术日新月异 ◦ 斯坦福小镇论文- AI Agent： ◦ 硅基文明的无限可能 性：使用工具、协作和 决策能力的首次实验 ◦ Chat GPT ◦ 大语言模型进入公众视野 ◦ 开启人工智能Iphone时刻 ◦ 英伟达Chat with RTX发布: ◦ 端上智能的曙光 ◦ Google Gemini系列发 布： ◦ OpenAI对手开始出牌，竞 争正式加速升级 ◦ GPTs + Assistants API： ◦ 初级Agent形态与GPT 生态构建 ◦ ControlNet提出： ◦ AI生图控制基础，文生图成 为真正的生产力工具 ◦ GPT-4上线： ◦ “与AGI的第一次接 触”，人类开始看到 “世界模型”的影子 ◦ Mistral-7B， Mixtral- 8x7B开源：模型小型 化的里程碑， 打 平 超 越 (175B) ◦ LLaMA开源： ◦ 开源生态的反击， 大多数公司的“自 研”有了基础 ◦ OpenAI Sora发布： ◦ 视频生成代际跃迁，再次 证明AGI相对“窄AI”的 代 际优越性；虚拟现实成 为可能 3 大模型及应用成为知识沉淀的最佳载体 网络建设 设备互联全IP化 软件定义网络 网络即服务NaaS 云平台建设 （Cloud） 业务上云 云原生 数据平台建设 （Data Lake/warehouse） 数 据 入 湖 数 据 集 成 数 据 分 析 数 据 资 产 数据服务 大模型建设 （Multimodal LLM） AI算法 AI 使能基础设施 公域大模型 预训练基座大模型垂 直领域私域大模型 基于大模型的反应系统 （LLM based ARS） autonomic response system 数字原生 能力集成行动系统 自主策略制定 自主任务执行 自主评估优化 IP化 云化 数据化 知识化 自主化 • 行业数字化转型路径明晰，“IP化-云化-数据化”为主线，智能化贯穿始终 • 数据平台建设解决了数据使用问题，但没有解决知识沉淀问题 • 下一阶段，“数据化-知识化-自主化” 4 AIGC在金融行业的应用场景 智慧风控、反欺诈、安全服务、自助分析、智能知识库…… 智能代码生成、智能运营、知识管理、人力管理、智能培训、文档处理…… 大模型相关金融的应用场景 前台 通用金融场景 前台 专用金融场景 银行 保险证券智能征 信 智能核保 智能投行贷款催收 智能理赔 智能资讯 …… ………… 智能客服、智能投顾、智慧营销、智能助手、客 户获取、客户维护、客户跟进、智能话术、智能 投研、金融数字人…… 中台 后台 保险产品智能配置 保险客服 代理人销售支持 智能定损 智能理赔 事前预防减损 防欺诈 车险定价 代码生成 参考财通证券《保险+AI 深度报告》 5 目 录 CONTENTS 03 1. 人工智能发展趋势和保 险适用场景 2. 新华三能力集新 华三落地实践 AI GPU服务器 国产化GPU服务器 海量分布式存储 并行文件存储 RoCE网络 IB网络 800G 交换机 RDMA无损网络 200G/400G/800G 新华三AI全栈解决方案能力布局 IP化 云化 数据化 AI IN ALL 2003 华为3com成立 布局IP化 2013 云计算产品线成立 启动云化布局 2016 新华三集团成立 启动数据化布局 2018 AI研究院成立 启动AI布局 2023 百业灵犀大模型发布 具备AI全栈能力 傲飞 AI算力平台 绿洲 数据平台 CloudOS 云平台 交换机 路由器 新华三具备AI全栈解决方案能力 商用/国产化 CPU服务器 全闪/混闪 存储 NAS/超融合/大数据 存储 100G/200G网络 20年深耕积累 CloudOS 云平台 CloudOS 紫鸾 云平台 SDN CloudOS 云平台 绿洲 数据平台 多元异构算力调度 绿洲 数据平台 激活数据要素价值 全栈 液冷 突破 能效 瓶颈 高性能 算力集群 高品质 网络连接 AI助 手（LinSeerCopilot）大模 型使能平台（LinSeer Hub） 百业灵犀大模型 （LinSeer LLM/CV/多模态） 新华三私域大模型 全栈能力，一站式应用部署 7 新华三智算战略 “1”百业灵犀私域大模型 AIin ALL 让新华三产品和解决方案更智能 AI for ALL 赋能百行百业，让我们的客户更智慧 行业专注、区域专属、数据专有、价值专享 “N”优选生态大模型 基于行业数据与应用场景的大模型定制化和解决方案能力 政企联动、生态聚集、打造产业新高地 充分发挥算力和联接双基石的乘数效应 8 算力 算力多元化 联接 联接标准化 新华三保险智算解决方案  大模型全栈能力，支撑从模型到 基础设施一站式应用部署  统一的数据共享平台，支持行业 数据要素统一治理和管理  算力、存力、运力协同感知的高 性能计算集群  符合国家“双碳战略”的零碳绿色 算力中心 保险行业智能化应用 数据 供给 零碳数据中心 液冷散热 绿色供电 高效节能 智能可靠 傲飞算力平台 数据标注 算法开发 模型训练 应用推理调度优化 模型仓库 资源监控 工程化 数据采集 智能调优 CT设备 IT设备 安全感知 数据安全 网络安全 应用安全 算力基础设施 异构算力 GPU CPU ASIC 海量存储 对象文件 分布式并行文件 无损网络 主动安全 大模型服务 大模型评估微调服务提示词工程 推理服务预训练服务 大模型使能平台 绿洲数据平台 数据采集 数据治理 数据开发 数据服务数据安全 数据管理 湖仓一体 可视化 数据要素提供 大模型服务 云平台 9 VPC 虚拟机 容器 裸金属 云存储 EIP …… 代码生成 智能客服 内容生成 智能知识库 百业灵犀AI助手 LinSeer Copilot 智能核保 智能理赔 智能风控 智能投研 10 百业灵犀大模型，提供专业、灵活、安全、高效的能力 专业 数十年行业客户理解，十数 个行业客户数据，训练出贴 合行业场景的通用底座模型 灵活 提供百亿及数百亿的两个模 型版本，并通过DMOE技术 实现千亿乃至万亿模型的支 持，提供灵活的模型选择 安全 去除不合规的原始训练语料， 采用行业场景的训练数据，从 模型层面保证合规性 高效 单卡完成模型推理部署，既 能够满足数十人并发需求， 支撑数百人日常使用，极大 降低模型部署和使用成本 “通识”为基，“四专”为用，深度贴合行业场景 userid:520426,docid:163607,date:2024-06-01, 大模型使能平台(LinSeer Hub) 让你用好大模型 大模型一站式服务平台，集成AI助手，帮助行业客户用好大模型，快捷构建智能应用，实现“模型使用自由” 应用层 大模型使能平台 政府 医疗 教育 企业 运营商 模型层 工具 & 框架层 算力基础设施层 行业适配 提示词工程 知识库 插件服务 模型集成 多模型管理 推理服务 评估优化 自动智能 服务编排 应用管理 自动任务分解 内容安全 问题侧防护 模型侧防护 答案侧防护 AI助手 生 态 伙 伴 + 新 华 三 更 安全 更 高效 更 灵活 更 简单 • 模型灵活集成 • 流程自动智能 • 能力无限拓展 • 行业专属适配 • 安全多重保障 11 使能平台产品原理：驱动大模型，赋予应用智能 大模型使能平台 LinSeer Hub Ⅰ 任务计划 Ⅳ 响应生成 Ⅲ 模型推理 AI 助手 推理平台 提示词工程 插 件 库 Ⅱ 任务执行 模型选择 /model-select 分布式推理/ distributed-reasoning 请你请根据我提供的文件，汇总 提炼其中第三章节的内容，要求 内容提炼到300字，并将结果以PDF的 形式 反馈。 第三章节的内容概括如下： 保险合同第三章的主要内容为： xxxxxxxxxxxxxxxxx xxxxxxxxxxxxxx。我 已根据提炼内容创建文件“”请点击 下载。 CV 大模型 NLP 大模型 跨模态 大模型 Ⅲ 插件调用 任务拆解 12 一站式工程化套件实现AIGC落地应用 • 全维度数据管理 • 多样化数据处理 • 分布式训练 • 大模型微调 • 大模型训练调优 • 可视化监控评估 • 基于质量管理 • 基于精度、类型 管理 • 交互式建模 • 拖拽式建模 • 云边端推理 • 云边端部署 • 知识库 • 向量库 • 能力集成 • 数据安全审计 大模型使能部署推理模型管理模型训练/微调算法开发数据处理 向导化 图形化 开放化 向导式+图形化降低AIGC门槛，开放性+工程化加速AIGC落地 工程化 13 金融国产化AI算力建设 统一资源管理、作业调度层 人工智能计算业务 Kubernetes调度 GPU虚拟化\Docker AI集群 国产化计算池 高性能集群存储池 低时延无 损网络 商业计算池 基础开发框架 驱动、编译、加速库 逻辑计算 算法、应用 Tensor flow Pytorch Caffe 百度 PaddlePa ddle ResNet Kaldi 大模型 Llama、智谱、百度文心、阿里通义千问、百川…… GNMT … MXNet 一流科技 OneFlow CPU（Intel、AMD） Nvidia GPU Ubuntu CentOS CPU（海光、鲲鹏、飞腾） …Windows 中标麒麟 统信UOS Nvidia CUDA-X AI生态 （CUDA、加速库、 函数库） Intel OneAPI 软件栈 AMD ROCm 软件栈 昆仑芯 XRE 软件栈 天数 寒武纪 iX Neuw 计算框 are 架 软件栈 海光 DTK 软件栈 阿里龙蜥 旷视天元 MegaE ngine 操作系统 … 商业化AI算力技术栈 国产化算力技术栈 Intlel Gaudi2 AMDM I 300 昆仑芯BI/MR MLU DCU… AI芯片 AI 计 算 开 发 框 架 场景 算法 新华三金融AI算力中枢，整合产业软硬件多元、开放生态 异 构 算 力 基 础 平 基 台 础 计 算 算力资源 适配多软 件生态 14 保险行业AI赋能场景落地路径 构建初步方案与 落地路线图 选择试点场景选择合作生态 自身战略分析 理清业务流程 与数据资产 总结业务痛点与 需求 建设AIGC前，应先进行自身业务分析并选择场景，依此确定技术方案及场景生态 阶段一 阶段二 阶段三 小规模算力基础设施 中规模算力基础设施 金融智算中心 AI客服赋能 智能知识库问答 智能保险文档生成 智能营销 代码生成 智能客服 AIGC智能运维 投研投顾 承保核保核赔 智能投研 数字人客服 场景应用 15 办公助理 目 录 CONTENTS 03 新华三落地实践 01 人工智能发展趋势和保险适用场景 新华三能力集02 某头部保险机构金融大模型组网方案总 结 AI大模型专有网络Hash算法全行业首 次落地验证 金融行业大模型ICT基础设施解决方案 落地保险头部客户 智能无损网络解决方案首次在金融行业 大模型中应用 AIGC金融大模型 平安科技金融大模型 项目采用新华三大模型 整体硬件解决方案项目， 采用了多项前沿技术。 无损以太网 AI大模型中RoCEVXLAN进行 租户隔离首次落地验证 SDN租户隔离LBN 算法应用 RDMA可视化 17