利用平台工程
面向企业的
提高开发人员的生产力
AI
辅助应用开发
电子书 面向企业的 AI 辅助应用开发
目录
1 前言....................................................................................................................................................................3
2 AI 在应用开发中的作用越来越大 ..................................................................................................................
4
氛围编程 ................................................................................................................................................................... 4
代理式编码 ............................................................................................................................................................... 5
3 AI 辅助应用开发的基础 ..................................................................................................................................6
内部开发人员平台和内部开发人员门户 ........................................................................................................ 6
平台工程 ................................................................................................................................................................... 7
软件供应链安全防护 ............................................................................................................................................. 7
4 应对 AI 辅助应用开发过程中的挑战 .............................................................................................................8
5 在企业中采用 AI 辅助应用开发 .................................................................................................................... 10
6 红帽如何助力企业组织采用现代开发实践 ..................................................................................................11
平台工程 ................................................................................................................................................................... 11
软件供应链安全防护 .............................................................................................................................................13
AI 辅助应用开发 .................................................................................................................................................... 14
7 结语................................................................................................................................................................... 16
电子书 面向企业的 AI 辅助应用开发 3
前言
企业应用开发正在经历一场重大变革,这在很大程度上得益于生成式 AI 的日益普及。氛围编程、代理
式编码等基于生成式 AI 的新兴方法提供的工具可辅助开发人员编写代码、撰写文档、进行调试甚至是
完整构建应用,进而显著提高生产力。
这类方法需要依托于其他基础实践。通过整合应用工具和最佳实践,采用内部开发人员平台(IDP)
可有效简化开发流程。随着平台工程的日益普及,越来越多的开发人员可轻松使用先进的开发工具。
软件供应链安全防护的扩展有助于在应用生命周期的各个阶段树立以安全为中心的意识。
在 AI 辅助实践的加持下,这些变革不仅可以简化并优化编码流程,还有助于减轻开发人员的认知负
荷,从而改善体验并提高效率和生产力。通过将这些方法集成到应用开发生命周期,企业组织能够加
快交付并发挥更大的创新潜力。
本电子书探讨了正在重塑应用开发格局的趋势和变革,以及它们赋予企业开发团队的能力。本书剖析
了 AI 辅助应用开发带来的机遇和挑战,并概述了企业组织优化其流程、平台和团队的实用方法。通过
采用以安全防护为先的集成式 AI 辅助方法,企业组织能够充分发挥现代企业应用开发的价值。
4电子书 面向企业的 AI 辅助应用开发
AI 在应用开发中的作用越来越大
随着工具日趋成熟及成功案例不断涌现,将生成式 AI 用于应用开发和交付这一做法获得了显著认可。
推动这一演进的两大关键趋势:氛围编程和代理式编码。
氛围编程
氛围编程是一种新兴的软件开发模式,在这种模式下,人类程序员直接编写代码的工作变少,而是更
多地充当高级协调者。“氛围编程”一词由计算机科学家 Andrej Karpathy 提出,它描述的是一种注重
直觉的人机回圈的交互方法,在这种方法中,开发人员通过自然语言指令、概念概述和渐进式优化的
方式来传达期望的效果(即所谓的“氛围”),而非通过语法细节来指定逻辑。
传统编程侧重于掌握语法和底层操作,氛围编程则聚焦于意图、架构和交互式调试。随着基础模型和
基于大语言模型(LLM)的专业化编程平台(例如 Replit、Windsurf 和 Cursor)的发展,氛围编程
逐渐兴起,它融合了提示词工程、敏捷设计和人机共创的理念,剥离了语法细节,让开发人员能够专
注于更高层级的设计和快速迭代。最终形成了一种更为顺畅且更具协作性的开发模式,既可提高灵活
性,又能快速实现迭代优化。这使得氛围编程尤其适合小型任务(例如生成单个函数和撰写文档)、
早期开发阶段以及探索性开发场景。
氛围编程的关键要素包括:
� 人类主导的流程:开发人员始终掌握控制权,使用自然语言提示词引导 AI,并对输出进行审核。
� 轻量级工具:工具通常嵌入集成开发环境(IDE)或具有无状态的简洁界面的 Web 应用,AI 负责
生成代码,开发人员则进行测试、运行和调试。
� 人类主导的规划:开发人员分解任务并撰写提示词,AI 则仅专注于当前请求,不进行整体规划。
� 手动验证:由于没有内置反馈环,因此,开发人员需要通过测试和优化提示词来检查 AI 的输出。
� 最低级别的安全防护功能:由于没有内置防护机制,开发人员必须使用外部工具排查漏洞并管控
风险。
5电子书 面向企业的 AI 辅助应用开发
代理式编码
代理式编码是 AI 辅助编程的一种更高级、更自主化的发展形式。与氛围编程“提示词-响应”的动态
交互模式不同,代理式编码最大限度地减少了对持续的人类指令的需求。它依赖于代理式 AI 系统,这
种软件代理能够独立解析高层级目标,将任务分解为子任务,规划执行策略,并根据实时反馈和结果
来调整行为。
这类 AI 代理具有意图性、前瞻性和自适应性,能够主动发起操作,访问工具和应用编程接口
(API),检索和处理外部数据,并通过自我评估循环实现输出的迭代优化。在架构层面,代理式编码
通常采用强化学习和模块化规划相结合的方式,集成多个专业化子代理,这些子代理能够通过协作来
完成更广泛的任务。如果说氛围编程为开发人员配备了一位高速协同的副驾驶,那么代理式编码则提
供了一位能够独立操控飞机的智能协作伙伴。这种程度的自主性使得代理式编码系统能够用于复杂的
多步骤工作流、流程自动化、业务运维以及动态的数据驱动型环境。
代理式编码的关键要素包括:
� 委托自主性:AI 代理承担更多职责,开发人员则负责设定高层级目标并对结果进行审核。
� 自动执行:代理能够在沙盒环境中自主完成完整的管道工作,无需持续的人工干预即可使用编译
器、API 和版本控制系统等工具。
� AI 驱动的规划:代理可在既定边界内将目标分解为更小的任务,并确定实现目标的步骤。
� 内置反馈环:代理可从测试结果、日志或人类反馈中学习,以便在需要时调整其行为并重新规划。
� 上下文感知:代理可留存过往交互记录、文档和代码来管理复杂的多步骤工作流,从而处理更大的
项目。
� 系统级生成:适用于创建完整的功能或系统,其中包括代码、测试、配置文件和文档,开发人员只
需完成少量的手动整合工作。
� 安全和监督:这些系统包含沙盒隔离、访问控制以及确保可追溯性的日志记录功能。代理能够监控
自身性能、分析错误,并且可以自动回滚或重试失败的操作。
AI 辅助软件工程的未来将走向混合工作流:将氛围编程的创造敏捷性与代理式系统的自动化功能相结
合。这形成了一种平衡的人机协作模式:开发人员的角色转变为设定目标并验证结果的监督者,智能
代理独立执行复杂的任务。
6电子书 面向企业的 AI 辅助应用开发
AI 辅助应用开发的基础
AI 辅助应用开发的成功落地并非单一举措所能实现的,而是以灵活、自动化且以安全防护为中心的实
践作为坚实的基础。内部开发人员平台和平台工程对于构建清晰、一致且妥善治理的环境至关重要,
而这些环境是生成式 AI 工具高效、安全运行的前提。
通过建立统一的开发人员体验、实现基础架构管理的自动化并集成全面的软件供应链安全防护,企业
组织可以创建必要的结构并树立信心,从而安全地整合基于 AI 的代码建议、测试和部署流程。
内部开发人员平台和内部开发人员门户
内部开发人员平台通过整合各种必要的工具和服务来实现软件开发流程的简化和自动化。该平台由两
个关键层组成:一个是应用平台(提供基本的基础架构和治理),另一个是内部开发人员门户(提供
简便易用的前端)。内部开发人员门户作为访问底层应用平台的入口,构建了支持自助式应用交付的
一体化开发生态系统。
内部开发人员平台旨在解决开发人员面临的挑战,通过提供集中式访问功能来满足开发人员的各种需
求,包括入职培训、资源置备和利用、文档管理以及工具和技术目录等支持。内部开发人员平台通过
共享工作流来提高协作性和跨团队的透明度。最重要的是,内部开发人员平台可自动执行重复性任务
以及提供自助服务功能,从而提高生产力。这一点在入职阶段尤为实用,高效的内部开发人员平台有
助于新开发人员快速上手,使其能够在更短的时间内创造价值。
对于希望在管理日益复杂的技术栈的同时最大限度地提高开发人员的自主性和开发速度的企业组织而
言,内部开发人员平台至关重要。内部开发人员平台旨在解决复杂技术格局带来的挑战,协调众多开
发团队,并提高开发人员的生产力。
7电子书 面向企业的 AI 辅助应用开发
平台工程
平台工程是一门专注于提高开发人员的效率和生产力的学科。通过内部开发人员平台提供常用的工具
和功能,企业组织可为开发人员提供所需的各种功能,使其能够安全地将代码部署到生产环境并在需
要时快速回滚,且无需管理底层复杂性。在平台工程实践中,开发人员无需掌握 Kubernetes 或其他复
杂系统的深层知识。取而代之的是,平台工程师能够创建易于复用的解决方案,并将其以模板的形式
进行公开,从而让开发人员从无意义的繁琐工作中解脱出来。这种方法使开发人员能够专注于编写代
码和交付功能,而非耗费精力管理基础架构。
大多数出色的平台团队都是采用“平台即产品”的理念:将企业组织的内部开发人员平台视为产品,
将开发人员视为客户。这些团队通过减少或消除重复性工作,并确保开发人员的反馈能够得到倾听和
落实,从而持续改善整个企业组织的开发人员体验。平台工程的最终目标是提供一套顺畅且以安全防
护为中心的流程来将代码部署到生产环境。通过实现从置备、可观测性、监控到合规性和安全性等各
个环节的自动化和简化,平台可消除开发过程中的障碍,使开发人员能够在更短的时间内将价值交付
给客户。
软件供应链安全防护
要应对不断演变的安全威胁并保障软件供应链的安全,需要在整个软件开发生命周期实施以安全防护
为中心的策略。“左移”安全防护方法旨在通过尽早引入以安全防护为中心的理念和实践,并将其作
为开发人员的责任来应对这一挑战。但这种做法会在无形中造成严重的认知负荷,使开发人员在完成
核心编码工作的同时难以有效开展安全管理工作,这也印证了仅仅将安全责任转移给开发人员并不是
一种可持续的解决方案。
相比之下,“下移”方法则是一种更高效的策略。在该策略下,由平台本身提供默认的安全防护,而
非让开发人员完成更多的安全防护任务。其实现方式是将可信软件供应链直接内置于内部开发人员平
台。平台会检测恶意代码,确保仅部署已签名的软件并持续监控威胁,从而在整个生命周期自动实施
以安全防护为中心的策略。通过自下而上嵌入安全防护机制,这种以平台为中心的模式既可以降低企
业风险,又可以减轻开发人员的沉重负担。
8电子书 面向企业的 AI 辅助应用开发
应对 AI 辅助应用开发过程中的挑战
虽然 AI 辅助开发方法可以加快创新步伐,但企业在快速采用时可能会面临一些重大挑战:
� 影子 AI 的兴起
影子 AI 是指开发人员未经批准便使用公共 AI 编码工具的情况。这类工具的使用往往会绕开企业的
安全与法务审核,从而增加知识产权(IP)泄露、产生安全漏洞以及代码决策不可追溯的风险。
� 技术蔓延和技术债务
如果缺乏适当的治理,AI 工具可能会迅速引入大量未经审查且无官方维护的库,造成技术无序蔓
延。代码库的不一致会形成长期技术债务,导致应用的维护难度和成本随着时间的推移逐渐增加。
� 缺乏明确的所有权和问责制
当 AI 代理能够自主编写、测试并提交代码时,所有权和责任的界限就会变得模糊,从而引发
“谁应承担责任”这一问题。如果缺乏全面的人工审核和批准策略,企业可能会面临以下风险:
构建的系统没人能完全理解,也没人能有信心维护。
为了在管控风险的同时充分发挥 AI 辅助开发的优势,企业必须采用结构化、责任明确且以安全防护
为中心的方法。以下策略可帮助企业组织高效应对这些关键挑战。
明确开发人员的问责机制和监督机制
AI 编码工具可作为人类开发人员的助手,并不能取代人类开发人员。开发人员仍然要对代码负责,并
且应该将 AI 主要用于构思和原型设计等任务。还应认识到,由于缺乏可解释性、可追溯性和上下文感
知,代理式编码在端到端企业软件开发生命周期中尚不成熟。在这些短板得到解决之前,人工监督至
关重要,英国国家网络安全中心(NCSC)等权威网络安全机构发布的指南也对此进行了强调。1
1 “《AI 系统安全开发指南》(Guidelines for secure AI system development)”,英国国家网络安全中心,
2023 年 11 月 23 日。
9
在各个阶段应用以安全防护为中心的开发生命周期实践
AI 工具可能会通过未经审查的依赖项或不安全的代码模式引入新的风险。企业必须确保在开发生命周
期的各个阶段都实施安全防护机制:
� 在编码阶段,应实施软件成分分析(SCA),以检测 AI 引入的存在漏洞或未经批准的开源软件包。
� 在构建阶段,应使用自动化漏洞扫描来识别已知的安全缺陷。
� 在部署阶段,应使用基础架构即代码(IaC)验证和环境强化来实施安全策略。
� 在运行阶段,应实施合规监控和威胁检测,以及时发现异常情况。
采纳平台工程及“平台即产品”的理念
将平台工程方法纳入实践,并将内部平台视为可随着开发人员需求和业务优先事项而迭代的产品,企
业能够以负责任的方式实现 AI 规模化。这种策略提供了一种以安全防护为中心的标准化环境,降低了
影子 AI 的风险。
平台工程若要为 AI 辅助开发提供支持,关键要摒弃传统的“平台优先”思维,因为这种思维往往会导
致过度构建和僵化的前期设计。相反,必须将重点放在构建灵活的“创新区”环境(受保护的沙盒)
上,使团队能够快速测试、学习和调整。在这类环境中,开发人员和数据科学家可以安全地试验新的
模型和工作流,既不会对生产系统造成影响,还能受到平台工程团队的监督。当新的工具或工作流经
验证具有价值后,便会对其进行审核并将其添加到平台的官方产品待办事项清单中。这样可以确保平
台不断完善以满足团队已证明的功能需求,而非包含领导层主观猜测的功能。
在此框架下,平台可支持包括氛围编程和代理式编码在内的现代 AI 编码方法。
电子书 面向企业的 AI 辅助应用开发
10电子书 面向企业的 AI 辅助应用开发
在企业中采用 AI 辅助应用开发
企业组织引入 AI 辅助应用开发的过程通常分为三个阶段,从最初的实验逐步推进至定制化的完整实施。
阶段 0:实验阶段
在此阶段,企业组织以较低的投入探索 AI 辅助开发的优势。开发人员试用 GitHub Copilot、Cursor 或
Lovable 等易于使用的云端工具,以验证工具在生成代码、撰写文档和测试方面的生产力提升效果。
这种方法快速便捷且需要的前期投入极少。
阶段 1:从探索到采用
在这一阶段,AI 成为开发工作流的标准组成部分。企业通常会从两种途径中进行选择:
� 选项 A:扩展云服务。继续使用托管式 AI 工具。这种方式易于扩展,但会带来诸多风险,如订阅
成本不可预测、数据隐私问题以及潜在的 IP 暴露风险。
� 选项 B:本地部署。将功能强大的开放权重 AI 模型引入企业内部。这种方式需要在硬件和 AI 推理
软件方面进行前期投入,但企业组织能够完全掌控数据、安全防护以及长期成本。
无论选择哪种方式,集成软件供应链安全防护都是这一阶段的关键。
阶段 2:针对企业进行定制和调整
这是这一最成熟的阶段,根据企业组织的独特环境完成了 AI 的定制。其中包括:
� 标准化集成:AI 工具被内置到开发人员模板中,成为每个新项目的默认组成部分。
� 微调模型:利用检索增强生成(RAG)技术,企业通过自有代码库对本地部署的开放权重 AI 模型
进行训练或增强。
11电子书 面向企业的 AI 辅助应用开发
红帽如何帮助企业组织采用现代开发实践
红帽为跨环境构建、部署和管理企业应用提供了一个开放且可扩缩的基础,其全面的 AI 平台可支持从
开发、部署到监控的 AI 模型的整个生命周期。
借助红帽® OpenShift®、红帽高级开发人员套件、红帽 AI 和一整套安全防护产品等解决方案,红帽可
帮助企业组织高效实施现代应用开发实践,包括平台工程、软件供应链安全防护和 AI 辅助方法,同时
确保所需的安全性和可靠性。
平台工程
平台工程以构建可靠的自助服务内部开发人员平台为核心,旨在提高开发人员的效率和生产力。完整
的内部开发人员平台由两个关键层组成:一个是应用平台(技术基础和基础架构层),另一个是简便
易用的内部开发人员门户(前端界面)。这个一体化生态系统可简化整个软件生命周期,使开发人员
能够以更高的自主性和更快的速度开展工作。
红帽 OpenShift:内部开发人员平台的应用平台基础
内部开发人员平台可实现企业组织工具的集中化管理,并实现关键流程的自动化,使开发人员能够更
高效、更快速地开展工作。作为内部开发人员平台的核心应用平台,红帽 OpenShift 可实现:
� 一致的开发环境
红帽 OpenShift 通过红帽 OpenShift Dev Spaces 以及红帽 OpenShift Web 控制台中的开发人员专
属视角为开发人员提供支持。这种自助服务方式能够打破障碍,使开发人员无需依赖运维团队即可
获取资源。
OpenShift Dev Spaces 可提供在浏览器中运行的预配置的一致开发环境,从而确保每位开发人员
都使用正确的工具和依赖项。此外,对于偏好使用现有 IDE 的开发人员,该平台也支持与 Visual
Studio Code、JetBrains IDE(如 IntelliJ)、Eclipse IDE 和 Azure DevOps 的集成。
OpenShift Web 控制台中的开发人员视角提供了一个简化的图形界面,可用于部署、管理和监控
应用,使复杂的云原生任务更易操作。
12电子书 面向企业的 AI 辅助应用开发
� 基于 GitOps
的一致基础架构
红帽 OpenShift GitOps 基于热门的开源项目 Argo CD 构建,可实现基础架构和应用部署的自动
化。它将 Git 作为所有配置的单一事实来源。这种方法可确保开发、预演和生产环境的一致性,从
而防止出现配置偏移,并使部署高度可靠且可重复。
� 基于持续集成和持续交付(CI/CD)的高效软件交付
红帽 OpenShift Pipelines 使用的是云原生 Tekton 框架,可实现整个软件生命周期的自动化。通过
创建可重复的管道来构建、测试和部署应用,它可以消除手动操作步骤并降低人为错误的风险,从
而使发布周期更快、更安全且更一致。
� 监控和可观测性
红帽 OpenShift Observability 是一种全面的解决方案,旨在帮助您深入了解在红帽 OpenShift
上运行的应用和基础架构的性能和运行状况,无论是部署于公共云、本地还是边缘。借助对
OpenTelemetry 的支持和高级故障排除工具,该解决方案能够实时洞察、监控和分析系统的指
标、日志、追踪和事件,从而在应用或用户受到影响之前快速诊断并解决问题。
� 通过基于角色的访问权限控制(RBAC)实现安全防护
安全防护是红帽 OpenShift 平台的核心组件,可通过内置的 RBAC 进行管理。该平台采用“默认
拒绝”的安全模型,这意味着用户和团队只会被授予履行其角色所必需的特定权限。这一最小权限
原则对于最大限度地降低安全风险至关重要。
需要注意的是,大多数红帽 OpenShift 变体的订阅都包含红帽 OpenShift GitOps、红帽 OpenShift
Pipelines 和红帽 OpenShift Observability,但 OpenShift 虚拟化引擎(OVE)和 OpenShift
Kubernetes 引擎除外。
13电子书 面向企业的 AI 辅助应用开发
红帽开发人员中心:内部开发人员门户
内部开发人员门户是一站式中心,企业组织的开发人员可以在此访问高效构建软件所需的所有工具、
文档和资源。Backstage 是用于构建此类门户的热门开源框架,但其缺乏企业级用途所需的全面支持和
RBAC 等功能。红帽开发人员中心是红帽高级开发人员套件的一部分,它提供了一个基于 Backstage 构
建的企业级门户,解决了上述问题。
红帽开发人员中心的主要优势包括:
� 企业级支持:该中心是一个享有全面支持的精选平台,能够为开发人员的长期生产力提供稳定的基
础和专业的协助。
� 内置安全防护:它包含全面的企业就绪型 RBAC,可与红帽 OpenShift 集成,实现集中式用户管理
和安全防护。
� 加快开发:集中式软件目录使资源易于查找,而软件模板则使开发人员能够使用已批准的最佳实践
快速开始新项目。
� 动态插件:团队可以添加、更新或删除经红帽验证的插件,在不造成停机的前提下安全扩展门户的
功能。
� 简化的红帽 OpenShift 集成:该中心已与红帽 OpenShift 平台完全集成,开发人员可直接使用关
键云原生技术。
软件供应链安全防护
由于威胁日益增多且相关法规不断完善,软件供应链安全的重要性愈发凸显。为了解决这一问题,红帽
提供了一套安全防护产品,旨在帮助团队降低整个开发生命周期中的风险。该套件中的主要产品包括:
� 红帽可信产品组合分析器
此工具可扫描并分析企业组织的软件组件,包括自定义代码、第三方库和开源依赖项。它可以管理
软件物料清单(SBOM),识别已知漏洞(CVE),并在 Visual Studio Code 和 IntelliJ 等开发人
员 IDE 中直观呈现企业组织的风险概况,且不会减慢工作流的速度。
� 红帽 Trusted Artifact Signer
该解决方案可对软件工件(如容器镜像)进行签名和验证,以确认其真实性和完整性。该流程有助
于满足针对软件工件的供应链等级(SLSA)等合规标准,还会为所有签名生成永久记录,从而提
升软件来源的可信度。
与红帽 OpenShift 中的安全防护功能(如红帽 Quay 容器镜像仓库和红帽 Kubernetes 高级集群安全防
护)结合使用时,这些工具可提供适合企业级用途的完整的软件供应链安全防护解决方案。
14电子书 面向企业的 AI 辅助应用开发
AI
辅助应用开发
红帽提供了一个值得信赖的开源平台,支持在从私有数据中心到公共云的任何位置构建和部署 AI 应
用。这种方法以灵活性为基础,并以红帽技术和广泛的合作伙伴生态系统为支撑。
以下是红帽助力企业采用 AI 的方式:
� 统一的 AI 平台
红帽 OpenShift AI 提供的核心基础架构和工具可支持在任何环境中一致地构建、部署和管理 AI 模
型。它包含对硬件加速器和必要 AI 库的支持,以确保高性能和可扩缩性。
� 经优化的模型和工具
红帽企业 Linux® AI 提供企业就绪型生成式 AI 模型,以及可供企业组织使用自己的数据进行微调的
工具。这使得企业组织能够创建以安全防护为中心且符合其特定需求的自定义 AI 解决方案。
� 集成的运维和产品
红帽不仅会帮助企业组织将 AI 高效集成到现有 DevOps 和 MLOps 工作流中,还会将 AI 直接嵌入
自有产品中。例如,红帽 Lightspeed 可将 AI 驱动的功能添加到红帽企业 Linux、红帽 OpenShift
和红帽 Ansible® 自动化平台等解决方案中,以实现任务自动化并提高用户的生产力。
红帽 OpenShift AI
红帽 OpenShift AI 基于红帽 OpenShift 的企业级基础而构建,为团队开发、部署和管理 AI 模型提供
了一致且可信赖的环境。
� 模型开发
企业组织既可以开发定制模型,也可以使用红帽存储库中的热门预优化模型,如 Llama、Gemma
和 Granite。可与各种 AI/ML 库集成的灵活性有助于加快开发并降低 GPU 成本。
� 模型服务和监控
您可以借助该平台在任何混合云环境中部署模型并集中监控其性能。该平台使用 vLLM 作为混合
云的推理运行时。此外,它还通过 LLM Compressor 等工具提供模型优化功能,以减少算力需
求,并降低成本,同时保持模型准确性。
� 全生命周期管理
OpenShift AI 集成了 MLOps 实践来管理整个 AI 工作流。这使得企业组织能够可靠地管理模型从
初始实验阶段到生产阶段的整个生命周期。
� 资源优化和管理
该平台可专门针对所有 AI 工作负载进行高效扩缩。它使团队能够在整个企业组织内高效共享
GPU、项目和模型等高成本资源。
OpenShift AI 的一大亮点是灵活性。它不限平台和基础架构,因此,企业能够为其特定 AI 自由选择合
适的硬件、云和工具。
15电子书 面向企业的 AI 辅助应用开发
经过验证和优化的 AI
模型
红帽允许企业组织使用自己的私有数据微调开源模型。这种方法对于满足监管要求、保护知识产权和
管理 GPU 等计算资源至关重要。
红帽通过两种主要方式提供上述支持:
1. 值得信赖的 AI 模型库
红帽提供了模型存储库,其中包含以安全防护为中心且高效的企业级热门模型。其中包括 IBM 的
Granite 系列模型,该系列完全开源且采用 Apache 许可,能够处理通用任务和代码生成任
务。该模型库还包含一系列经过验证和优化的第三方模型,验证是指在红帽平台上通过了性能和
准确性测试,优化是指在保持质量的前提下进行压缩以提升速度和效率。
2. 利用 InstructLab 进行社区驱动的微调
InstructLab 是 IBM 和红帽联合推出的开源项目,允许企业组织利用其特有知识来增强和定制大语
言模型。该项目赋能开发人员和专业技术人员参与模型优化工作,确保 AI 开发保持开放性和协作
性且贴合实际需求。
上述功能均可通过 OpenShift AI 订阅所包含的红帽企业 Linux AI 来实现。
一致的 DevOps 和 MLOps 运维
要实现 AI 的规模化部署,需要数据工程师、数据科学家和开发人员开展密切协作。运维团队面临的挑
战在于管理从 AI 模型的创建、部署到监控的复杂生命周期。
MLOps 就是解决方案,它可将经过验证的 DevOps 原则应用于机器学习生命周期。正如 DevOps 为应
用代码提供了一致的工作流,MLOps 也为 AI 模型提供了一致的工作流。通过利用 OpenShift GitOps
进行模型部署,并利用红帽 OpenShift 的运行时监控功能,企业组织可以构建一致的标准化 MLOps
和 DevOps 交付机制,从而高效地将 AI 成果投入生产环境。
电子书 面向企业的 AI 辅助应用开发 16
结语
红帽提供了一套功能强大且以安全防护为中心的开放混合云解决方案,可帮助您的企业组织采用并推
进现代化 AI 辅助应用开发。有了红帽这一值得信赖的合作伙伴,您可以从容应对应用开发的未来挑
战,充分发挥其潜力,从而加快交付并推动创新。