AI社会责任影响
——ESG投资系列七
证券研究报告量化策略动态
发布日期：2024年1月31日
本报告由中信建投证券股份有限公司在中华人民共和国（仅为本报告目的，不包括香港、澳门、台湾）提供。在遵守适用的法律法规情况下，本报告亦可能由中信建投（国际）证券有限公司在香港提供。请务必阅读正文之后的免责条款和声明
研究助理：陈添奕
chentianyi@
13917950646
分析师：徐建华
xujianhua@
SAC 编号：S1440523100002
提纲
01. 概要
02. AI对社会的积极影响
03. AI的隐患与威胁
04. 应对措施
05. 未来展望
06. 风险提示
57432141/28022/20240201 17:04
核心观点
本报告探讨了AI的社会影响和AI与ESG投资间的联系。首先介绍概要，随后分析AI对社会的积极影响和
对人类的威胁与隐患，最终提出应对措施和未来展望。尽管AI能够在ESG投资等诸多领域产生积极影响，
但同时也可能引发潜在风险，如劳动力市场冲击、隐私泄露、算法歧视等。未来需要找到发挥AI优势和解
决AI隐患之间的平衡。
3
57432141/28022/20240201 17:04
57432141/28022/20240201 17:04
人工智能的发展现状
近年来，随着深度学习等技术的发展，人工智能已成为全球热门领域。具体表现为以下方面：
• 深度学习技术的快速发展：已成为人工智能领域核心技术之一，应用范围不断扩大，如计算机视觉、自然语言处理、语音识别等。
• 机器学习技术的广泛应用：机器学习是一种广泛应用的人工智能技术，其被广泛应用于数据挖掘、图像识别、推荐系统等领域。
• 自然语言处理技术的进展：自然语言处理技术一直以来都是人工智能领域的研究热点，如机器翻译、语音识别、文本生成等。
• 人工智能与物联网的结合：物联网技术不断发展，人工智能与物联网的结合已成趋势，智能家居、智能城市等领域得到快速发展。
• 在医疗、金融等领域的应用：人工智能技术在医疗、金融等领域的应用也越来越广泛，如医学影像诊断、智能客服、风险管理等。
5
GPT的预期发展
技术和策略局限 现状（2022年） 评价内容
生成模型的可用性、可靠性和效率
• 难以指定和继续执行任务
• 输出可能是不连贯的，或者是捏造的事实
• 从零开始构建模型可能会花费数百万美元；微调的有
效性仍在探索不同的能力
• 训练以更好地遵循指示
• 定期对更新鲜的数据进行再培训
• 硬件、软件和工程进度
难以发展与影响行动有关的新的和更
一般的能力
• 可以产生推文，短篇新闻文章
• 很少有互动或远程对话
• 未针对影响进行优化（通过点击率等代理）
• 扩大与更大的模型和更多的数据
• 使用影响指标来训练模型
• 将模型与非ML软件管道和人工审查员结合起来
对人工智能的影响的兴趣和投资；文
本生成工具的可访问性
• 领先的人工智能研发，主要由少数国家的行业实验室
和学术机构完成
• 没有免费的在线工具来生成任意规模的最先进的文本
• 国家投资或调整人工智能以适应影响
• 市场营销行业采用了语言模式
• 最先进的语言模型在线发布与一个简单的用户界面，对任何人免费使用
图表1：生成模型（ Generative Models）的预期发展
数据来源：Generative Language Models and Automated Influence Operations: Emerging Threats and Potential Mitigations，中信建投
57432141/28022/20240201 17:04
人工智能的未来趋势
人工智能在未来的发展趋势主要包括以下几个方面：
• 更深层次的学习：随着计算能力的提升和数据量的增加，人工智能
将能够进行更深层次的学习和理解，实现更加智能化的应用。
• 多模态智能：未来将逐渐拥有多模态的感知和理解能力，不仅可以
识别图像、文字和语音等单一模态的信息，还能够将多种模态信息
进行融合，提高整体的智能水平。
• 自主决策：将逐渐具备自主决策的能力，而不是仅通过规则做出响
应。这种能力将会使人工智能能够更好地适应不同的场景和任务。
• 长期记忆：未来人工智能将拥有更好的长期记忆能力，使其能够更
好地记住过去的信息并利用这些信息进行更加精准的决策。
• 边缘计算和云计算的结合：未来将结合边缘计算和云计算技术，实
现更加高效和智能的数据处理和分析。
• 人工智能与物联网的深度融合：将与物联网技术深度融合，使得物
联网设备能够更加智能化地工作，并且将从物联网设备中获取更多
的数据，提高自身的智能水平。
总体上，未来人工智能将会更加智能化、全面化、多样化，
使得其能够更好地适应不同的场景和任务，为人类生活和产业发
展带来更大的便利和创新。
6
图表2：对语言模型的人工反馈进行微调
数据来源：Training language models to follow instructions with human feedback，中信建
投
57432141/28022/20240201 17:04
人工智能对社会发展的重要意义
人工智能对社会发展具有重要意义，体现为：
• 提高效率和生产力：实现自动化、智能化，可以提高工作效
率和生产力，为社会带来更多的财富和福利。
• 促进产业升级：帮助企业实现数字化转型和智能化升级，提
高企业的竞争力和创新能力，推动整个产业向更高层次发展。
• 优化社会资源配置：分析和优化社会资源的配置，提高资源
的利用效率和社会效益，从而促进社会的可持续发展。
• 改善人类生活品质：帮助人类解决一些重复、枯燥或危险的
工作，从而提高生活品质，让人们更多地关注生活的质量和
幸福感。
• 推动科学技术进步：作为重要的科学技术，其发展和应用能
够促进科学技术的进步，推动人类社会向更高层次发展。
人工智能是一种重要的技术和工具，它的发展和应用能
够为社会带来更多的发展机遇和创新动力。
需要关注其对社会带来的影响，加强对其应用的规范和
监管，确保人工智能的发展有益于人类社会。
7
人工智能与ESG：
ESG数据分析
ESG数据是金融机构进行投资决策、风险控
制和管理的重要参考。AI技术可以对大量
的ESG数据进行分析和挖掘，发现其中的规
律和趋势，帮助做出更明智的投资决策。
技术能力
ESG投资策略强调社会责任和可持续发展，
与AI技术的应用有着紧密的联系。通过预测
和数据分析，为ESG投资提供更加准确和可
靠的支持。
对金融机构进行ESG风险管理已成为了一项
重要任务。AI技术可以对ESG风险进行预测
和分析，帮助金融机构制定更加有效的风险
管理策略。
ESG投资策略
ESG风险管理
金融机构需要向投资者、客户和监管机构披
露其ESG表现和政策，以提高透明度和公信
力。AI技术可以帮助金融机构自动生成ESG
报告和分析，提高报告的准确性和及时性。
ESG报告和透明度
研究AI与ESG的关系对金融应用具有重要意义，可以提高金
融机构的效率和决策水平，加强对ESG风险的管理和控制，为实
现可持续发展和社会责任提供更加有效的支持。
57432141/28022/20240201 17:04
57432141/28022/20240201 17:04
促进科技创新与产业升级
人工智能可以提高生产效率和质量，帮助企业优化生产流程、管理资源、降低风险、创新产品等，提
升企业的竞争力和盈利能力，促进产业转型升级和经济增长。
9
•自动化和智能化生产
•大数据分析和应用
•智能化决策和管理
创新服务模式
产业融合和创新
AI促进科技创新和产业升级
实现自动化和智能化生产，减少人工劳动力的使用，提高生产效
率和产品质量，降低生产成本。例如机器人、智能制造等领域。
对大数据进行分析和挖掘，发现其中的规律和趋势，帮助企业更
好地理解市场和消费者需求，提高产品和服务的质量和竞争力。
帮助企业实现智能化决策和管理，例如智能客服、智能制造、智
能供应链等。加速企业的反应速度，提高决策效率和准确性。
帮助企业创新服务模式，例如智能客服、智能营销等。这些服务
模式可以提高企业的服务质量和效率，满足消费者个性化的需求。
帮助不同行业和产业之间实现融合和创新，例如人工智能和制造
业、医疗保健等领域的融合，可以创造新的产业和商业模式，促
进科技创新和产业升级。
57432141/28022/20240201 17:04
提升社会服务和公共服务水平
人工智能可以提高社会管理水平和公共服务水平，帮助政府制定政策、监督执行、预警应急、解决纠
纷等，提供智能化、便捷化、精准化的社会管理和公共服务，维护社会稳定和公共安全。
10
更智能
智能客服和智能助手：人工智能可以帮助企业和政府机构实现智能化客服和助手，例如智能机器人、
智能语音助手等。这些技术可以提高服务效率和质量，减轻人力负担，满足消费者和公众的服务需求。
智慧城市建设：人工智能可以应用于智慧城市建设中，例如智能交通、智能公共安全、智能环境保护
等领域。这些技术可以提高城市的管理和服务水平，优化城市运行和生活环境。
医疗健康服务：人工智能可以用于医疗健康服务中，例如医学影像分析、健康监测、疾病预测和预防
等。这些技术可以提高医疗服务的精准性和效率，减轻医务人员负担，改善使用者健康状况。
智能政务服务：人工智能可以应用于政务服务中，例如智能行政审批、智能公共服务等。这些技术可
以提高政务服务的效率和便捷性，优化政府管理和公共服务。
社会治理和安全保障：人工智能可以用于社会治理和安全保障中，例如公共安全监测、防灾减灾、反
恐和反诈骗等。这些技术可以提高社会治理和安全保障的能力和效率，维护社会稳定和公共安全。
更高效
更精准
57432141/28022/20240201 17:04
11
改善民生福祉
人工智能可以为民生福祉提供更智能、更精准、更便捷的服务和管理，更好地保障使用者的基本权益
和生活需求，提高使用者的生活质量和幸福感。
人工智能可以帮助医生和病人
更准确地诊断疾病、制定个性
化治疗方案、进行康复评估等，
提高医疗服务水平和治疗效果。
此外，人工智能技术还可以用
于智能健康监测、疾病预防和
预测等方面，更好地保障使用
者的身体健康
人工智能可以根据学生的
学习情况和能力，提供个
性化的学习内容和教学方
式，提高学习效果。此外，
人工智能还可以用于智能
考试监管、学生行为预测
等方面，提高教育教学质
量和管理水平。
人工智能可以帮助老
年人进行智能化养老
服务，例如智能康复
训练、智能生活辅助、
智能健康监测等，提
高老年人的生活质量
和健康状况。
人工智能可以帮助政
府更准确地评估和调
整社会保障政策，例
如智能社保核算、智
能就业指导等，更好
地保障使用者的基本
生活需求。
医疗健康 教育培训 养老服务 社会保障
人工智能还可以用于智能交通、智能公共安全、智能城市管理等方面，提高社会管理和公共服务水平，更好地满足生活需求。
57432141/28022/20240201 17:04
1257432141/28022/20240201 17:04
3
根据OpenAI在2023年3月23日发布的《GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models》论文
中，OpenAI强调了GPTs的通用潜力对于美国劳动力市场的显著影响。
该篇文章定义了三种暴露程度，通过在岗位和技能的数据集上进行人工标注和GPT-4模型生成标注的方式，来对于不同种类的岗位和劳
动力在大语言模型之下的暴露程度进行分析。
影响劳动力市场——GPTs暴露度的定义
13
变量 含义
E0 在相同工作质量/工作产出的前提下，使用大语言模型不会减少工作时间或未达到最小工作时间减少的标准
E1 在相同工作质量/工作产出的前提下，通过ChatGPT或者OpenAI playground使用大语言模型可以减少50%的工作时间
E2 在相同工作质量/工作产出的前提下，只使用大语言模型不会缩短工作时间，将大语言模型与额外的软件搭配使用可以缩短50%的工作时间
图表3：工作暴露程度定义
数据来源：GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models，中信建投
𝛼 𝛼暴露度变量，用于后续回归分析；𝛼等于E1，代表职业中暴露程度的下限
𝛽 𝛽暴露度变量，用于后续回归分析；𝛽等于E1+，其中E2的系数代表将部署GPTs所需技术和应用的额外投资考虑在内的权重
𝜁 𝜁暴露度变量，用于后续回归分析；𝜁等于E1+E2，代表职业中暴露程度的上限
图表4：工作暴露相关变量的定义
57432141/28022/20240201 17:04
3
根据OpenAI研究结果，人工注释和GPT-4都表明平均𝛼暴露度在至，表明15%的职业直接暴露在GPTs下；𝛽和𝜁
分别有超过和的暴露度，可见目前GPT-4与相关软件结合已经可以覆盖超过50%职业的工作内容。OpenAI预测，
有超过80%的工人有至少10%的工作暴露在GPTs下；超过19%的工人有至少50%工作暴露在GPTs下；
此外，不同职业和工人在GPTs下的暴露度是相似的，表明工人的集中程度与岗位在GPTs下的暴露度无明显关系。
影响劳动力市场——GPTs暴露度统计
14
图表5：人工与GPT-4标准结果统计 图表6：整体经济环境下的职业（左）和工人（右）在GPTs下的暴露度
数据来源：GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models，中信建投
57432141/28022/20240201 17:04
3
在职业的水平上，人工标注和GPT-4标注呈现出一定程度的相关性：
暴露度与就业岗位数量的关系上：整体趋势为就业岗位数量越多的岗位，工作内容在GPTs下的暴露度越强；
暴露度与岗位薪资的关系上，尽管存在许多底薪资高暴露度和高薪资低暴露度的岗位，整体上GPTs的暴露度与岗
位薪酬成正相关，薪酬越高的岗位在GPTs下的暴露度越高。
影响劳动力市场——岗位数量和薪酬与暴露度
15
图表7：暴露度与岗位就业数量的关系【人工（左），GPT-4（右）】 图表8：暴露度与岗位薪资的关系【人工（左），GPT-4（右）】
数据来源：GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models，中信建投
57432141/28022/20240201 17:04
3
不同工作技能对GPTs的暴露度关系如下：
科学研究、高效学习、批判性思维、监管
技能都与GPTs暴露度呈现显著的负相关，
表明需要此类工作技能的岗位不容易受到
GPTs的影响；
相反，编程和写作等技能与GPTs的暴露度
呈现显著的正相关，表明具有此类的技能
的相关岗位容易受到GPTs的影响。
影响劳动力市场——工作技能类型与暴露度
16
图表9：不同工作技能对暴露度的回归结果
数据来源：GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models ，中信建投
57432141/28022/20240201 17:04
3
相似的岗位难度有以下特征（1）学历要求相似（2）相关经验要求相似（3）岗位所需的培训相似；
将工作难度分为5个区域，其中区域1需要最少的准备量（3个月），而区域5需要4年或更长时间的准备量。分析结果表明：
随着需要的准备水平的增加，各工作区的平均收入单调增加；
所有的暴露度测量结果（𝛼、𝛽和𝜁）显示了相同的趋势，即从工作区域1到工作区域4的暴露量增加，而在工作区域5
则保持相似或减少。平均而言，在工作区1到5中𝛽暴露大于50%的工人的𝛽比例分别为%（工作区1）、%（工
作区2）、%（工作区3）、%（工作区4）和%（工作区5）。
影响劳动力市场——岗位难度与GPTs暴露度
17
图表10：不同暴露度阈值下工人的百分比（按工作难度分组）
数据来源：GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models ，中信建投
图表11：薪酬、暴露度与不同进入难度的岗位的关系
57432141/28022/20240201 17:04
3
在美国劳动力市场中，目前超过80%的工人有至少10%的工作暴露在GPTs下；超过19%的工人有至少50%工作暴露在
GPTs下，表明目前GPT模型已经在日常工作内容中具有广泛的渗透程度。
岗位数量与岗位薪酬均与GPTs的暴露度呈正相关；
科学研究、高效学习、批判性思维、监管技能不容易受到GPTs的影响，而与编程和写作等技能的相关岗位容易受到
GPTs的影响；
岗位难度与GPTs暴露度在一定程度上呈现正相关，而岗位难度最高的职业具有一定的GPTs不可替代性；
影响劳动力市场——总结与展望
18
GPT已经具有成为通用技术的三大特征（1）随时间而进步（2）广泛渗透于经济领域（3）产生与其他技术互补创新
的能力。
未来在GPT逐步向通用技术发展的过程中，与科学研究、批判性思维等技能相关的工作以及岗位难度较低的工作不易
受到GPT的冲击；而岗位难度适中、与工作经验强相关的岗位容易受到GPT的冲击。
57432141/28022/20240201 17:04
3
个人信息和隐私泄露
19
作为生成式人工智能（generative AI），ChatGPT本身即具备收集、储存和使用个人信息的功能。
尽管ChatGPT在回答关于隐私的问题时声称其不会记住用户的任何信息，也不会主动提供用户个人信息，但
它又表示与用户对话的数据被存储在OpenAI或使用的云服务提供商的数据中心；
在人机交互问答中，提问者与ChatGPT分享的隐私和个人信息可能被用于未来模型的迭代训练，ChatGPT模
型训练中使用的数据大多来自互联网，可能包含大量的个人信息和数据，而未经用户同意的数据抓取和训练
模型强大的推理能力又极大地增加了个人信息泄露的风险；
含有个人信息的问答内容可能成为模型训练的基础“语料”，这使ChatGPT输出的内容包含用户提供的个人
信息或重要数据。即便泄露用户个人信息的概率非常小，但如果加以刻意引导和提示，它仍然可能用来生成
包含个人信息内容的回答。
目前三星公司已经出现员工因为使用ChatGPT而泄露公司机密信息的事故，这表明人工智能在现阶段仍不能很好的
处理隐私泄露问题。
57432141/28022/20240201 17:04
3
在OpenAI发表的论文《Understanding the Capabilities, Limitations, and Societal Impact of Large Language Models》中，
OpenAI指出GPT-3模型存在种族、性别和宗教等算法偏见。
在2022年12月，清华大学团队“AI模型性别歧视水平评估项目”表明GPT-2模型在“中性”职业上具有极强的性别偏见，
其原因主要为以下三个方面：
数据集带来的偏差，也就是供AI学习训练的“教材”本身暗含偏见。
设计者的局限，有时也在无意中形成了“偏见”。硅谷、以及大量的智能应用公司都集中在美国旧金山湾区，一个发达的大都会
区，开发者主要为白人中青年男性，相较主流群体，其对第三世界、边缘群体的关注难说到位。
算法本身的不足，也加剧了歧视。以目前AI领域备受推崇的“深度学习”为例，它会自行发展联系、分析特征、决定变量权重，
其不透明性，便是人们常说的“黑盒”特性，也促使了模型容易对某一特定领域产生“算法歧视”。
算法歧视和偏见
20
图表12：模型在医生职业的性别偏见程度 图表13：模型在教师职业的性别偏见程度
数据来源：清华大学于洋教授研究团队，《AI模型性别歧视评估》 ，中信建投
57432141/28022/20240201 17:04
3
伦理道德隐患
21
图表14：人工智能伦理问题的分类
数据来源：Changwu Huang，An Overview of Artificial Intelligence Ethics ，中信建投
人工智能伦理问题可以分为个人层面、社会层面
和环境层面的伦理问题。
个人层面，人工智能对个人的安全、隐私、
自主和人格产生了潜在影响；
社会层面，我们关注人工智能为社会以及世
界各地国家的福祉带来的影响，包括但不限
于AI的责任与问责、监控与数据化、民主与
公民权利、工作代替与人际关系等伦理问题；
环境层面，关注人工智能对环境和地球的影
响。例如硬件生产消耗大量的自然资源、硬
件丢弃产生的环境污染、庞大算力所需要的
高能耗以及对人类可持续发展目标的影响
57432141/28022/20240201 17:04
人类的应对方法
2257432141/28022/20240201 17:04
3
加强对AI技术的监管
23
OpenAI在文档中写道：“GPT-4表现出一些特别令人担忧的能力，例如制定和实施长期计划的能力，积累权力和
资源（寻求权力），以及表现出越来越‘代理’的行为”。对于AIGC技术带来的潜在风险，各国不约而同地开始
自上而下地监管或问责举措。
中国：4月11日，国家互联网信息办公室根据《中华人民共和国网络安全法》等法律法规起草了《生成式人工
智能服务管理办法（征求意见稿）》，文件要求利用AIGC生成的内容应当体现社会主义核心价值观，防止出
现种族、民族等歧视，防止生成虚假信息，防止侵犯知识产权等问题；
美国：4月11日美国商务部就ChatGPT等人工智能技术相关的问责措施正式公开征求意见，包括具有潜在风险
的新型人工智能模型在发布前是否应进行核准认证程序；
意大利：3月31日，意大利个人数据保护局宣布从即日起禁止使用ChatGPT，限制OpenAI处理意大利用户信息，
并开始立案调查；
德国：4月3日，德国数据专员表示，德国可能会以数据安全方面的担忧为由，屏蔽OpenAI的聊天机器人
ChatGPT。
57432141/28022/20240201 17:04
3
解决AI的伦理问题可分为伦理手段、技术手段和法律手段。
伦理手段：致力于开发伦理AI系统或智能体，通过在AI中嵌入伦理道德，使它们能够根据伦理理论进行推理和
决策。现有的在人工智能中嵌入伦理的方法或途径可以分为三种主要类型：自上而下的方法、自下而上的方法
和混合方法。
加强对AI技术的法律和伦理规范
24
数据来源： Changwu Huang，An Overview of Artificial Intelligence Ethics ，中信建投
图表15：三种人工智能伦理设计范式及其特点比较
设计范式 定义
特点
预设伦理规则 学习能力 自适应性 可解释性
自上而下 嵌入预设的伦理理论和道德规范 是 无 弱 强
自下而上 基于案例，不断试错 否 强 强 差
混合方法 自上而下和自下而上的复合方法 是 强 强 中等
57432141/28022/20240201 17:04
3
解决AI的伦理问题可分为伦理手段、法律手段和技术手段。
法律手段：旨在通过立法来规范或管理人工智能的研究、部署、应用和其他方面来避免先前讨论的伦理问题。
随着人工智能技术的应用越来越广泛，以及人工智能应用中出现的伦理问题和风险，政府和组织已经制定了许
多法律法规来规范人工智能的开发和应用。法律方法已成为解决人工智能伦理问题的一种手段。
技术手段：旨在开发新技术（尤其是机器学习技术），以消除或减轻当前AI的缺点，规避相应的伦理风险。例
如，对可解释机器学习的研究旨在开发新的方法来解释机器学习算法的原理和工作机制，以满足透明或可解释
性原则。公平机器学习研究使机器学习能够做出公平决策或预测的技术，即减少机器学习的偏见或歧视。
加强对AI技术的法律和伦理规范
25数据来源： Changwu Huang，An Overview of Artificial Intelligence Ethics ，中信建投
图表16：解决五项关键原则的技术方法总结
原则 代表性研究方向
透明度 Explainable AI or Interpretable AI
公平正义 Fair AI
非恶意
Safe AI
Secure AI
Robust AI
责任与问责 Responsible AI
隐私
Differential AI
Federated or Distributed earning
Homomorphic Encryption
57432141/28022/20240201 17:04
3
加强对AI技术的国际交流与合作
在2022年12月9日清华大学“人工智能韧性治理与未来科技论坛”指出，基于数据驱动的“第四范式”正在从根本
上改变传统的科研范式，释放出巨大的创新潜能。人工智能技术需要应对气候变化、公共卫生、数字鸿沟等重大
问题与全球性挑战，消除全球“治理赤字”，关键在于在AI技术的国际合作中考虑不同国家的公共利益与和社会
责任，在人工智能伦理原则与标准制定中更加尊重多元文化与不同诉求。
联合国开发计划署（UNDP）在《2022-2025年数字战略》中制定了“创建数字技术助力人类和地球发展的世界”
的雄伟愿景，然而其指出目前谁来设计并实施全球行为准则和标准体系、如何做出决策以及关键受众是谁等问题
尚且不明晰，AI技术的国际合作任重道远；
关于发达国家与发展中国家人工智能应用与治理不平衡的问题，联合国助理秘书长徐浩良表示：AI共治是事关全
球的重要事件，发达国家坚持国家政府主导，在国际框架、国际协议里的承诺范围内帮助其提高能力，缩小他们
与现代技术或现代应用技术、概念治理方面的差距。
57432141/28022/20240201 17:04
57432141/28022/20240201 17:04
与人工智能和谐共存
人类与人工智能和谐共处的关键在于建立有效的沟通和合
作机制，促进互相理解和尊重。
• 确保负责任地开发人工智能系统：需要预防和解决合作方之间的集体行动
问题。（The Role of Cooperation in Responsible AI Development，
Amanda Askell，Miles Brundage，Gillian Hadfield）
• 建立透明的人工智能决策机制：需要了解AI如何做出决策，以及如何纠正
AI的错误，可以通过公开透明的AI算法和决策过程实现。
• 鼓励多样性和包容性：人工智能系统的设计和开发需要考虑到不同文化、
背景、种族和性别的差异。鼓励多样性和包容性可以减少偏见和歧视的风
险，并帮助确保AI系统的公正性。
• 保护隐私和安全：人工智能系统需要通过加密技术和访问控制等安全措施
遵守隐私和安全法规，并保护用户的个人信息。
• 培养人类的技能和素质：随着AI技术的发展，许多传统的工作岗位将会被
自动化。人类需要不断学习和提升自己的技能和素质，以适应新的工作环
境。
• 重视道德和伦理：人工智能系统的设计和开发需要考虑到道德和伦理问题。
人们需要深入了解AI系统的运作和潜在的影响，以确保其符合道德和伦理
标准。
• 推广人工智能的社会责任：人工智能系统的设计和使用需要负起社会责任。
需要考虑到系统对社会和环境的影响，并采取相应的措施来减少负面影响。
28
图表17:对人工智能赋能行为的的干预阶段
来源：Generative Language Models and Automated Influence Operations:
Emerging Threats and Potential Mitigations，中信建投
57432141/28022/20240201 17:04
展望人工智能时代前景与机遇
人工智能时代将会给人类带来广泛的前景和机遇，注意负面影响
的前提下，充分发挥智慧和创造力，以促进人工智能的可持续发展。
29
• 提高生产效率和创新能力：在工业、服务业、医疗等领域中提
高生产效率，降低成本，促进创新。
• 改善医疗保健和生命质量：帮助医生诊断和治疗疾病，预防疾
病发生，提高医疗保健的效率和质量。
• 推动智慧城市的建设：应用于智慧城市的交通、能源、环保等
方面，提高城市的智能化程度，改善居民的生活质量。
• 促进社会公正和平等：帮助减少人为因素对决策的影响，减少
人类的偏见和歧视，促进社会公正和平等。
• 改善教育和学习：应用于个性化教育、在线学习和辅助教学等
方面，提高学生的学习效果和教学质量。
• 推动科学技术的发展：促进科学研究，加速科学技术的发展，
解决人类面临的一些大型复杂问题。
人工智能的发展存在诸多限制，包括语言模型的可能滥用、组织
在模型部署中面临的挑战、模型在算法上传播虚假信息的潜力、减
轻模型偏差的困难（种族、性别、宗教等），以及基于语言模型的
自动化对劳动力市场的影响等。
图表18:和GPT-4间的性能跳跃
来源：GPTs are GPTs: An Early Look at the Labor Market Impact
Potential of Large Language Models，中信建投
57432141/28022/20240201 17:04
57432141/28022/20240201 17:04
风险提示
全球经济波动风险：AI发展可能会受到全球经济波动的影响。近期国内外市场波动较大，地缘政治风险仍存，存在经济下
行风险。如果全球经济出现不稳定情况，AI发展的投资和资金来源可能会受到影响，进而影响AI的研究和应用进程。
AI发展不确定性引发的风险：AI发展具有不确定性。由于AI技术的高度复杂性和快速变化，其研究和应用进程可能会受到
不可预知的因素的影响，包括技术飞跃、新兴市场变化以及政治和法律环境的变化等。这些因素可能导致AI的发展路径不确
定，从而增加AI的研究和应用进程的风险。
AI引发的伦理和社会风险：AI技术的应用可能会带来各种伦理和社会风险，包括隐私问题、人工智能的决策透明度和公平
性问题、冲击劳动力市场等。AI算法中存在的偏见和不公正性可能导致社会中的不平等和歧视性问题的存在。AI技术的应用
也可能导致人类失去对某些领域的控制权，从而带来不可预测的后果。
AI导致的安全及可靠性风险：AI可能产生安全和可靠性风险。例如，运行故障、恶意攻击和不道德使用使用AI技术可能导
致数据泄露和信息安全问题。此外，AI的研究和应用可能会导致人类面临新的安全威胁，如自动化武器和恶意软件等。这些
安全和可靠性风险需要在AI的发展和应用过程中得到重视和控制。
本报告针对AI社会影响所提供的信息和观点仅供参考，不构成任何投资建议，读者应自行判断并承担投资风险。
31
57432141/28022/20240201 17:04
评级说明
投资评级标准 评级 说明
报告中投资建议涉及的评级标准为报告发布日后6个月内的相对市场表现，也即报告
发布日后的6个月内公司股价（或行业指数）相对同期相关证券市场代表性指数的涨
跌幅作为基准。A股市场以沪深300指数作为基准；新三板市场以三板成指为基准；
香港市场以恒生指数作为基准；美国市场以标普 500 指数为基准。
股票评级
买入 相对涨幅15％以上
增持 相对涨幅5%—15％
中性 相对涨幅-5%—5％之间
减持 相对跌幅5%—15％
卖出 相对跌幅15％以上
行业评级
强于大市 相对涨幅10%以上
中性 相对涨幅-10-10%之间
弱于大市 相对跌幅10%以上
分析师介绍
徐建华：总监，智能量化投研组负责人，先后就职于MSCI Barra公司和标普公司等专业研究机构，具有十多年金融市场研究、统计建模等专业经
验。为多家银行、基金和保险等资管客户提供因子模型、投资组合优化管理、基金评价、指数研究以及风险管理等咨询。
研究助理
陈添奕：多因子与ESG策略组研究员，美国杜克大学经济学硕士，FRM，曾任MSCI Barra及美国贝莱德集团等，主要负责多资产量化模型和策略研
究、指数，基金研究和FOF策略、ESG、气候风险，资产组合管理系统等投资研究服务。
57432141/28022/20240201 17:04
