第三章 随机性决策问题与
效用函数
王仁超 天津大学
本章内容
§1 先验信息与主观概率
§2 效用函数
§3 贝叶斯分析
*§4 随机优势法
§1 先验信息与主观概率
先验信息:随机性决策问题特点:自然状态的不确定随机性决策问题特点:自然状态的不确定
性引起后果的不确定性。为了进行科学决策,决策人性引起后果的不确定性。为了进行科学决策,决策人在通在通
过试验收集自然状态有关信息之前,根据自己的经验、主过试验收集自然状态有关信息之前,根据自己的经验、主
观估计自然状态的信息观估计自然状态的信息,,称为先验信息,它是贝叶斯决策称为先验信息,它是贝叶斯决策
分析的基础。分析的基础。
主观概率与客观概率
决策人根据自己的经验所设定的自然状态发生的概率决策人根据自己的经验所设定的自然状态发生的概率
称为主观概率;通过随机试验所确定的自然状态发生称为主观概率;通过随机试验所确定的自然状态发生
概率称为客观概率。概率称为客观概率。
先验分布:借助先验信息确定的主观概率分布,先验分布:借助先验信息确定的主观概率分布,
称为先验分布称为先验分布
主观设定先验分布的方法基础
二元关系:比较两个对象某一方面属性的关系。主观比较两个对象某一方面属性的关系。主观
概率估计中,比较两个事件发生的可能性概率估计中,比较两个事件发生的可能性
二元关系假设:二元关系假设:
连通性:连通性:AA、、BB两个事件发生的似然性是可以比较的,且只有以下两个事件发生的似然性是可以比较的,且只有以下
一种关系成立,即等可能一种关系成立,即等可能A~BA~B;;AA比比BB更可能更可能AA≻≻BB,, BB比比AA更可能更可能
AA≺≺BB。。
传递性传递性:: AA、、BB、、CC三个事件,若三个事件,若AA≼≼BB、、B B ≼≼ C C,,则则A A ≼≼ C C
部分小于全体部分小于全体::设事件设事件AA⊂⊂BB,,则事件则事件BB的发生似然性的发生似然性A A ≼≼BB,,如如AA
为物价上涨为物价上涨88--1010%,%,BB为物价上涨为物价上涨88--1212%,%,则事件则事件BB发生的可能发生的可能
性至少与性至少与AA一样大一样大。。
主观设定先验分布的方法
概率盘——最为常用
区间法
相对似然法
直方图法
概率盘
正面正面 反面反面
对应对应
对应对应
抽奖抽奖
适用于对概率有了解的专家适用于对概率有了解的专家
区间法
11)把事件不确定量的区间划分为两部分,询问决)把事件不确定量的区间划分为两部分,询问决
策人事件发生在哪个区间可能性更大策人事件发生在哪个区间可能性更大
22)然后减少可能性大的区间,直至两个区间等可)然后减少可能性大的区间,直至两个区间等可
能;能;
33)同样还可以对两个区间记一步划分,得到)同样还可以对两个区间记一步划分,得到1/41/4
和和3/43/4的点对应的区间的点对应的区间
****由于该方法误差积累,一般不再进一步划分由于该方法误差积累,一般不再进一步划分
相对似然法
在事件的不确定量区间中,要求决策者首先确定在事件的不确定量区间中,要求决策者首先确定““最可能最可能
””和和““最不可能最不可能””的量,然后询问的量,然后询问““最可能最可能””量的可能性量的可能性
是是““最不可能最不可能””量的可能性的几倍-相对似然性,再对其量的可能性的几倍-相对似然性,再对其
他量进行相对似然性估计,由此得到非正常先验密度曲线他量进行相对似然性估计,由此得到非正常先验密度曲线
(密度积分不等于(密度积分不等于11,故非正常)。,故非正常)。
例如,关于某产品明年的销售量,在例如,关于某产品明年的销售量,在10001000~~1000010000件之间,件之间,
最可能是最可能是50005000件,最不可能是件,最不可能是90009000件,最可能发生件,最可能发生50005000件件
的可能性是最不可能的可能性是最不可能90009000件的件的44倍,于是得到倍,于是得到50005000对对90009000的的
相对似然。继续问相对似然。继续问40004000件与件与80008000件的相对似然性。。。件的相对似然性。。。
直方图法
将某一事件的不确定将某一事件的不确定
量划分为若干区间,量划分为若干区间,
询问决策人各个区间询问决策人各个区间
发生的概率,发生的概率,
§2 效用函数
价值与效用:在经济学以及随机决策问题
中,很多研究表明,决策人对后果的判定
不完全取决于后果价值,而是价值的一个
对应值,这个对应值反映决策的偏好
(preference),即效用是决策人对后果值
的偏好的量化。
效用函数:当决策人的偏好满足一定的公
理时,所有决策后果与效用的对应函数关
系。
展望、抽奖与抽奖的确定当量
展望(prospect)或预期:决策的可能前景,
它是各种后果与后果出现概率的组合,记
为:P={p11,c11;p22,c22;p33,c33;…;prr,crr}
抽奖:决策树中由机会点和该机会点发出
的若干机会枝的概率及其后果构成的图形,
称为抽奖,若决策人认为某个后果C与抽奖
L= {p11,c11;p22,c22;p33,c33;…;prr,crr}无差异,则
称C为抽奖L的确定当量,抽奖和确定当量
是确定效用函数的常用方法
效用的存在性公理
由由Von NeumannVon Neumann和和Morgenstern Morgenstern 上世纪上世纪4040年代提出。年代提出。
连通性:连通性:PP上的优先关系是连通的;上的优先关系是连通的;
传递性传递性
替代性:若替代性:若P1P1、、P2P2、、P3P3∈∈PP,,P1P1≻≻P2P2且且00<<αα <<11,, ααP1P1++
((11-- αα)P3 )P3 ≻≻ ααP2P2+(+(11-- αα)P3,)P3,或或 00<< ββ <<αα<<11,, ααP1P1++
((11-- αα)P3 )P3 ≻≻ ββ P2P2+(+(11-- ββ)P3)P3
连续性连续性((偏好的有界性偏好的有界性))若若P1P1、、P2P2、、P3P3∈∈PP,,P1P1≻≻P2 P2 ≻≻P3P3
,,则存在则存在00<< ββ <<αα<<11使使ααP1P1+(+(11-- αα)P3 )P3 ≻≻ ββ P2P2+(+(11--
ββ)P3)P3
效用函数的数学定义
集合P上的实值函数u,若它和P上的优先关
系一致,即:若P1P1,,P2P2∈P且P1P1 ≻≻P2P2,,当且仅
当u(P1P1)> u(P2P2)。
定理:若P上的优先关系满足公理1~4,则
一定存在上述定义的效用函数。
基数效用与序数效用
基数是2、、等,定义在展望上的效
用是基数效用,以上介绍的效用函数,为
基数效用函数,基数效用的特点:既反映
偏好的次序,也反映偏好强度。通常基数
效用值在0-1之间
序数,第一、第二、第三等,定义在后果
集上,只反映偏好的次序,而不反映偏好
强度,不涉及随机性。
效用函数的构造方法-偏好诱导
确定当量法:给定两个后果c1、c2,通常是
最差和最好的结果,假定其均以50%概率出
现,问决策人确定当量c为多少,c~c1×
+c2×;设U(c1)=0, U(c2)=1,
则得到C对应效用为,在c1和c之间和c和c2
之间继续询问决策人,则可以得到若干效
用值,拟和成曲线即为该决策人的效用函
数。
后果后果
效用效用
效用函数效用函数
效用与风险
效用函数反映决策者对风险的态度,通常
分为三种类型,风险中立、风险追求和风
险厌恶。
例如,如果u(0)=0,u(2500)=1,如果决策人
在50%概率抽奖中,认为1250的效用为,
则该决策人是风险中立,如果认为900(或
1250的效用值大于)与抽奖相当,则该
决策人是风险厌恶的,效用函数上凸,否
则为风险追求,效用函数下凸。
利用效用函数和先验信息进行决策
决策准则期望效用最大
利用效用进行决策的案例:
例:某农场要决定一块地中选择什么作物,各种作物的
收益如表1,若该人的收益与效用对应关系如表2,如何
决策?
200020006000600030003000棉花棉花
300030005000500020002000小麦小麦
700070004000400010001000蔬菜蔬菜
多雨多雨
正常正常
旱旱
天气天气
利润利润
方案方案
效用决策案例
收益收益 10001000 20002000 30003000 40004000 50005000 60006000 70007000
效用效用
x2,
x1,
x3,
x1,
x2,
x3,
x1,
x2,
x3,
a3
a2
a1
决策点
方案枝
状态点
概率枝
后果
期望效用
§3贝叶斯分析
前言:前面我们介绍了依据先验信息进行决策的前言:前面我们介绍了依据先验信息进行决策的
方法。这些方法可能存在以下问题:方法。这些方法可能存在以下问题:
先验信息难以获得;先验信息难以获得;
决策非常重要,要求提高决策质量决策非常重要,要求提高决策质量
对于随机决策问题要提高决策质量:最好通过试对于随机决策问题要提高决策质量:最好通过试
验或经验等获得新的信息,它们是对先验信息得验或经验等获得新的信息,它们是对先验信息得
到的主观概率的一个随机估计,由此得到关于自到的主观概率的一个随机估计,由此得到关于自
然状态的后验概率;决策者根据这个估计和决策然状态的后验概率;决策者根据这个估计和决策
规则采取行动-贝叶斯分析。规则采取行动-贝叶斯分析。
贝叶斯定理
条件概率:条件概率:AA、、BB为随机试验的两个事件,为随机试验的两个事件,
在事件在事件BB发生条件下发生条件下AA发生的概率称为发生的概率称为AA关关
于于BB的条件概率,记为:的条件概率,记为:P(A|B)P(A|B),且,且
P(A|B)=P(AB)/P(B)P(A|B)=P(AB)/P(B)
全概率公式:若全概率公式:若AjAj,,jj==11,,22,。。。,。。。nn是是
样本的一个划分,则样本的一个划分,则
贝叶斯定理贝叶斯定理
贝叶斯定理解释
P(Aj)称为先验概率,P(Aj|B)称为后
验(或验后)概率。
在随机决策中,决策者对于自然状态x的出
现概率主观估计是先验概率,通过试验等
进一步获得自然状态估计是后验概率。
损失函数
统计决策理论习惯于用损失函数而非效用
函数做决策分析,损失函数L(θ,a)表示
出现自然状态θ情况下决策者采取行动a的
损失。可以用负效用函数来表示损失函数。
与期望效用最大作为决策规则,损失函数
为期望损失最小也可以作为决策规则
风险函数
在贝叶斯分析中,决策者通过试验获得自然状态在贝叶斯分析中,决策者通过试验获得自然状态ⒺⒺ 的的
一组观测值一组观测值XX,由于试验仍可能存在其他随机因素影响,,由于试验仍可能存在其他随机因素影响,
因此,因此,XX和和ⒺⒺ均为随机变量。均为随机变量。
决策人当获得决策人当获得XX后,他根据后,他根据XX选择行动,因此,决策人的选择行动,因此,决策人的
行动应为行动应为XX的一个函数,记为的一个函数,记为δ(Xδ(X)。)。
当自然状态为当自然状态为θθ∈∈ⒺⒺ ,观察为,观察为xx∈∈XX,,根据根据xx选择行动选择行动aa
时记为时记为δ(xδ(x),相应损失为),相应损失为LL((θθ,,δ(xδ(x))))。。
由于由于XX和和ⒺⒺ均为随机变量,因此均为随机变量,因此LL((θθ,,δ(Xδ(X))))也是随也是随
机变量,当给定机变量,当给定θθ,定义,定义LL((θθ,,δ(Xδ(X))))对对XX的期望值的期望值
为风险函数记为为风险函数记为RR((θθ,,δ)δ)==
风险函数的具体型式
当当XX为连续的随机变量时为连续的随机变量时
当当XX为离散的随机变量时为离散的随机变量时
其中,其中, 为条件概率密度函数或条件概率为条件概率密度函数或条件概率
贝叶斯风险
其实决策人决策时,并不知道真实的状态其实决策人决策时,并不知道真实的状态 中中 哪哪
一个一个θθ会出现,他只能对会出现,他只能对θθ出现的先验密度(概出现的先验密度(概
率)率)ππ((θθ)做主观估计,决策分析中还需要把)做主观估计,决策分析中还需要把
风险函数风险函数RR((ⒺⒺ,,δ)δ)对对ⒺⒺ 取期望,记为取期望,记为r(r(π, π,
δ)=E Rδ)=E R((ⒺⒺ,,δ)δ)
当当ⒺⒺ连续随机变量连续随机变量
当当ⒺⒺ离散随机变量离散随机变量
贝叶斯决策规则
贝叶斯风险最小的策略(损失最小)贝叶斯风险最小的策略(损失最小)
正规型,正规型,
扩展型扩展型
扩展型贝叶斯决策问题分析步骤
获得原始自然状态信息的主观概率估计
获得关于原始自然状态的试验估计
自然状态与行动方案的损失函数确定
计算后验概率或密度
确定最优行动:即预测自然状态不同时的
行动规则-显然它是一种随机应变的。
一个贝叶斯分析案例
某油井公司拥有一块油田,当前该公司可以采取某油井公司拥有一块油田,当前该公司可以采取
的措施为:的措施为:a1a1:自己钻采;:自己钻采; a2 a2:无条件出租,租:无条件出租,租
金金4545万;万;a3a3:有条件出租,租金依照产量而定,:有条件出租,租金依照产量而定,
产油在产油在2020万桶或以上,每桶提成万桶或以上,每桶提成55元,产量不足元,产量不足2020
万桶不受租金。万桶不受租金。
另外,自己开采钻井费用另外,自己开采钻井费用7575万元,有油需要增加万元,有油需要增加
采用设备费采用设备费2525万元。油价每桶万元。油价每桶1515元。油田产量分元。油田产量分
为无油、为无油、55万桶、万桶、2020万桶和万桶和5050万桶万桶44种状态,主观种状态,主观
概率为概率为、、、、、、。问决策人风险中立,。问决策人风险中立,
决策人应采取什么行动。决策人应采取什么行动。
分析
决策人风险中立,收益与效用成线性关系,
可以认为收益就是效用
损失函数可以取效益的负
现在问题没有涉及后验信息,但仍可以用
贝叶斯决策分析方法求解
决策树
贝叶斯公式计算
有后验信息的决策
决策人如果通过地震决策人如果通过地震
试验可以获得该地区试验可以获得该地区
石油含量石油含量00,,55,,2020,,5050
万桶的相关信息,需万桶的相关信息,需
要经费要经费1212万元,问进万元,问进
行该项试验后,决策行该项试验后,决策
人如何动?人如何动?
,p(xk|,p(xk|θj)θj)如表所示。如表所示。
θθ X1X1
=5=5
00
X2X2
=2=2
00
X3X3
=5=5
X4X4
=0=0
5050 7/127/12 1/31/3 1/121/12 00
2020 9/169/16 3/163/16 1/81/8 1/81/8
55 11/2411/24 1/61/6 1/41/4 1/81/8
00 3/163/16 11/4811/48 13/4813/48 5/165/16
求全概率或预测密度与后验概率公
式
全概率
后验概率
θθ X1=5X1=5
00
X2=2X2=2
00
X3=5X3=5 X4=0X4=0
5050 00
2020
55
00
贝叶斯分析扩展型
给定给定x1=50x1=50万桶,利用扩展型万桶,利用扩展型
求得对应方案求得对应方案a1a1的期望损失的期望损失
同样求得对应同样求得对应 a2 a2和和a3a3的期望损失为-的期望损失为-3333和-和-55,于,于
是预测为是预测为x1 x1 取取a1a1方案。方案。
同样对同样对x2x2、、x3x3、、x4x4可以达到行动方案为可以达到行动方案为a1a1、、a2a2、、a2a2
考虑12
万元的
试验费
课堂指导作业
绘制贝叶斯分析扩展型的决策树。
提示首先是决策是否进行试验,如果进行
试验则可能以预测密度出现 x1、x2、x3、
x4四种预测状态,然后对每一种状态,做
决策采取那种方案。
信息的价值
进行贝叶斯决策分析需要后验信息,它通
过试验获得,需要一定的费用,那么,就
存在花费这笔费用值不值的问题?
获得的信息可能存在两种情况:全信息和
采样(随机)信息,所谓全信息是指通过
试验完全确定未来状态,所谓采样信息是
指试验有一定的准确性,但仍有助于提高
决策的准确性
完全信息的价值
试验可以完全确定自然状态,例如,假若地震试试验可以完全确定自然状态,例如,假若地震试
验后可以确定该地块有验后可以确定该地块有5050万桶石油或万桶石油或2020万桶或万桶或55万万
桶或无油,那么决策人就可以使随机应变,使损桶或无油,那么决策人就可以使随机应变,使损
失最小化,这时的损失为期望最小损失:失最小化,这时的损失为期望最小损失:
相反则为最小期望损失:相反则为最小期望损失:
完全信息的价值完全信息的价值EVPIEVPI=最小期望损失-期望最小=最小期望损失-期望最小
损失=损失= — —
采样信息的价值
有采样信息时,我们是按照贝叶斯分析,利有采样信息时,我们是按照贝叶斯分析,利
用后验信息进行决策,期望损失是贝叶斯期用后验信息进行决策,期望损失是贝叶斯期
望损失最小=望损失最小=
没有先验信息决策同上没有先验信息决策同上
EVSIEVSI== — —
完全信息价值算例
对于石油开采,在试验前,估计出油50、20、
5、0万桶的概率为、、、,当
试验确定为出油50、20、5、0万桶时的损失
为-650、-200、-45、-45,故期望损失
为:-650×-200×-45×-45×=
-
无试验时,最小期望损失为
完全信息价值EVPI=--()=
采样信息的价值算例
按照贝叶斯分析后,当试验确定为出油50、
20、5、0万桶时的损失为-、-、
-33、-33,按照各个状态全概率、
、 、 ,故贝叶斯期望损失
为,另外由于计算损失中扣除12万元,
计算信息价值时补充进来,期望损失为-
无试验时,最小期望损失为
采样信息的价值EVSI=-(-
)=
§4 随机优势法
随机优势概念的产生:前面我们介绍的方
法需要决策人的效用函数(偏好信息),
实际决策问题中,我们往往很难获得效用
函数的准确完全信息,往往只能获得部分
信息,如这个决策人的效用函数类型。那
么,在获得效用函数的类型后能否辅助决
策者对一定的决策方案排序,确定优劣呢
?这是随机优势决策产生的原因。
随机优势产生与概念
随机优势决策准则是基于投资决策问题研
究产生的,代表人物是Markowitz,他在研
究有价证券组合投资时提出。
随机优势的概念:设在随机决策问题中存
在两个方案a1和a2,如果在一定的条件下,
记为条件C(通常是决策人的效用函数属于
某一个类)a1≻a2,则称方案a1在条件C下
优势于a2,或方案a1比 a2 具有随机优势,
记为a1≻CCa2 。
两类强随机优势
按状态优于按状态优于
如右表,若为损失函数,如右表,若为损失函数,
a1a1≻≻a2a2
实际决策中很少实际决策中很少
按照按照EE--VV
如果一个方案如果一个方案a1a1收益的收益的
期望期望((均值均值))大于另一大于另一
个方案个方案a2a2,,而且方差小而且方差小
于方案于方案a2a2,,则则a1a1≻≻a2a2
现实中这样的决策问题现实中这样的决策问题
也很少也很少
ΘΘ a1a1 a2a2 a3a3
11 44 77 22
22 66 66 88
33 33 44 77
不满足以上两条的
能不能确定方案的
随机优势呢?回答是在
知道决策人效用函数
类型后可以做到!
第一类效用函数与随机优势
第一类效用函数U1
定义:定义:uu((xx)是连续有界递增的,即)是连续有界递增的,即uu的定义的定义
域为域为I[a,b]I[a,b],将(,将(aa,,bb)定义为)定义为II00,,uu和和u’u’在在II上连上连
续有界,在续有界,在II00上上u’ ≥0u’ ≥0。。
这是第一类效用函数是对效用函数的最基本要这是第一类效用函数是对效用函数的最基本要
求,这样的效用函数还不能分辨决策人的风险求,这样的效用函数还不能分辨决策人的风险
态度。态度。
如果两个方案关于第一类效用函数具有随机优如果两个方案关于第一类效用函数具有随机优
势,那么,不论决策人的风险态度,两个方案势,那么,不论决策人的风险态度,两个方案
之间的优势是存在的。之间的优势是存在的。
第二类效用函数与随机优势
U22={u|u∈U11,u’’在I[a,b]连续有界,在I00上
u’’ ≤0}
第二类效用函数可以通过第二类效用函数可以通过r=r=--u’’/u’u’’/u’的比值判的比值判
断该类决策人是厌恶风险的,即断该类决策人是厌恶风险的,即r≥0r≥0。。
现实中很多证据表明,决策人即使不是全部也现实中很多证据表明,决策人即使不是全部也
是大多数是厌恶风险的。是大多数是厌恶风险的。
如果两个方案关于第二类效用函数具有随机优如果两个方案关于第二类效用函数具有随机优
势,那么,决策人的风险态度为厌恶时,两个势,那么,决策人的风险态度为厌恶时,两个
方案之间的优势是存在的。方案之间的优势是存在的。
第三类效用函数与随机优势
U33={u|u∈U22,u’’’在I[a,b]连续有界,在I00上
u’’’ ≥0}
UU33描述的是:多数人对小额盈亏的态度是随着描述的是:多数人对小额盈亏的态度是随着
财富的积累而变化的,财富越多,他们对小额财富的积累而变化的,财富越多,他们对小额
盈亏的风险厌恶程度越低,即盈亏的风险厌恶程度越低,即UU33为递减的厌恶为递减的厌恶
风险效用函数。风险效用函数。
如果两个方案关于第三类效用函数具有随机优如果两个方案关于第三类效用函数具有随机优
势,那么,决策人的风险态度为递减厌恶时,势,那么,决策人的风险态度为递减厌恶时,
两个方案之间的优势是存在的。两个方案之间的优势是存在的。
随机优势判定方法收益的概率分布
定义
设方案关于收益设方案关于收益xx的概率分布为的概率分布为FF((xx))
随机优势的判定方法
设方案设方案aiai和和ajaj关于收益关于收益xx的概率分布为的概率分布为FiFi((xx))
和和FjFj((xx),),xx的取值范围为的取值范围为[a,b][a,b]。。
若对任意的若对任意的xx∈∈II,存在(,存在(xx))≥ Fi≥ Fi((
对对kk==11、、22,则方案,则方案aiai存在存在kk等随机优势于等随机优势于ajaj
对对kk==3,3,当当Fi(x) Fi(x) 的均值大于等于的均值大于等于Fj(x)Fj(x)的均值的均值
时,方案时,方案aiai存在存在kk等随机优势于等随机优势于ajaj
随机优势法应用例
1/61/6 1/61/6 1/61/6 1/61/6 1/61/6 1/61/6
a1a1 11 44 11 44 44 44
a2a2 33 44 33 11 11 44
例1
均值 μa1=3 μa2=8/3 μa1>μa2
方差 a1:2 a2:14/9 a1的也大于a2
利用均值-方差准则无法判断
例1的第一等随机优势判定
xx≤b≤b 00 11 22 33 44
a1a1 00 1/31/3 1/31/3 1/31/3 11
a2a2 00 1/31/3 1/31/3 2/32/3 11
后果的概率分布曲线-梯形线
a1比a2具有第一等随机优势,
同样意味着具有第二、三等随机优势
1/61/6 1/61/6 1/61/6 1/61/6 1/61/6 1/61/6
A1A1 11 11 44 44 44 44
A2A2 00 22 33 33 44 44
例2
后果的概率分布曲线
xx≤b≤b 00 11 22 33 44
a1a1 00 1/31/3 1/31/3 1/31/3 11
a2a2 1/61/6 1/61/6 1/31/3 2/32/3 11
不具备第一等随机优势
例2 判断是否有第二等随机优势
xx≤b≤b 00 11 22 33 44
a1a1 00 00 1/31/3 2/32/3 11
a2a2 00 1/61/6 1/31/3 2/32/3 4/34/3
后果的概率分布曲线积分一次,即上表区间长度×密度之和-折线
=(1-0)*1/6+(2-1)*1/6+(3
-2)*1/3+(4-3)*2/3 a1 比a2具有第二等
随机优势