第卷期计算机学报３２ ８Ｖｏｌ．年月０９ＣＨＩＮＥＳＪＯＵＲＡＬＦＭＰＴｕｇ于双线性型清华大信息与技术实验室北京电子系摘是一种常多元数据描述法处理ｖｒｘ时力不强推广差决这两个问并保留好特该文提出了概念框架下统构造单调降Ｂ论析和结果均表明比由此可认更善抓住质征键词取类号／犇犗犐犅犻犾狀犲犪狉犉狅犿狊犱犖狋狏犕狓犛犮狕犵ＺＧＹ犜犺狌犔犫狔犳犝犼狆犈犃ｐｑｆＷｗｂ’犓狑如何能使维观引言测被地来变换始重通具备神经网络模式识别视觉某潜收稿日：；最终修改到本课题得国家自然科基金（）资助李乐，博士讲师主要研究７１６４方向为非负矩阵分解、集以及它们在图像工程中的应用章毓晋教授生导ｍａｉｅ５＠ｓｔｎｈｄｃ领域相关ｚｙｊ书
期李乐晰；（）能使数据的维得到一定程度约减２．主分量析、投影寻踪因子冗余归和独立是些最常用变换方法这都可理解为在限制下对进行或，不同间施加于其上条件而有本质区别但它们却两个共特点：允１许负存即性描述式实训练人脸重建 现线种新—库幅ＯＲ０非矩阵ＮｏｎｅｇａｔｉｖＭｒｘＦｃｚ［］由提出后所ＬＳｕ均值要求纯并且时心学生构造依整体感知基组成部过４也符合直观此某意义抓住了物智外引入导致结果稀疏处完全布单活跃效形５概念关研究展以参见近篇６接综文章框架系统双作征取年来Ｂｌｍｓｄ计算机视觉信号模识图像工等领域获大应原调降从释便仅看把少清７显局每多中次相３抑界化如拍摄遇被遮挡光照旋转给８介绍及带利响很样呈严格附录灰象向验证总集般做将先然再放型去习远小典问题会犖犕犉力强准确够随狏推广差地诠测记｛…｝＝犞第节详细说明犼·决保留好×犔
报年５［１］和非负的维系数矩阵使巨犠犔×犖犎（）两比／往达百甚至千犞≈方法律会导致．由于通常设定，所以只有在确味着总ｍｉｎ犕包含了随机变量本质特征时才可般认单抽狏９即用很少描述大据那么实是加性限制下尽力好够ＮＭＦ能保持信息完整情况将高模式｛言稀疏犼…｝简化为低兼顾＝２·这种基础估计出中推广综结构从代观点看∑犻列要依存而器学习直揭角度向某些它除①库幅ＯＲＬ４被训练外还分重建人脸且后一间差异例留然准则也就蕴涵果虽增多逐渐但全部内容过程唯参此压缩率仅效６无论哪均令满明上线投影或者说对左边取自３②任意次现犺ＹＡＥＰＩＵＳＴ③做右造体约减思路远算讲归如优问题求解：犳０需ｅｕ其刻画ｇ二乘文续验距离散已研究显示都事利何形不凸函当他类似视觉、识别及图像工等遇源领域处理规局最８身赖具并行办交替地得到相应个里强调辅助 犛犉犅进根目提受泛与测集犽诸知释犿狀犃势主引们矢犲犮再ｆａｃｄｔｂｓｈ＆ｌｖｒ７因象ｏｙｐｗｋＤＧ前ｊ；样去成典型小
期李乐等基８９［１］入但是，如上节所述处理数据集时描部内容过程．ＮＭＦ力不强推广性差为使矩阵可被而对参中的逐一矢量化造成这两个问题原计算讲归优因之取长（也分解结果施加非负限：制）补短避免操作直接犳∑文献用类似思路决了０存在本提出概念ＰＣＡＳ４框架下系统研究Ｂ刻画定义与析３ 犖犕犛犉任意距离或维随机进行次犿×狀犃散犽观测记些｛…｝＝２样＋求犾指狊犻狕犲、犅列乘积小犓－再并无论多以及比远做≈断方法设合括里般值确表示选要依具体模型且犮∈择好狇遇到通常很大ｍｉｎ应考那么只有包含虑需质特征才能实现即少犔犇犚和间区别它们完全同象向狏犼；双会相近都５此外继承将高式整把简低共／子局线约减点每新形从器学习角度看某调种码除于训练还代后异公准则编就蕴涵
计机报年对的代数学和认知解释关么３ 犅犉犖犕犛设是域上线性空间，规定维犞１２犚犾比更深相它基为｛…｝ε这联系方或＋义＝优化ηα｜４０算法实现将取欧β犳考虑几里德距离平最好等．犔犻（）个据点目标函每操犿问题清晰直易见９～狀犼［］推导归结双型集×→合一子：；犌犵∈犽ｍｉｎ‖－７使犱大小向元犡有素引入犃≈以及避免执行出情况除零典·犇６∑统组犪犫即其中成在局部决策变下应矩阵表仅影第能全示与常称整文献二次类该利种级交替地式了近似产生模从观５单看被处理所均可调降得由辅助进习根本通过映射而来像那样不同分差异只源于时用起础作正因此把非负命名角度析继承ＢＦＮＭＳ构造特到感纯加８程也要求量固值征响强外并未质做任何且潜、无限制们层高如果说神经活动
期李乐基双线性矩阵集的情况下，解于犔０犖（）ｍｉｎ‖犃－＋ε犇∑犚·犼犽＝１２…狀经推导见附录第部分知｛ ３狆∈｝对求可归结为：在犮犾６除外和均进一步设常数固定Ｔ犛犜［犝］７犪≠因此实际其中同正态布．优化模型统计学释５犅犉犕算法式表示通过引入ＢＦＮＭＳ犿×根据节个维误差项等价地变成如犈理证明形令非负按狉犲狊狋狑即认由加随机扰动精确生⊙得做最大似然估那么８ａｒｇｘｌｏ犘狘调整使目标函值降∏且别代哈达马乘假犻～δ写当前状ｅｐ更新后槡πσ４间是独立则９／
学报年狆Ｔ｝，记（）犾２犝＝犔＋ε犃犚犛种上需设犜犞·犮－犇∑统参照指个压缩率合假犪１≠如果｛…在除外犻∈０５犽维义做的和固定情犿×犖／况下令是非负按狉犲狊狀狋狑⊙ 列［］调整可使式中目标函数值７ＢＦＮＭＳ里共它们别ＯＲＬ降且．人脸库幅子ＩＥ理４狇正光各姿态①ｍａｘ后建与原间相误同约次犼幂计勾画了６平均ｇ处达到对有限制时最小狓曲线纵坐不改变；＜关取零点置根据构造图所示单～３解算法伪码表：以及犐狌随机初始化＞重复操作直收敛依执行８９从ｄｏ否则犗实验这部分利用一些证矩阵集比描述力强、推广性好由于主量析ＰｒｉｎｃｐｌＣｅｔＡｙｓ常工具较例也为被方之通过得出自结论客观本节每都将基多组进样类型等面Ｄｂｆｕｈ存差异ｗ
期李乐等双型非负是有解析的方法，关数据点仅由依所记ＰＣＡ５一次计算得到它不需多取平均而．录结果给出了些直观地支持曲线在图、和中始终列ＢＦＮＭＳ４６８论于最下且基本上远离这说推广性２明同压缩率比对矩阵小节种差３集描述准确异统参照指标为系量相训练通常要因做时高如此测试好那么与间力较 即（人脸库子）ＩＥ表以幅１ＯＲＬ０像ＹＵ进实验保留个情况见“”示例７重建及其应误；但原自也：号摄机获光正面各姿态共用行Ｔ过组①构造则致们都分别客９／ｅｒｓｏｎＤａｔｂｈｐｃｌｉｆｄｕｍ
计算学报年表、以及间的推广性比较示例（训练数据为人脸库）１ 犅犉犖犕犛犘犆犃犗犚犔结果测试取自ＯＲＬＹＡＥＰＩＵＭＳＴ方法原图／压缩率犾×２＝５４．３ＢＦ重Ｎ建误差０７９６８Ｃ注：全部幅；指对时相子犐犈其它中由号摄像机获用从左到右分别和拍与角度不同行犜
等（续表） ／压缩率犔＝２５３．９Ｎ重Ｍ建Ｆ误差０１４６８ＰＣＡ７注：训练数据为库的全部幅图；指对时相ＩＴ由、和可得到共同结论是计释有某种或些期矩阵集，果推广性比望其他进步目标ＢＳ要好多参考献［］ＬｅＤｕｎｇＨａｒｉｔｈｐｓｏｆｂｊｃｙｖｍｘｚ非负分解一个较新但越来常用元描述方法处理象ｌＥ本质上向量使能适于中被逐矢化这ＷＯＲ应学习问题成典型小样从而ｄ力不强最终ｑ变取之长补短文提出了ＫＶｗ概念在框架下点研究？Ｊ基双线析属讨ＺＹ构造特优模实现单调算验均明李乐章毓晋综电子报此外—也作项还揭示需更意味着征决遇供般操ｋＵ形式采将蕴涵代认知统
计算机报年［］，１ＹａｎｇＪＺｈＤＦｒｉＡ．ＴｗｏｄｍｅｓｌＳ９：ＰＣｐｃｔｂｆＩＥｙＶ（）Ｍ２０４６３７５ＸＫｕＨＢｊＵｖ章贤科许普华高等代数学第版北京清大出毓晋图像工程上册—处理社ｋＮ附录对定的证明／犓犅犫δ ～选文献义如果当且仅时有犙犎犌犉＝则称为二元辅助函之后推导方便这里预先给个引固是严格凸依照显然狋＋调整可使单下降和分别前值更新＜一向量｛｝以素角线犪阵与小相同…犃λ狀特征做解犇Σ由组成矩中排放顺序在致犽要优化问题犖情况犚‖－ε∑犔犻·犿直接式很困难决此思路构造通过它来基本点存析因其非常简所种几也反复用到根据就不再赘述了目标精∈半正样但犡犾均仿狏令取犆
期李乐等基双线性型集解犽［（）］／ 犅犻·＋ε犔犆犪１⊙犾２＝狏∑犼４犫调整可使目标降ＢＦＮＭＳ非负也这时右边－Ａ７变量都哈马乘除那么，对应素间Ｔ｛｝ｄｉａｇ犓需要指出如果正文中没上述过程推导将面临潜学无于现５类似不再赘证明与‖偶关系通个相从优化手里思路完全致得０８因此根据定义是犙犉．的二元辅助函数固…犇犖犚和严格凸所以在唯一最小值处有且犃犎９点引理犮＜当仅考虑由式取则→６３令分别为前更狆狉犲狊狀狋狑新后把用矩阵形表示并达记代入：犛犜犝情况下按
计算机学报年因为狆Ｔ｛（）｝狋狉犪犮犲犇＋ε犛犜…·１２犾烄熿燄烌＝烅烍烆燀燅烎∑犻犼－δＡ８并且凸在唯一最小值处犝９ ５所以的目标函数那么点犉［］，≠＜０考虑由这样就完成了对正文式中推导．记取犈犞则→／犓犣犫依照献思路构造令分别前狊狀狑犙更新后用向量形表示情况下按显然仿过程有⊙６调整可使降如果非负执行３；不能被满足未必根据引理半定当仅解结要求时ＢＦＮＭＳｄｉａｇ和７狏∈犚证明犺４狇义犽是二元辅助固除外严格犖犔
期李乐等基于双性型矩阵集分解５９犽犾）是抛物线函数，在除外的｛犉狆（…１２犇狇犮０＝烄犞烌｝和固定情况下［］令代∑犖犔犚犈＞狀犲狑ｍａｘ犼≠烅烍－ε＋表被更新后值根据理论为使达到烆犛犜烎对有非负限制时最小应这样操作：如果Ａ３点处取此狓；不改变零＜按照思路．犐ＰｈＤｌｅｃｔｕｒＨｉｓ犣犎犃犌犢狌犑犻ｎｙｏｇｂ／ｖｆｚｊｗ～ｄｐ犅犪犵狉狅犱 ＮＭＦＳＣ’ＵＢＴｋＩ６８７４
