计算机工程与设计ComputerEngineering andDesign 2011,Vo1.32,No.8 2849 基于特征融合的多模态身份识别方法研究 林玲 , 周新民 , 商 琳。, 高 阳。 (1.伊犁师范学院计算机系,伊宁835000;2.江苏省厅,江苏南京210024;3.南京大学计算机 软件新技术国家重点实验室,江苏南京210093;4.南京大学江阴信息技术研究院,江苏无锡214433) 摘 要:研究了多模态身份识别问题,结合人脸和掌纹两种不同生理特征,提出了基于特征融合的多模态身份识别方法。对 人脸和掌纹图像分别进行Gabor小波、二维主元变换(2DPcA)提取图像特征,根据新的权重算法,结合两种模态的特征,利用 最邻近分类器进行分类识别。在AMP、ORL人脸库和Poly—U掌纹图像库中的实验结果表明,两种模态的融合能更多地给出 决策分析所需的特征信息相比传统的单一模态的人脸或掌纹识别具有较高的识别率,更具安全性和准确性。 关键词:身份识别;多模态;人脸识别;掌纹识别;特征融合 中图法分类号:TP391.41 文献标识码:A 文章编号:1000。7024(2011)08—2849—04 Research on multimodal biometric authentication using feature level fusion L Ling , ZHOU Xin—min , SHANG LiI13, GAO Yang (1.Department ofComputer Science,Yili Normal College,Yining 835000,China;2.Jiangsu Province Public Security Department,Nanjing 210024,China;3.State Key Laboratory for Novel Software Technology,Nanjing University, Nanjing 210093,China;4.Jiangyin Institute ofInformation Technology,Nanjing Universiyt,Wuxi 214433,China) Abstract:Multimodal biometric authentication method is proposed,which combines the features ofhuman faces and palmprints.Bio— metircs features are extracted using Gabor wavelet and two dimensional principal component nalaysis(2DPCA)techniques,and iden- tification is carried out by the nearest neighbor classiier faccording to the combined biometric features oftwo modals and a new weighting strategy.The AMP,ORL and Poly—U databases are used as the test data in the experiments.Experimental results show that combination oftwo different modals Can provide more authentification information,which generates higher security and more accuracy than the single model authentication. Key words:identiy trecognition;multimodal;face recognition;palm print recognition;feature level fusion 0 引 言 生物认证技术是利用人体固有的生理特征,如人脸、人 方法应用比较普遍,而实际上,特征级的融合方法也有其独特 的优势,它不仅能保留参与融合的多特征有效鉴别信息,还能 消除冗余信息,实现信息的压缩,便于实时处理身份识别。人 脸具有最自然、直观、容易被接受的非打扰识别生物特征[6-71, 耳、指纹、掌纹、虹膜及行为特征等,对个体进行身份识别的认 证技术“ 。然而,单生物特征识别技术在实际应用中由于客观 条件变化的不可预测性,会遇到很多困难,而多模态的生物特 征识别运用了多个不同生物特征,结合数据融合技术,增加了 掌纹也具有唯一、稳定、方便、涵括的信息量丰富及区分性好 等优点 】,本文通过人脸图像、掌纹的信息,利用一种新的权重 融合算法将两种模态的特征进行特征级融合。实验结果表明, 本文的方法获得了比特征直接拼接法及单一的人脸或掌纹识 别更高的正确识别率,是一种有效的身份识别方法。 伪造人体生物特征的复杂性,相比单一生物特征识别系统具有 更好的可靠性和准确度,从而提高了生物认证系统的安全性 。 目前,国内外已有很多学者开展了多生物特征融合方面 的研究,如文献【4]提出了人脸、指纹、手形相结合的身份识别 方法,文献[5】提出了基于几何投影的多模态身份识别方法。 现有的多生物特征融合方法中,决策级的融合、匹配级的融合 l相关算法介绍 1.1 Gabor小波变换 Gabor滤波器又称为Gabor小波,是由Gabor于1946年定 收稿日期:2011-0l一22;修订日期:2011-04—08。 基金项目:江苏省社会发展基金项目(BE2010638);伊犁师范学院科研计划基金项目(YB200937)。 作者简介:林玲(1975一),女,伊宁人,硕士,讲师,研究方向为图像处理与式识别; 周新民(1961一),男,江苏兴化人,硕士,高级工 程师,研究方向为物证鉴定、刑侦技术; 商琳(1973一),女,河北曲阳人,博士,副教授,研究方向为数据挖掘、机器学习; 高阳(1972一), 男,江苏淮阴人,教授,博士生导师,研究方向为人工智能、图像处理。E—mail:lingl126@ylsy.edu.cn 2850 2011,Vo1.32,No.8 计算机工程与设计Computer Engineering and Design 2特征提取与特征融合 2.1特征提取 特征提取是模式识别中的一个重要环节,如何提取有效 的辨别特征是解决识别问题的关键。掌纹、人脸图像中具有 义,之后发展成为短时傅里叶变换(shorttimeFouriertransform, STFT)。其基本思想是对信号加窗,然后对窗口内的信号进行 傅里叶变换,因此它可以反映出信号的局部特性。后来Dau・ gman 将其扩展为二维形式,2DGabor滤波器可以达到空域与 频域的局部最优化,在空间局部化的同时可以获得很好的方 向和频率选择性,这些性质对图像纹理分析具有重要的意义。 掌纹的主线、皱线、乳突纹等3类纹线,人脸中的眉毛、眼睛、 丰富的纹理信息,而Gabor滤波能够较好的兼顾信号在频域 和时域中的分辨能力及描述图像的纹理信息,因此我们对人 鼻子、嘴巴等五官可以看成是丰富的纹理信息,因此适合用 Gabor滤波器对其进行特征提取。 由于Gabor滤波器去掉了直流分量,Gabor核函数对局部 脸和掌纹图像利用Gabor滤波器提取纹理特征。首先对人脸 和掌纹图像分别进行Gabor变换,提取4个尺度d={2,4,6,8}, 8个方向0={0,1,2,3,4,5,6,7>×( 8)的Gabor特征,图1为原始图 的光照影响不敏感。Gabor滤波结果可以描述不同方向的灰 度分布信息,可以容忍图像有一定的旋转、平移、亮度不均、尺 度变化等情况“ 。 式(1)为Gabor滤波基函数的一般形式 h(x ̄v, ,% = ( 『+ ) ])・ex./ ̄l 式中: 、 波长和方向:a 、 ——高斯包络在x和Y方向上 的标准差,它们决定了高斯包络的空间扩展。然而在实际应 用中,常常需要根据具体的应用要求,对核函数进行变化。不 同核函数产生的滤波器效果也不同,本文使用了环形2DGabor 滤波器。Gabor滤波器的公式为 G(x,y, , = exp卜 2d)’exp{2 ̄ri(uxcosO+uysinO)}(2) 式中: ——滤波器的方向;U——正弦曲线的频率; ——高 斯卷积的标准差。由于该滤波器是复滤波器,滤波后得到的 图像也是复数图像。因为掌纹、人脸图像的虚部和实部纹理 相似,我们仅提取虚部特征。 1.2 2DPCA特征 主成分分析是一种把高维数据投影到低维空间的一种线 性组合方法。由于线性组合容易计算,并且能够进行解析分 析,在人脸、掌纹等生物认证技术中得到了较好的应用。传统 的主成分分析在计算图像协方差矩阵时,先将二维图像矩阵 转化为一维矢量再运算,这样高维、计算量大的运算使得后续 算法具有较高的计算复杂度。 Yang等人提出了二维主成份分析(2DPCA)算法,该算法 的主要思路是:首先利用训练样本图像矩阵构造协方差矩阵, 然后求解协方差矩阵的特征值和特征向量,再选取前d个较 大的特征值对应的特征向量作为投影向量,最后将样本图像 直接投影到这些特征向量上,形成一个矩阵称为图像的投影 特征矩阵供识别时使用叭 。 假设有M幅大小为m ̄n的样本图像x (i=1,2,---,M)其平 1 均图像矩阵为 : ,则定义图像的协方差矩阵GI为 一1 1兰 G =— ∑( 一 ) (. 一 ) (3) 』 j=】 对应于矩阵GI的d个最大特征值的特征向量(x , ,…, 就是所要计算的原始图像x 的特征向量。由于G 的维数较 小,它的特征值和特征向量能够直接计算出来,不需要使用其 他的简便方法。 对于一个给定的样本图像F,可以用以式(3)求出特征向 量(x ,)( ,…,xd)进行特征提取,Y =FX ,k=1,2,…,d:Y 就是图 像F的主分量。 像;图2为Gabor变换后的掌纹图像。从图2可以看出,原始 人脸和掌纹图像经过Gabor滤波器的卷积处理以后,能够获 得32幅图像。可以看出图像维数太大,产生大量的冗余信息, 需要进行降低维数。为了降低计算复杂度和特征维数,将 Gabor人脸和Gabor掌纹压缩至滤波后的1/4,再用2DPCA进 行变换。特征提取及特征层融合过程如图3所示。 图1原始掌纹图像 图2 Gabor变的掌纹图像 挚 . G。b。 2D_PCA l L堕竺 銎匝 图3特征提取及融合过程 2.2特征融合 (1)特征向量的归一化 由于人脸和掌纹是两种不同的生物模态,在对它们进行 特征融合之前必须将它们分别转变成标准形式,使两者的特 征向量都处于同一范围内,这样才能对其进行有效的综合考 虑。基于这一原因,在特征融合之前需要对人脸和掌纹特征 进行归~化处理。归~化公式为 = ;其中Y为由m个人 脸或掌纹特征向量组成的矩阵, 是该矩阵的均值,6为方差。 通过归一化处理,人脸和掌纹的特征被归一化到了一个一致 区间,均值为0,方差为1。 (2)权重融合 我们对人脸和掌纹两种模态的特征向量进行特征级融 合,提出一种基于最邻近距离的权重融合算法。设人脸和掌 林玲,周新民,商琳,等:基于特征融合的多模态身份识别方法研究 纹分别有M个检测样本,C为样本类,对第j个检测样本(j= 1,2,---,M)的特征融合过程如下: 1)利用最邻近距离分类器NN计算每一类训练样本与检 2011,Vo1.32,No.8 2851 测样本之间的最短距离d=【dl,d ,…,dc]; 2)将d,(i=1,2…,c)按升序排序(d。<d <…<dc),找出最小距 翟■ 銎翟 图4 Poly.U掌纹库部分掌纹图像 离dl; 1 c 3)计算距离均值 , =÷∑ ;L _ 。4)样本距离均值和最短距离的比值t定义为f=— ,分别 u1 计算t掌纹,t人舱; 5)用Wj表示掌纹和人脸图像比值,计算公式为 = ; 6)计算检测样本权值w=[W ,W:,…,W ],得出权值的均值 W, =(∑M…wj/M); 7)特征融合公式为 融台= 人脸, . 掌纹] 式中:Y ——归一化后的人脸特征向量, ——权值均值, Y ——归~化后的掌纹特征向量。 2.3分类识别 人脸和掌纹图像特征融合后,我们采用最邻近距离分类 器来分类待识别样本“ 。最邻近距离分类器依据最短欧几里 得距离作为判断准则,在搜索空间中寻找与测试样本距离最 近的训练样本,该训练样本所对应的类别就是测试样本所属 的类别。 对训练样本y1与检测样本y2之间的距离定义为 d 。 )=l lY。一y2 ll (4) 式中:ff}f z——欧氏距离。 3实验结果及其分析 3.1 AMP、Poly.U数据库上的实验 本实验是在理工大学的Poly—u掌纹库“ 和AMP人 脸图像库“ 上进行的。Poly—U掌纹库中包含40个人,每人10 幅,共400幅原始掌纹图像。每幅图像256个灰度级,分辨率 为129x129。AMP图像库中包含l3个人,每人不同表情变化 的75幅原始图像,每幅图像256个灰度级,分辨率为64x64。 实验中从AMP人脸库l3个人的75幅人脸图像中,每人随机 选取10幅图像,Poly—U掌纹库中随机选取13个人,每个人10 幅图像作为实验数据。人脸和掌纹图像一一对应的方式下,选 取5幅图像作为训练样本,其余的5幅图像用于测试。图4、图 5分别表示随机抽取的第一个训练样本的掌纹和人脸图像。 为了选择最佳的主成分维数d,我们首先进行了样本在不 同主成分维数情况下识别率的对比。图6为实验结果,从图 中可以看出随着主成分维数d的增加识别率有所上升,但识 别率增加到一定程度后,识别率趋于稳定,甚至有下降的趋 势。本文的实验中当d=25时识别率最高,特征维数继续增 加时,会引入一些不利于分类的噪声,导致识别率变化不大, 甚至下降。根据实验结果我们选择了主成分维数d为25。 实验中我们对训练样本在不同方法下的识别率进行了对 比。对于单模态认证方式,我们对人脸模态进行了Gabor和 2DPCA变换;对掌纹也采用了相同的特征提取方法进行了对 ■■ 曩一 图5 AMP人脸图像库部分人脸图像 槲 特征维数d 0 O O 0 O O O 0十Amp_2dpca;palm一2dpca 9 8 7 6 5 4 3 2—AmpPalm2dpca directfusin AmpPalm2dpca weightfusin ~图6不同主成分个数下的正确识别率 比实验。多模态方式下,我们采用了人脸和掌纹特征直接拼 接法和权重融合法分别进行实验对比。 图7为实验结果图。从图中可以看出,本文的方法,即APM+ PolyUGABOR_2DPCA_weightfusion方法的识别效果最好。 褂 R 巷 训练样 …+…Amp2dpca;— e—Palm2dpca; — AmpGabor2dpca;—_卜-PalmGabor2dpca; ~AmpPalm2dpcadirectfusion;—一AmpPalm2dpcaweightfusion; AmpPalmGabor2dpca directfusion;+AmpPalmGabor 2dpcaweightfusion 图7 AMP和PolyU图像库的识别结果 表1为几种不同方法下的平均识别率。其中,对人脸和 掌纹图像进行2DPCA变换后的平均识别率为62.8%和68.1%, 对模态进行Gabor滤波后再进行2DPCA特征提取后的平均识 别率为:79.1%和82.3‰我们又对人脸、掌纹两种模态分别用 Gabo ̄2DPCA提取特征后,进行特征直接拼接和特征权重融 合后的平均识别率为:87.5%和91.8%。实验结果表明,本文的 0 ,O2852 2011,Vo1.32,No.8 计算机工程与设计Computer Engineering and Design 4结束语 识别率 62.8% 表1不同方法的平均识别率 方法 AMp 2DPCA 多模态身份识别是模式识别中一个非常具有挑战性的课 PloyU 2DPCA A^d GABOR 2DPCA 68.1% 79.1% 题,多模态特征融合可以弥补单一模态的不足,从而提高生物 认证系统的识别率。另外,对安全性要求较高的系统而言,多 模态的身份识别充当着双保险的角色。本文通过人脸的非接 触、掌纹的信息含量多及容易接受等特点,利用一种新的权重 融合算法将两种模态的特征进行特征级融合。实验结果表明, 本文的方法获得了比特征直接拼接法及单一的人脸或掌纹识 PloyU GABoR 2DPCA AMP+PloyU GABOR 2DPCA Directfusion AMP+PloyU GABOR 2DPCA weightfusion 82_3% 87.5% 91.8% 权重融合算法,根据检测样本与训练样本的距离给出融合权 值,相对特征直接拼接法提供了更好的分类信息。 3.2 ORL、Poly-U数据库上的实验 主要关注本文算法在不同数据库的识别性能,我们选用 了ORL人脸库“ 和P0 U掌纹图像库。ORL图像库是由英 国剑桥大学的AT&T实验室创建,包含4O个不同表情变化的 人脸图像,每人lO幅,一共400幅,每幅图像256个灰度级,分 辨率为112x92。图8为从ORL图像库随机抽取的一个训练样 本的几幅人脸图像。 ■■■■■ 图8 ORL人脸数据库部分人脸图像 为了和AMP人脸库相对比,实验中从ORL人脸库随机选 取l3个人,每人l0幅图像,从P0 u掌纹库选取l3个人,每个 人1O幅图像,人脸和掌纹图像一一对应的方式下,每人选取5 幅图像作为训练样本,其余图像用于测试。 表2为ORL、Poly-U图像库在几种不同方法下的实验对 比。从表2的结果中可以看出,APM+PolyU图像库的识别效 果好于ORL+PolyU图像库。原因在于,ORL人脸库未经很好 的预处理,存在头发等噪音的影响,使得识别率有所下降。但 无论采用哪一种组合,多模态的识别效果总是高于单一的人 脸或掌纹识别,两种模态特征的融合更容易克服外界因素的 干扰,提高生物认证系统的鲁棒性和识别的准确度。 表2单模态与多模态方式识别率对比 方法 识别率 ORL2DPCA 6l-2% _ORLGABOR__2DPCA 78.9% ORL+PloyUGABOI DPCADirectfusion 86.4% ORL+PloyU_GABOR_2DPCA_weightfusion 90.1% 从上述的实验结果中可以总结出:①基于距离的权重融 合算法,在多模态的特征融合中,相比特征直接拼接法能够得 到更准确的分类信息。②用Gabor小波提取的人脸或掌纹图 像特征适合用2DPCA算法进行降维,两种算法的结合具有较 好的识别效果。③人脸或掌纹图像的归一化等预处理对识别 率的提高有着一定的影响。 别更高的正确识别率,是一种有效的身份识别方法。 参考文献: [11 ]田捷,杨鑫.生物特征识别理论与应用【M】.北京:清华大学出版 社,2009. 【2】Toh Kar-Ann,Jaihie Kim,Sangyoun Lee.Biometric scores fusion based on total error rate minimization[J].Pattem Recognition, 2008,41(3):1066.1082. 【3】 王瑜,穆志纯,徐正光.多模态生物特征识别技术进展综述[J】.计 算机应用与软件,2009,26(2):3 1-34. [4】Jain A K,Nandakumar K,Ross A.Score normalization in multi- modal biometric systems【J】.Pattem Recognition,2005,38(12): 2270.2285. 【5】 Zhang Tianhao,Li Xuelong,Tao Dacheng。et a1.Multimodal bio- metrics using geometry preserving projections【J].Pattern Reeo. gnition,2008,41(3):805-813. [6 刘丽华,6]王映辉,邓方安.基于小波商图像的人脸光照补偿【J].计 算机工程与设计,2009,30(14):3402.3405. [7】 王映辉.人脸识别一原理、方法与技术[M】.北京:科学出版社'2OlO. 【8】 Kong A,Zhang D,Kamel M.Palmprint identiifcation using fea- ture level fusion[J].Pattern Recognition,2006,39(3):478-487. [9】 邬向前,张大鹏,王宽全,等.掌纹识别技术【l .北京:科学出版 社,2006. 【1 0]Chen Jiansheng,Moon Yiu-Sang,Wong Ming-Fai,et a1.Palmprint authentication using a symbolic representation of images[J]. Image and Vision Computing,2010,28(3):343—351. [1 1】林玲.基于2D—PCA的人脸识别方法研究[D】.长春:东北师范 大学学位论文,2008. 【12】Yao Yong—Fang,Jing Xiao-Yuan,Wong Hau-San.Face and Pal- mpring feature level fusion for single sample biometrics reco- gnition[J].Neurocomputing,2007,70(7.9):1582—1586. 【13】The Hong Kong Polytechnic University.PolyU palm print daat- base【DB】.http://www.comp.polyu.edu.hk/ ̄biometrics/,2004-01. 01,2006—07—15. 【14】Lu Chong,Liu Wanquan,An Senjian.Face recongaiton witll only one trainning sample[C].hTe Chinese Control Conference,2006: 2215.22l9. [15]ORL database[EB/OL].http://www.uk.research.art.coin:pub/ data/attfaces.tar ...