Вы находитесь на странице: 1из 6

第 6期 电  子  学  报 Vol

.44 No.6
20
16年 6月 ACTAELECTRONI
CAS
INI
CA J
un. 2016

基于 L1
范数的最大间距准则
陈思宝1,2,陈道然1,2,罗 斌1,2
(1.安徽大学计算机科学与技术学院,安徽合肥 230
601;2.安徽省工业图像处理与分析重点实验室,安徽合肥 230039)

  摘 要: 在进行线性投影降维时,由于传统的最大间距准则(Ma
ximu
m Ma
rgi
nCr
it
eri
on,MMC)算法基于 L2

数,易于受到野值(o
utl
ie
rs)及噪声的影响.该文提出一种基于 L1
范数的最大间距准则(L1
nor
mb
ase
dMMC,MMC
L1)降维方法,它充分利用 L1
范数对野值及噪声的强鲁棒性以及最大间距准则,提出了一种快速迭代优化算法,并给
出了其单调收敛到局部最优的证明.在多个图像数据库上的实验验证了该方法的鲁棒性与高效性.
关键词: 最大间距准则 (MMC);L1
范数;线性投影;降维
中图分类号: TP3
91
4   文献标识码: A   文章编号: 0
372
211
2(2
016)0
61
383
06
电子学报 URL:h
ttp://
www.e
jou
rna
l.o
rg.c
n  DOI
:10.
396
9/j
.is
sn.
037
22
112.
201
6.0
6.0
18

L1
Nor
mBas
edMax
imum Mar
ginCr
it
eri
on
1,

CHENSi
ba
o ,CHENDa
or
an1,2,LUOBi
n1,2
(1.S
cho
olo
fCo
mput
erS
cie
ncea
ndTe
chn
olo
gy,Anh
uiUni
ver
si
ty,He
fei
,An
hui23
060
1,Ch
ina;
2.Ke
yLab
ora
tor
yfo
rInd
ust
ri
alI
magePr
oce
ssi
nga
ndAn
aly
siso
fAnh
uiPr
ovi
nce
,He
fei
,An
hui2
3003
9,Ch
ina)

Abs
trac
t: Wh
enp
erf
ormi
ngd
ime
nsi
ona
li
tyr
edu
cti
onwi
thl
ine
arp
roj
ect
ion
s,ma
ximu
m ma
rgi
ncr
it
eri
on(MMC)i


fte
naf
fec
tedb
you
tli
ersa
ndn
ois
esd
uet
oL2
nor
m.I
nth
isp
ape
r,L1
nor
mb
ase
dma
ximu
m ma
rgi
ncr
it
eri
on(MMC
L1)

spr
opo
sedf
ord
ime
nsi
ona
li
tyr
edu
cti
on.I
tma
kesf
ullu
seo
fMa
ximu
m Ma
rgi
nCr
it
eri
ona
nds
tr
ongr
obu
stn
esso
fL1
nor


oou
tli
ersa
ndn
ois
es.Ar
api
dit
era
ti
veo
pti
miz
ati
ona
lgo
rit
hm,wi
thi
tsp
roo
fofmo
not
oni
cco
nve
rge
ncet
olo
calo
pti
mum,i


ive
n.Ex
per
ime
ntso
nse
ver
alp
ubl
ici
mag
eda
tab
ase
sve
rif
yth
ero
bus
tne
ssa
nde
ffi
ci
enc
yoft
hep
rop
ose
dme
tho
d.
Keywor
ds: ma
ximu
m ma
rgi
ncr
it
eri
on(MMC);L1
nor
m;l
ine
arp
roj
ect
ion;d
ime
nsi
ona
li
tyr
edu
cti
on

Rp×q由样本协方差矩阵的最大特征向量(主成分)构成,
1 引言
它尽可能的保持方差中的信息,并通过扩展正交成分
  在统计模式识别和图像处理领域中,高维数据是 上的数据,获得较小的重构误差.但是最大特征值对应
限制多种模式识别技术的主要因素.当训练样本的数 的特征向量所提供的去相关和统计显著性的测量并不
目相对于特征数目较小时,大量的特征会降低分类器 能保证分类器中类别的必要结构信息.此外,与模型相
的性能,而且会 出 现 由 “维 数 灾 难”[1]造 成 的 “峰 化 现 关的分类信息可能会被忽略,因此 PCA在很大意义上
象”.此外,在高维空间中存在着测度的“集中现象”,即 是次优的.LDA[1]选择使得 Fi
she
r准则函数达到最大的
样本数据点之间距离的度量可区分性随着样本数据维 向量作为最佳投影方向,从而使得训练样本在该方向
数的增加而减弱.为了克服这些问题并且使得后续的 上投影后,得到最大的类间离散度和最小的类内离散
数据表示或分类更加稳健,对高维数据进行降维就成 度.然而,在人脸图像识别领域存在着大量的典型的小
了一个非常重要的步骤. 样本问题,在该类问题中,类内散布矩阵通常是奇异的.
众所周知,经典的线性投影降维 方 法通 常将高 维 这主要是因为待识别图像向量的维数较高,而在实际
训练数据用向量形式进行表示,再进行线性投影降维 问题中难以找到或根本不可能找到足够多的训练样本
和特征提取,其中最经典的特征提取方法主要有主成 来保证类内散布矩阵的可逆性.
[2] [3]
分分析 (Pri
nci
palCo mp onen
tAnal
ysi
s,PCA)、线性 判 别 为了避免模式识别中的小样本问题,Li 、S
ong
分析 (Fi
she
rLinea
rDi scr
imina
ntAna
lysi
s,LDA)[1]和 最 等人提出了一种基于最大间距准则(MMC)[2,3]的特征
[2,
3]
大间距准则 (MMC) .PCA中的 线 性 转换矩 阵 W∈ 抽取方法,它是基于特征空间的类间散度与类内散度

收稿日期: 2014
12
01;修回日期:
2015
050
5;责任编辑:梅志强
基金项目:国家 86 3计划项目(No.2
014AA015
104);国家自然科学基金(No .
61202
228,No
.6147
200
2);安徽省高校自然科学研究重点项目(No

KJ
2012A00
4);安徽省电力公司科技项目(No .52
120013
0MOU,No
.52
12M0
1353B4)
1384 电  子  学  报 2
016年

的差的最大化,其目的是寻求一组最佳鉴别矢量为投 此,基于 L1-范数的最大间距准则的目标函数如下:


c c ni
影轴进行投影变换,使得特征空间样本的类间散度的最
(W)=∑ ni WT(珔
J x ) 1 -α∑ ∑ WT(xi
i -珔
x j -珔

i)1
大,类内散度最小.然而,MMC是基于 L2
范数来计算相 i=1 i=1 j
=1
c q c ni q
应的目标函数.当训练数据中存在野值或噪声时, 所取得
    =∑ ni∑ wT
k(x
珔i-x
珔)-α∑ ∑ ∑ wT
k(xi
j-x
珔)

因为 L2
的投影方向不稳定, 范数中的平方操作放大了野 i=1 k=1 i=1 j
=1 k=1

值的影响,
因此亟待需要解决 MMC的鲁棒性问题. (3)
显而易见,相对于 L2 范数 [4~7]中的绝对
范数,L1 其中, · 1 表示 L1
范数, · 表示绝对值操作,并且
值操作减弱了对野值的影响,因此 L1
范数对野值具有 WTW =I
q.但是,当 q>1时,根据式(3),不易于找到全
很强的鲁棒性.最新文献中也出现了基于 L1 范数的线 局最优解.因此,为了克服这一问题,我们可以利用贪心
性投影降维方法,诸如:基于 L1 范数的 PCA(L1 norm 算法把式(3)的问 题简化 成 q=1的一系 列 最 优 解 问
ba
sedPr
inc
ipa
lCo
mpo
nentAna
lys
is L1)[4]及 基 于
,PCA 题.如果 q=1,式(3)就可以转化成如下形式:
c c ni
L1
范数 的 LDA(L1 normba
sedFis
herLi
nea
rDi
scr
imi
 (w)=∑ ni wT(珔
J ) 1 -α∑ ∑ wT(xi
xi -珔
x j -珔
xi) 1
[5,
6]
nan
tAna
lys
is,LDA
L1) .PCA L1通过最大化特征空 i=1 i=1 j
ni
=1
c c
间中的基于 L1范数的方差以获得局部最优投影向量, =∑ ni wT(珔 ) -α∑ ∑ wT(xi
xi -珔
x j -珔
xi)
i=1 i=1 j
=1
但是 PCA
L1没有充分利用训练数据中的类别信息以
(4)
获得更有判别能力的投影方向.LDAL1通过最大化基 T
其中,w w=1.根据式(4)所求的一系列最优解也许不
于 L1
范数的类间离散度和基于 L1 范数的类内离散度
同于根据式(3)所求的最优解,但是它旨在寻求一个充
的比率以获得局部最优投影向量.
分逼近.然而,绝对值操作并不是可微的,因此不易于直
受 L1
范数在 PCA与 LDA上运用取得的强鲁棒性
接获得式(4)的全局最优解.下面一节,描述了利用一
的启发,为了克服 MMC在数据含噪和有野值情况下的
个迭代算法找到式(4)局部最优解的过程.
脆弱性,本 文 提 出 基 于 L1
范 数 的 最 大 间 距 准 则,即
22 寻找 MMC
L1单个投影方向
MMC
L1.MMC
L1不仅充分利用 L1 范数对野值及噪声
我们采用一种梯度法来迭代计算 MMC L1最优投
的强鲁棒性,而且充分利用最大间距准则以获得更具
影方向 w.在迭代的第 t
(t=0,1,
2,…)步时,由于目标
有判别能力的投影方向.相比于以前的方法对野值及
函数 J
(w(t
))中存在绝对值符号,然而绝对值操作是非
噪声具有更强的鲁棒性,并且在分类识别的性能上取
凸的,故为了消除绝对值符号,分别定义符号函数:
得了显著提高.
1, wT(t
)(x
珔i-珔
x)>0
2 基于 L1
范数的最大间距准则

i(t
)=
{ -1, wT(t
)(x
珔i-珔
x)≤0
1, wT(t
)(xi
j-珔
xi)>0
21 问题公式化
设有 n个训练数据,分别来自于 c个类别,令 xi
j∈


j(t
)=
{ -1, wT(t
)(xi
j-珔
xi)≤0
(5)

Rp 表示第 i类的第 j个训练向量,其中,j=1,…,ni;i= 再利用 w(t+1)=w(t


)+γg(w(t
))来更新 MMC

L1最优投影方向 w(t ),其中
1,…,c
,并满足 ∑ n =n.由文献[2,3]可知,MMC算
i=1
i c c ni

法旨在解决下面的最优化问题: ∑ nisi(t)(珔
x )-α∑ ∑ r
i -珔
x j )(xi
(t j -珔

i)
i=1 i=1 j=1
g(w(t
))=

(W) =t
r(WTSbW -αWTSwW) c c ni


c T ∑n w (t)(珔 )-α∑ ∑
x-珔



i wT(t
)(xi
j-x
珔)

=t
rW( ( T

n i=1
ni(x) )
珔i-x
珔)(x x )W
珔i -珔
i=1

(6)
i=1 j
=1

c ni

  -αt( ( 1n∑ ∑ (x-x珔)(x-x珔) ) W)


rW T

i=1 j
=1

j i

j i
T 0<γ<1为学习步长.循环交替计算式(5)的符号函数
及式(6)的梯度公式来求解 MMC L1最优投影方向 w.
(1) 在迭代过程中,若目标函数 J (w(t+1))停止增长,则终
通过简单的转换,式(1)可以写成 止循环.否则,更新符号函数式(5)并继续循环,直到找
c c ni
到满足条件的投影向量 w.由下一节的 迭代收敛 性可
(W) =∑ ni WT(x
J 珔) 2-α∑ ∑ W (xj-x
珔i-x
2 T i 2
珔i) 2
i=1 i=1 j
=1 知,在每次循环计算式(5)与式(6)后,式(4)中的目标
(2) 函数 J(w(t+1))都保持非降.
从式(2)中可以看出,MMC的目标函数依据 L2
范 可以证明:在每次循 环计算式 (5)与式 (6)后,式
数距离准则.然而,平方操作会放大异常值的影响,因 (4)中的目标函数 J (w(t+1))都保持非降.另外,J函
第 6 期 陈思宝:基于 L1
范数的最大间距准则 1385

数存 在 上 界 (根 据 文 献 [7,8],可 知 J(w) < (I
p -wwT
l l)xi
(l)
j , 即为了减少计算量,新数据向量 xi
(l+1)


可以由前一步的数据向量 xi
(l)
计算得到.在循环迭代
∑n i 珔i 1),因此,循环计算式(5)与式(6)的迭代过
x j
i=1 计算得到第 l+1个最优投影轴 wl+1后,对其进行归一
程逐渐收敛.然而,通过迭代算法所求的投影向量 w可
化 wl+1/
wl+1.投影矩阵 Wl+1 =[Wl,wl+1].根据上述的
使目标函数 J达到局部最优,但并不能保证 J达到全局
方法,可提取任意 q个投影轴组成一个投影矩阵.完整
最优.由于篇幅有限,此处略去详细证明,具体证明方法
的多个投影方向的 MMC
L1算法步骤如算法 1所示.
可以参考文献[5,
6].
23 MMC
L1多个投影方向扩展 算法 1 MMC
L1算法
前面所述的迭代优化求解方法仅计算 MMC L1的

一个最优投影向量,这不利于应用于实际问题,故需要 输入:样本数据为 xi
∈Rp,j=1,…,ni,i=1,…,c
j ,∑ ni=n.需要提
i=1
扩展到求取多个投影方向.设已得到第一个最优投影 取的投影轴个数 q
(q<<p
),学习步长参数 0<γ<1.
轴为 w1,我们在向量 w1 的正交补空间中寻求第二个最 输出:投影矩阵 W =[w1,…,wq]∈Rp×q.
优投影轴 w2,即在 w1 的正交补空间中最大化(4)式.向 1.记 l=0,Wl为空;
量 w1 的正交补空间为 I T 2.计算投影向量 wl+1:
p -w w ,其中 I
p 表示一个 p维 1 1
ni c ni
的单位矩 阵.故 存 在 一 个 向 量 β1∈ R,使 w2 =(I p 1 1
p- xi 珔= ∑∑ xi
ni ∑
 ①类平均值:x
珔i= ,x
j ;
=1
j n i=1 j=1 j

w1w1)β1.代入 w2 到式(4)中,得  ②初 始 化:设 迭 代 次 数 t=0,并 生 成 一 个 任 意 p维 的 非 零 向
c c ni
量β(0);
(w2)=∑ ni w2
J T
(珔
x ) -α∑ ∑ w2
i -珔
x T
(xi
j -珔
x)
i=1

i=1 j
=1
 ③计算符号函数:

1, βT(t
)(x
珔i-x
珔)>0
=∑ ni β1

(I
p -w
i=1
1w

1)(珔


i -珔

)1
ni
    s
i(t
)=
{ -1, βT(t
)(x
珔i-x
珔)≤0
1, βT(t
)(xi
j-x
珔i)>0
  -α[ ∑ ∑ β1

(2)

(I
p -w1w

1)(xi
i=1 j
j -珔
=1

i) 1] (7)
T i

    r
j(t
)=
{ -1, βT(t
)(xi
j-x
珔i)≤0
令 x =(I
jp -w w )x,j=1,…,ni;i=1,…,c
,则
1 1 j  ④更新为 β(t+1)=β(t
)+γg(t
),其中
xi
(2)
j 为 xi
j在 w1 的正交补空间中的表示.计算 xi
(2)
j 的类 c

c ni

∑ nis
i(t
)(x x)-α∑∑r
珔i-珔 (t
j )(xi
j-珔
xi)
ni
(2) 1 i
(2) T g(t
)=
i=1 i=1 j
=1
珔1 = ∑ xj =(I
平均值 x p -w1w1)x
珔i 和 总平均 值 c c ni
ni j=1 ∑ ni βT(t
)(x x) -α∑∑
珔i-珔 βT(t
)(xi
j-珔
xi)
c ni i=1 i=1 j
=1

(2)  ⑤判断是否收 敛:若 J(β(t+1))停 止 增 长,则 终 止 内 循 环 并 令
xi
(2) T
xi(2)和 x(2)

n∑ ∑

珔 = j =(I
p -w1w1)x
珔.将公式珔 珔
i=1 j
=1 wl+1 =(I WT
p-Wl l)β(t+1),否则,令 t=t+1,并返回③;
代入式(7)中得 3.更新 xi
:xi
j j=(I T
p-wl+1wl+1)xi


c 4.合并 Wl,wl+1:Wl+1 =[Wl,wl+1],其中
(w2) = ∑ ni β1
   J T
(x(2)
珔i -珔x(2)) 1 wl+1 =wl+1 wl+1 ;
i=1
c ni 5.如果 l+1<q
,令 l=l+1并返回第 2步,否则停止循环,并输出投影
  -α[ ∑ ∑ β1

(xi
(2)
j xi(2)) 1]
-珔 (8) 矩阵 Wl+1.
i=1 j
=1

(2)
除了其中的原始数据向量被新数据向量 x 代替 j

外,式(8)和式(7)的形式类似,故 β1 同样可由 22节 3 实验结果及分析



的迭代算法解出.再根据公式 w2 =(I p -w w )β1,便可 1 1   为了验证所提出的 MMC
L1方法的鲁棒性及最终识
得到第二个投影轴 w2,并归一化 w2 为 w2/w2 . 别性能, 本文选择在 3个常用的人脸图像数据库(AR[9]、
设已获得 l个最优投影轴 w1,…,wl,则第 l+1个 ORL[10]及 Ex
ten
dedYa
leB[11])上进行先降维后分类识别
最优投影轴 wl+1可在正交向量 w1,…,wl的正交补空间 的对比实验.
在实验中,我们选择六种对比方法,分别是
中寻求,其 中 向 量 w1,…,wl 的 正 交 补 空 间 为 I p - MMC
L1、
MMC、
LDA
L1、LDA、PCA
L1和 PCA.为了保证
WlWT
l,投影矩阵 Wl=[w1,…,wl].同样存在一个向量 实验结果的公平与合理性,同类实验中的参数设置均一

βl∈R,使 wl+1 =(I WT
p -Wl l)βl,则 βl可迭代优化由新 致.
为简化实验,我们先采用最近邻分类器进行分类识
数据向量 xi(l+1)
j =(Ip -WlWT l)xi
j,计算式(4)来求出.注 别,
再测试不同分类器对识别率的影响.
意到: 31 AR人脸数据库

p -Wl WTl =(Ip -wwT
l l)(I T
p -Wl-1Wl-1) (9) AR[9]人脸数据库由西班牙巴塞罗那计算机视觉中

(l+1) T T i
故,x j = (I
p - ww )(I
p - Wl-1 W l l l-1 )x =j 心建立,包 括 3
120幅 图像,共 12
0个 人,每人 26幅 图
1386 电  子  学  报 2
016年

像,采集环境中的摄像机参数、光照环境、摄像机距离等 3.
1.2 测试训练集的大小对识别率的影响
都受到严格控制.所有人脸图像都被缩放到 5 0×40大 为了验证不同的训练集大小对识 别率 的影响,本
小,量化到 25 6级灰度. 节选择每类中前 k (k=2,…,20)幅图像作为训练集,余
3.1.1 权重参数 α对识别率的影响 下的作为测试集.实验效果如图 2所示.
本节展示了 MMC L1和 MMC中的 权重参 数 α对 图 2表明,同等条件下,随着训练样本数目的增多,
识别率的影响.其中每类的前一半作为训练集,余下的 与其它方法相比,MMC L1算法的识别率一直最高,这
作为 测 试 集.权 重 参 数 α 的 大 小 依 次 为 0 000
1、 表明训练集的大小对最终识别率有很大的影响,但不
00005、
0001、000
5、001、
00
5、0
1、0
5、1、
5、10,实验 影响 MMCL1算法的高效性.
效果如图 1所示. 3.
1.3 测试不同的投影轴数对识别率的影响
图 1表明,在提取投影向量的过程中,随着权重参 线性投影降维是处理高维数据的一个重要步 骤.
数 α的逐渐增加,MMC的识别率逐渐增加,而 MMC L1 为验证不同的投影轴数对识别率的影响,本节依次选
的识别率先逐渐升高再逐渐降低.当 α<1 0时,MMCL1 择 1,2,…,
30个投影轴数进行测试,其中每类的前一
的识别率高于 MMC,因此选择一个合适的权重参数 α 半作为训 练 集,余 下 的 作 为 测 试 集.实 验 效 果 如 图 3
至关重要. 所示.

  图 3表明,随着投影轴数的逐渐增加,各种方法的
识别率逐渐增高,并且当投影轴数足够大时,识别率都
达到一个饱和值.然而,当投影轴数相同时,MMC
L1方
法的识别率比其它方法的识别率高.
32 ORL人脸数据库
ORL[10]数据库是一个最为常用的人脸数据库,它
由 40个人,每个人 1 0幅 92×112的灰度人脸正面图像
组成,每张 人 脸 图 像 都 有 姿 态、表 情 和 面 部 饰 物 的 变
化.所有的人脸图像都被缩放到 6 4×6 4大小,量化到 到较强 的 外 界 条 件 干 扰 时,MMC
L1具 有 更 好 的 鲁
256级灰度. 棒性.
测试噪声对 识别 率 的影响:为 了 验 证 MMC L1对 33 Ext
ende
dYal
eB人脸数据库
噪声的鲁棒性,本节在加有高斯噪声或椒盐噪声的人 Ext
endedYaeB[11]人脸数据库包含 3
l 8个人共 24 14
脸图像上进行对比分类识别实验.图 4(a)和图 4(b )分 幅图片,其中人脸图像的姿态和光照变化都是在严格
别为加入高斯噪声和椒盐噪声后的部分图像示例,图 控制的条件下采集的.本节依据文献[1 1]的方法将 Ex 
像加入高斯噪声的方差或椒盐噪声的密度从小到大依 t
endedYa l
eB人脸数据库分成 5个子 库,分 别为 s ub
次为 0000 1、0
0005、0
001、0
005、00
1、00
5、0
1.实 f
ea1、sub
fea2、s
ubf
ea3、subf
ea4和 s
ubfea
5,其中 s ubf
ea1中
验效果如图 5所示. 的图像 光 照 强 度 正 常,而 s u
bfe
a2、subfea
3、subfea
4和
  图 5表明,当噪声的方差或密度较小时,MMC L1 s
ubfea5的光照强度依次减弱,因此本部分为了去除光
和 LDA
L1算法的识别率相差很小,但是随着噪声方差 照强度对实验效果的影响,选择 Ex te
ndedYa leB数据
库中光照条件较好的两个子库 s ub
fea
1和 s ubf
ea2分别
或密度的逐渐增加,MMC L1的识别率高于 LDA L1的
作为训练集和测试集,所有人脸图像都被缩放到 3 2×
识别率,而且一直高于其它算法的识别率,这说明当受
第 6 期 陈思宝:基于 L1
范数的最大间距准则 1387

32大小,量化到 25 6级灰度. 分类器和最近中心分类器)来测试各个算法的最终识


3.3
.1 测试不同大小的随机缺失遮挡块对识别率的影响 别率.选择子库 s ubf
ea1和 s
ubf
ea2分别作为训练集和测
为了验证所 提出 的 MMC L1的 鲁 棒性,本节 对训 试集,并在测试某一个分类器的过程中设置不同的降
练集 s ubf
ea1中的人脸图像设置不同比例的缺失或遮 维投影轴数,图 8显示了各种方法随着不同的投影维
挡,设 置 人 脸 图 像 缺 失 或 遮 挡 的 百 分 比 分 别 为 5%、 数在三种分类器下的识别率变化趋势.
10%,15%, 20%,
25%, 30%,35%, 40%、 4
5%、 50%.图 从图 8(a)~(c)可知,对同一分类器,当改变投影
6(a)为部分不同比例块随机缺失示例,图 6(b )为部分 轴数时,识别率会随着投影轴数的增加而提高,并且在
不同比例块随机遮挡示例.实验效果如图 7所示. 三个不同 分 类 器 的 实 验 中 MMCL1的 识 别 率 一 致 最
高,其中采用 SVM分类器时 MMC L1的识别率最高,因
此可知在三种常见的分类器下,MMC L1表现出一致的
较高识别性能.

4 结束语
  本文在 PCA L1、LDAL1和 MMC方法的基础上,提
图 7表明,当图像的随机缺失遮挡比例逐渐增大 出基于 L1
范数的最大间距准则(MMC L1).该方法充
时,各种算法的识别率逐渐降低,而且 MMCL1的识一 分利用 L1
范数对野值及噪声的强鲁棒性,充分利用最
直高于其它算法的识别率,这说明 MMCL1具有较强 大间距准则,提出了一个单调优化迭代算法来求解其
的鲁棒性. 最优投影矩阵,并给出了其单调收敛到局部最优的证
3.
3.2 测试不同分类器对识别率的影响 明.在多个 图 像 数 据 库 上 的 实 验 结 果 表 明,所 提 出 的
为了测试不同分类器对所提方法最终识别率的影 MMC
L1对野值及噪声具有强鲁棒性,并且比其它方法
响,本节选择 3个常用的分类器 (最近邻分类器、S VM 具有更好的识别性能.注意到,本文所提出的方法仅仅
1388 电  子  学  报 2
016年

是收敛到局部最优.在后续的工作中,我们将继续深入 研究如何找到全局最优.

[1
0]Sa
mar
iaF,Ha
rte
rA.Pa
rame
ter
is
ati
ono
fas
toc
has
ti
cmo
d
参考文献

lfo
rhu
manf
acei
den
tif
ica
ti
on[A].Pr
oce
edi
ngso
fth

[1] Du
daR O,Ha
rtPE,St
orkD G.Pa
tt
ernCl
ass
if
ica
ti
on Se
con
dIEEEWo
rks
hopo
nAp
pli
cat
ion
sofCo
mpu
terVi

[M].Se
con
dEd
iti
on.Ne
w Yo
rk:J
ohnWi
le
y& So
ns, s
ion[C].Sa
ras
ota
:IEEE,
199
4.1
38-1
42.

001.
2-4. [1
1] I
mra
n Na
see
m,Ro
ber
to To
gne
ri,Mo
hamme
d Be
nna

[2]Ha
ife
ngLi
,Ta
oJi
ang,Ke
shuZh
ang.Ef
fi
ci
enta
ndr
obu
st mo
un.Li
nea
rre
gre
ssi
onf
orf
acer
eco
gni
ti
on[J
].I
EEE

eat
uree
xtr
act
ionb
yma
ximu
m ma
rgi
ncr
it
eri
on[J
].I
EEE Tr
ans
act
ion
sonPa
tt
ernAn
aly
sisa
ndMa
chi
neI
nte
ll
i
Tr
ans
act
ion
sonNe
ura
lNe
two
rk,
s20
06,
17(1):
157-1
65. g
enc
e,2
010,
32(1
1):
210
6-2
112.
[3]Fe
ngx
iSo
ng,Da
vidZh
ang,Qi
ngl
ongCh
en,e
tal
.Fa
cer
ec

gni
ti
onb
ase
donan
ove
lli
nea
rdi
scr
imi
nan
tcr
it
eri
on[J
]. 作者简介
Pa
tt
ernAn
alAp
pli
c,2
007,
10(3):
165-1
74. 陈思宝 男,
197
9年 8月出生于安徽天长.

[4]Kwa
kN.Pr
inc
ipa
lco
mpo
nen
tan
aly
sisb
ase
donL1
nor
m 现为安徽大学副教授,硕士生导师,目前从事图
像处理与模式识别方面的研究.
ma
ximi
zat
ion[J
].I
EEETr
ans
act
ion
sonPa
tt
ernAn
aly
sis
E
mai
l:s
bch
en@a
hu.e
du.c


ndMa
chi
neI
nte
ll
ige
nce
,20
08,
30(9):
167
2-1
680.
[5]Ha
ixi
anWa
ng,Xu
eso
ngLu,Zi
la
nHu,e
tal
.Fi
she
rdi
scr
im

nan
tan
aly
siswi
thL1
nor
m[J
].I
EEETr
ans
act
ion
sonCy


ern
eti
cs,
201
3,4
4(6):
828-8
42.
[6] Fu
jinZh
ong,J
ias
huZh
ang.Li
nea
rdi
scr
imi
nan
tan
aly
sis 陈道然 女,
198
9年 5月出生于河南信阳.

ase
donL1
nor
m ma
ximi
zat
ion[J
].I
EEE Tr
ans
act
ion
s 现为安徽 大 学 计 算 机 应 用 技 术 专 业 硕 士 研 究

nIma
gePr
oce
ssi
ng,
201
3,2
2(8):
301
8-3
027. 生,主要从事图像处理与模式识别方面的研究.
[7]Ha
ixi
anWa
ng,Qi
nTa
ng,We
nmi
ngZh
eng.L1
nor
mb
ase
d E
mai
l:y
ouz
i-9
0@16
3.c
om

ommo
nsp
ati
alp
att
ers[J
n ].I
EEE Tr
ans
act
ion
sonBi
o
me
dic
alEn
gin
eer
ing,
201
2,5
9(3):
653-6
62.
[8]Ob
ozi
nsk
iG,Ba
chF,J
ena
tt
onR.St
ruc
tur
eds
par
sep
rin
ci

alc
omp
one
nta
nal
ysi
s[J
].HAL
INRI
A,2
009,4
3(6):
罗 斌 男,
1963年 5月出生于安徽合肥,现为安徽大学计算机

505-1
527.
应用技术系博 士 生 导 师,主 要 从 事 计 算 机 视 觉 与 模 式 识 别 方 面 的
[9]Ma
rti
nezA M,Be
nav
ent
eR.Th
eARFa
ceDa
tab
ase[R].
研究.
USA:Pu
rdu
eUn
ive
rsi
ty,
199
8.

Вам также может понравиться