标题：基于内容的图像检索
简介
基于内容的图像检索，即CBIR(Content-based image retrieval)，是计算机视觉领域中关注大规模数字图像内容检索的研究分支。基于内容的图像检索的研究还涉及了图像处理(Image Processing)、图像检索(Image Retrieval)等多个研究领域。
简单的CBIR系统，允许用户输入一张图片，以查找具有相同或相似内容的其他图片。而传统的图像检索是基于文本的，即通过图片的名称、文字信息和索引关系来实现查询功能。用户输入一串文字，检索系统给出与该文字直接相关的图片。
基于内容的图像检索的概念于1992年由T.Kato提出的。[1] 他在论文“Query by Visual Example - Content based Image Retrieval”中构建了一个基于色彩与形状的图像数据库，并提供了一定的检索功能进行实验。此后，基于图像特征提取以实现图像检索的过程以及CBIR这一概念，被广泛应用于各种研究领域，如统计学、模式识别、信号处理和计算机视觉。
基于内容的图像检索的研究已发展近20年，传统的搜索引擎公司包括Google、百度、Bing都已提供一定的基于内容的图像搜索产品。如：Google Similar Images，百度识图。
工作流程
基于CBIR 技术的图像检索系统，在建立图像数据库时， 系统对输入的图像进行分析并分类统一建模， 然后根据各种图像模型提取图像特征存入特征库， 同时对特征库建立索引以提高查找效率。而用户在通过用户接口设置查询条件时，可以采用一种或几种的特征组合来表示， 然后系统采用相似性匹配算法计算关键图像特征与特征库中图像特征的相似度， 然后按照相似度从大到小的顺序将匹配图像反馈给用户。用户可根据自己的满意程度，选择是否修改查询条件，继续查询，以达到令人满意的查询结果。[2]
技术概述
CBIR的核心是使用图像的可视特征对图像进行检索。本质上讲，它是一种近似匹配技术，融合了计算机视觉、图像处理、图像理解和数据库等多个领域的技术成果，其中的特征提取和索引的建立可由计算机自动完成，避免了人工描述的主观性。用户检索的过程一般是提供一个样例图像(Queryby Example) 或描绘一幅草图(Queryby Sketch) ，系统抽取该查询图像的特征，然后与数据库中的特征进行比较，并将与查询特征相似的图像返回给用户。[3]
CBIR 的实现依赖于两个关键技术的解决:图像特征提取和匹配。
图像特征提取分为两类:①低层视觉，其内容主要包括颜色、形状、纹理等；②语义内容，它包含高层的概念级反应(如“海上升明月”)，需要对物体进行识别和解释，往往要借助人类的知识推理。由于目前计算机视觉和图像理解的发展水平所限，使得CBIR还无法真正支持基于语义的图像检索，所以目前研究得较多也比较成熟的检索算法大部分是基于图像的低层特征的，即利用图像的颜色、纹理、形状等特征来检索。[3]提取后的图像特征数据需要经过索引、降维等处理。首先，图像由特征向量表示，而这些特征向量一般都是高维向量， 在庞大的图像数据库中，对高维向量进行顺序比较的过程是相当费时的。在实际应用过程中， 为了让基于CBIR的图像检索系统能够真正适合大型的图像数据库， 提高检索效率，尽可能减少查询时的特征矢量比较时间，往往将降维技术和多维索引技术结合起来。
图像相似度是指人类对图像内容认识上（即语义）的差异，导致通过计算查询样图和候选图像之间在视觉特征上存在距离。如果这个距离满足一定条件，我们则可以说这两图像相似度匹配。当然，如果能将语义特征和视觉特征结合起来， 相似度匹配程度会更高，检索结果会更让人满意，但这是目前研究的一大难题。
特征提取
基本体整体趋包含颜色、纹理、平面空间对应关系、外形，或者其他统计特征。 图像特征的提取与表达是基于内容的图像检索技术的基础。从广义上讲，图像的特征包括基于文本的特征（如关键字、注释等）和视觉特征（如色彩、纹理、形状、对象表面等）两类。视觉特征又可分为通用的视觉特征和领域相关的视觉特征。前者用于描述所有图像共有的特征，与图像的具体类型或内容无关，主要包括色彩、纹理和形状；后者则建立在对所描述图像内容的某些先验知识（或假设）的基础上，与具体的应用紧密有关，例如人的面部特征或指纹特征等。I. 颜色颜色是彩色图像最底层、最直观的物理特征，通常对噪声，图像质量的退化，尺寸、分辨率和方向等的变化具有很强的鲁棒性，是绝大多数基于内容的图像和视频检索的多媒体数据库中使用的特征之一。颜色特征的描述方法主要有以下四种：
1) 颜色直方图(ColorHistogram)[4]
它是最简单也是最常用的颜色特征，描述了图像颜色的统计分布特性，具有平移、尺度、旋转不变性。其核心思想是在颜色空间中采用一定的量化方法对颜色进行量化，然后统计每一个量化通道在整幅图像中所占的比重。
常用的颜色空间有RGB，CIE，HSI，HSV空间等，主要的量化方法有最重要信息位、颜色空间划分、颜色空间聚类、参考颜色、图像分割等，文献中讨论了对这些方法进行了讨论和总结。[5]由于颜色直方图缺乏颜色的空间分布信息，改进的方法包括在颜色索引时加入空间位置信息和基于区域的颜色查询。最简单的方法是子窗口直方图法，即将图像分割成子图像，一一建立索引。另一文献中将图像分成了大小相等的九个子图像，然后统计每个子图像中的颜色直方图。[6]
2) 颜色相关图(ColorCorrelogram)[7]
其主要思想是用颜色对相对于距离的分布来描述信息，它反映了像素对的空间相关性，以及局部像素分布和总体像素分布的相关性，并且容易计算，特征范围小，效果好。
3) 颜色矩(ColorMoment)[8]
其基本思想是在颜色直方图的基础上计算出每个颜色通的均值、方差、偏差，用这些统计量替代颜色的分布来表示颜色特征。它具有特征量少，处理简单的特点。
4) 颜色一致性矢量(Color Coherence Vectors, CCV)[9]
本质上是一种引入空间信息改进的直方图算法，统计了图像中各颜色最大区域的像素数量。通过分离开一致性像素和非一致性像素，比直方图算法具有更好的区别效果。II. 纹理纹理是图像的重要特征之一，通常定义为图像的某种局部性质，或是对局部区域中像素之间关系的一种度量，其本质是刻画像素的邻域灰度空间分布规律。纹理特征描述方法大致可以分为四类：统计法、结构法、模型法、频谱法。
1) 统计法
统计法分析纹理的主要思想是通过图像中灰度级分布的随机属性来描述纹理特征。最简单的统计法是借助于灰度直方图的矩来描述纹理，但这种方法没有利用像素相对位置的空间信息。
为了利用这些信息，Haralick 等人提出了用共生矩阵来表示纹理特征。[10] 该方法研究了纹理的空间灰度级相关性，构造出一个基于图像像素间方向和距离的共生矩阵，并且从矩阵中提取出反差、能量、熵、相关等统计量作为特征量表示纹理特征。
Tamura 等人基于人类视觉的心理学研究后提出了一些不同的方法来描述纹理特征，给出了几个不同的描述纹理特征的术语：粗糙度(Coarseness) 、对比度(Contrast) 、方向(Directionality) 、线性度(Linelikeness) 、规则度(Regularity) 、粗略度(Roughness) 等。Tamura 纹理和共生矩阵表示的主要区别在于:前者的所有纹理属性都是视觉意义上的，而后者的某些纹理属性不具有视觉意义(如信息熵) 。这一特点使得Tamura 的纹理表示在图像检索中使用得较多。QBIC 和MARS都进一步证明了这种表示方法。 [11]
2) 结构法
结构法分析纹理的基本思想是假定纹理模式由纹理基元以一定的、有规律的形式重复排列组合而成，特征提取就变为确定这些基元并定量分析它们的排列规则。Carlucci曾提出一个使用直线段、开放多边形和封闭多边形作为纹理基元的纹理模型，其排列规则由一种图状语法结构定义。 [10] Lu and Fu给过一种树型语法结构表示纹理，他们将纹理按照9 ×9 的窗口进行分割，每个分解单元的空间结构表示为一棵树。[10]因为实际的纹理大都是无规则的，因此结构法受到很大限制。
3) 模型法
模型法利用一些成熟的图像模型来描述纹理，如基于随机场统计学的马尔可夫随机场、子回归模型，以及在此基础上产生的多尺度子回归模型[12] (MultiResolution Simultaneous Autoregressive, MRSA) 等。这些模型的共同特点是通过少量的参数表征纹理。MRSA 区分不同纹理模式的能力较强，但同时计算开销也较大。
4) 频谱法
频谱法借助于频率特性来描述纹理特征，包括傅里叶功率谱法[13] 、Gabor 变换[14]、塔式小波变换( Pyramid Wavelet Transform ，PWT) [15] 、树式小波变换( Tree Wavelet Transform，TWT) [15]等方法。Manjunath and Ma[16] 实验指出， Gabor 特征提供了最佳的模式检索精度，检索性能优于TWT 和PWT，略微优于MRSA ，缺点是计算速度慢，其旋转不变性和尺度不变性仍有待讨论。III. 形状形状是刻画物体最本质的特征，也是最难描述的图像特征之一，主要难在对图像中感兴趣目标的分割。对形状特征的提取主要是寻找一些几何不变量。目前用于图像检索的形状描述方法主要有两类:基于边缘和基于区域的形状方法。前者利用图像的边缘信息，而后者则利用区域内的灰度分布信息。
1) 基于边缘
基于边缘的形状特征提取是在边缘检测的基础上，用面积、周长、偏心率、角点、链码、兴趣点、傅里叶描述子、矩描述子等特征来描述物体的形状，适用于图像边缘较为清晰、容易获取的图像。文献[16]首先对图像进行了高斯平滑，接着使用经典的兴趣点检测算法发现兴趣点，然后用兴趣点的测度值作为图像特征进行匹配。文献[17]提出将图像边缘上的角点作为特征点，然后使用Delaunay三角形进行划分，记录三角形的形状特征来描述图像的形状特征。这种方法由于是基于边缘上的一些特殊点，因此对噪声和点位置的变化较为敏感。文献采用边缘方向直方图来刻画形状特征，具有简单、平移不变性等优点，但也存在不具备尺度、旋转不变性等缺点。 [18]
2) 基于形状
基于区域的形状特征提取的主要思路是通过图像分割技术提取出图像中感兴趣的物体，依靠区域内像素的颜色分布信息提取图像特征，适合于区域能够较为准确地分割出来、区域内颜色分布较为均匀的图像。文献应用变形模板技术，把用户提供的形状看作模板，与图像库中的形状进行匹配。由于是直接比较两个形状，因此具有较高的精度，但同时计算量也较大。[19] 文献提出了一种形状弹性匹配算法，首先确定感兴趣区域，在这些区域中采用爬山优化算法获取图像边缘，并用这些边缘代表物体形状。[20] 这种方法的优点是对图像边缘进行了筛选，缺点是需要人工干预。近年来，基于区域的图像检索方法已经成为基于内容的图像检索的一大研究热点。
特征匹配
从图像中提取的特征可以组成一个向量，两个图像之间可以通过定义一个距离或者相似性的测量度来计算相似程度。
特征匹配是图像检索的一个关键环节，具有特征依赖的特点，不同的特征应该采用不同的度量方法。在检索的过程中，根据系统相似性度量的算法计算查询特征与特征库中对应的每组特征的相似程度，把所得结果由大到小排序后得到一个匹配图像序列返回给用户。其间可以通过人机交互，对检索的结果逐步求精，不断缩小匹配集合的范围，从而定位到目标。匹配过程常利用特征向量之间的距离函数来进行相似性度量,模仿人类的认知过程,近似得到数据库的认知排序。常用的距离度量公式有：Minkkowsky距离，Manhattan距离，Euclidean距离，加权Euclidean距离，Chebyshev距离，Mahalanobis距离等。[2]
其中，Manhattan 距离计算简单，效果也较好，被广泛采用；加权Euclidean 距离考虑了不同分量的重要性,也较为常用；Mahalanobis 距离考虑了样品的统计特性和样品之间的相关性，在聚类分析中经常用到。当采用综合特征进行检索时，需要对各特征向量进行归一化,以使得综合特征的各特征向量在相似距离计算中地位相同。[3]
语义鸿沟
英文名称：Semantic Gap
通常人们在判别图像的相似性时并非建立在图像低层视觉特征的相似上，而是建立在对图像所描述的对象或事件的语义理解的基础上。这种理解无法从图像的视觉特征直接获得，它需要使用人们日常生活中积累的大量经验和知识来进行推理和判断。其中,尤其对于一些高层次的抽象概念，如一幅关于节日的图像所表达出的欢乐和喜庆的感觉等，更需要根据人的知识来判断。换言之，人们是依据图像的语义信息来进行图像相似性判别的。正是由于人对图像相似性的判别依据与计算机对相似性的判别依据之间的不同，造成了人所理解的“语义相似”与计算机理解的“视觉相似”之间的“语义鸿沟”的产生。[21]
在传统的基于文字的查询技术中，不存在这个问题，因为查询关键字基本能够反映查询意图。但是在基于内容的图像查询中，就存在一个底层特征和上层理解之间的差异（这也就是著名的semantic gap）。主要原因是底层特征不能完全反映或者匹配查询意图。弥补这个鸿沟的技术手段主要有：
1）相关反馈（relevance feedback）
按照最初的查询条件，查询系统返回给用户查询结果，用户可以人为介入（或者自动）来选择几个最符合他查询意图的返回结果（正反馈），也可以选择最不符合他查询意图的几个返回结果（负反馈）。这些反馈信息被送入系统用来更新查询条件，重新进行查询。从而让随后的搜索更符合查询者的真实意图。
2）图像分割（image segmentation）
图像的特征可以包括全局特征和局部特征。如果进行一定程度的图像分割，划分出不同的分割区域，这样可以增加局部特征的信息量，也可能在一定程度弥补语义鸿沟。
3）建立复杂的分类模型（Machine Learning）
一些比较复杂的非线性分类模型，比如支持向量机（Support Vector Machine）本身就可以起到一定程度的效果来弥补语义鸿沟。
应用和研究
最早成功应用基于内容的图像检索技术的是IBM的QBIC系统。[22] 这个系统是为一个俄国博物馆制作的绘画作品查询系统。QBIC系统的网站为IBM的QBIC系统。除了IBM的QBIC系统之外，比较著名的系统还包括UIUC大学的MARS系统[23] 、MIT的Photobook[24]、 UC Berkeley的Digital Library Project[25]，以及Columbia大学的VisualSEEk[26]等。
系统名称发布时间
开发组织文献ADL
1995
University of California, Santa Barbara
[27-28]
AltaVista 
Photofinder
1997
DEC Research Lab
AltaVista Company
[29]
AMORE
1997
C & C Research Laboratories NEC USA, Inc.
[30-31]
ASSERT
1999
The School of Electrical and Computer Engineering at Purdue University
[32]
BDLP
1996
University of California, Berkeley
[33]
Blobworld
1999
Computer Science Division, 
University of California, Berkeley
[34]
CANDID
1995
Computer Research and Applications Group,
Los Alamos National Laboratory, USA
[35]
C-bird
1998
Developer School of Computing Science, Simon 
Fraser University, Burnaby, B.C., Canada
[36]
CBVQ
1995
Developer Image and Advanced Television Lab, 
Columbia university, NY

Chabot
1995
Developer Department of Computer Science, 
University of California, Berkeley, CA, USA
[37]
CHROMA
2000
Developer School of Computing, Engineering 
and Technology, University of Sunderland, UK
[38]
Circus
1997
AUDIOVISUAL COMMUNICATIONS LCAV, IC, EPFL
[39]
Compass
2000
Developer Centre for Scientific and Technological 
Research, Trento, Italy
[40]
Diogenes
2000
Department of EECS, University of Illinois
at Chicago
[41]
DrawSearch
1999
Developer Department of Electrical and 
Electronic Engineering, Technical University of Bari
[42]
Excalibur Visual 
RetrievalWare
未知
Excalibur Technologies

FIDS
1999
Department of Computer Science and Engineering, 
University of Washington, Seattle, WA, USA
[43]
FIR
1997
Developed by Fraunhofer Institute for Computer Graphics, 
Darmstadt, Germany, in association with Txt Ingegneria 
Informatica S.P.A. (Italy), Giunti Multimedia Srl (Italy), Epsilon 
Software (Greece),and Kino TV & Movie Productions S.A. (Greece), 
as part of the Esprit IV project FORMULA.
[44]
FOCUS
1997
Developer Department of Computer Science, University 
of Massachusetts, Amherst, MA
[45]
FRIP
2001
Yonsei University, Korea
[46]
ImageFinder
未知
Attrasoft Inc
[47]
ImageMiner
1997
Technologie-Zentrum Informatik, Univerity of Bremen, Germany
[48]
ImageRETRO
1999
Department of Computer Science, University of Amsterdam, 
The Netherlands
[49]
ImageRover
1997
Department of Computer Science, Boston University, MA
[50]
ImageScape
1997
Department of Computer Science, Leiden University, 
The Netherlands
[51]
iPURE
2000
IBM India Research Lab, New Delhi, India
[52]
Jacob
1996
Computer Science & Artificial Intelligence Lab, 
University of Palermo, Italy
[53]
KIWI
2001
INSA Lyon, France

LCPD
1996
Department of Computer Science, Leiden University, 
The Netherlands
[54]
MARS
1997
Department of Computer Science, University of Illinois at Urbana-
Champaign, further developedat Department of Information and 
Computer Science, University of California at Irvine, CA.
[55]
MetaSEEk
1998
Image and Advanced Television Lab, Columbia University, NY, USA.
[56]
MIDSS
1997
Electrical and Computer Engineering, Purdue University, Indiana
[57]
MIR
1995
Center of Excellence for DocumentAnalysis and Recognition, 
University at Buffalo, NY, USA.
[58]
MUSE
未知
Computer Science and Engineering, Florida Atlantic University
NETRA
1997
Department of Electrical and Computer Engineering, 
University of California, Santa Barbara, CA
[59]
PARISS
2000
未知
[60]
Photobook
1996
Vision and Modeling Group, MIT Media Laboratory, Cambridge,MA

Picasso
1997
Visual Information Processing Lab, University of Florence, Italy
[61]
PicHunter
2000
NEC Research Institute, Princeton, NJ, USA
[62]
PicSOM
2000
Laboratory of Computer and Information Sciences, 
Helsinki University of Technology, Finland
[63]
PicToSeek
2000
Department of Computer Science, University of Amsterdam, 
The Netherlands
[64]
QBIC
1993
IBM Almaden Research Center, San Jose, CA
[65]
Quicklook2
2001
CNR Institute of Multimedia Information Technologies,Milan, Italy
[66]
RETIN
2001
ENSEA/University of Cergy-Pontoise, France
[67]
Shoebox
2001
AT&T Laboratories, Cambridge, UK. The development was started 
at Olivetti and Oracle ResearchLaboratory.
[68]
SIMBA
2001
Institute for Pattern Recognition and Image Processing, 
Freiburg University, Germany
[69-70]
SMURF
2002
Center for Geometry, Imaging, and Virtual Environments, 
Institute of Information and ComputingSciences, 
Utrecht University, The Netherlands

SQUID
1996
Centre for Vision, Speech, and Signal Processing, 
University of Surrey, UK
[71]
Surfimage
1998
INRIA, Rocquencourt, France
[72]
SYNAPSE
1999
Center for Intelligent Information Retrieval, University of 
Massachusetts, Amherst, MA
[73] 
TODAI
1996
Electrical Engineering Department, EPFL, Switzerland, and later 
the Intelligent Systems Laboratory, Halmstad University, Sweden
[74]
Viper 
2000
Centre Universitaire d’Informatique, University of Genova, 
Switzerland
[75]
VIR Image 
Engine
1996
Virage Inc.
[76]
VisualSEEk
1997
Image and Advanced Television Lab, Columbia University, NY
[77]
VP Image
Retrieval System
1995
National Center for Science Information Systems, 
University of Tokyo, Japan
[78]
WebSEEk
1997
Image and Advanced Television Lab, Columbia University, NY
[79]
WebSeer
1996
Department of Computer Science, University of Chicago, Illinois
[80]
WISE
1997
Department of Computer Science, Stanford Univerity
[81]
(该统计来源于文献Content-Based Image Retrieval Systems: A Survey[82])