Fuzzy attentional collaborative hashing network for medical image retrieval
-
摘要:
近年来，医学影像技术的革新推动图像数据激增，高效检索成为提升诊断效率的关键。深度哈希算法以其高效编码广泛应用于图像检索，但在处理不确定的医学图像及不平衡数据时存在局限。为此，本文提出一种基于模糊系统的模糊注意力协同哈希网络，用于高效的医学图像检索。设计一个注意力增强的模糊特征协同器，通过计算模糊特征的注意力权重，提高类间差异性；基于Transformer的后件协同编码器利用多头自注意力机制增强图像语义建模，处理医学图像的非线性关系；最后，综合成对损失、平衡损失、量化损失与分类损失对模型进行优化，生成紧凑哈希码。在两个医学图像数据集上的大量实验证明了该算法的有效性。
Abstract:In recent years, innovations in medical imaging technology have driven a surge in image data, with efficient retrieval becoming a critical factor in enhancing diagnostic efficiency. Deep hashing algorithms are widely used in image retrieval due to their efficient encoding. However, these algorithms have limitations when applied to uncertain medical images and imbalanced datasets. To address these challenges, this paper proposes a fuzzy attention collaborative hashing network (FACH) for efficient medical image retrieval. First, fuzzy feature coordinator enhanced by attention is introduced, which improves inter-class discrimination by calculating attention weights for fuzzy features. Then, Transformer-based posterior collaborative encoder employs the multi-head self-attention mechanism to enhance image semantic modeling and capture the nonlinear relationships in medical images. Finally, the model is optimized by integrating pairwise loss, balance loss, quantization loss, and classification loss to generate compact and discriminative hash codes. Extensive experiments conducted on two medical image datasets validate the effectiveness of the proposed algorithm.
-
Keywords:
- medical image /
- image retrieval /
- fuzzy systems /
- attention mechanisms /
- deep learning /
- feature extraction /
- deep hashing /
- data processing
-
近年来，医学影像技术迅速发展，临床和科研团队已积累大量医学影像资源。例如，上海人工智能实验室构建的超大规模数据库包含460万张影像和
1970 万张标注掩膜[1]。在此背景下，构建高效的医学影像检索系统具有重要临床价值，能为诊断和研究提供支持[2]。哈希算法作为提升大规模数据检索效率的核心工具，已在数据库管理[3]、分布式架构[4]、文件系统优化[5]等领域表现出优势。然而，传统哈希算法依赖手工特征提取，存在语义差距、检索速度慢和准确性低等问题[6]。随着深度学习技术的快速发展，一些联合深度学习技术的深度哈希算法被提出[7]。这类方法通常先利用卷积神经网络等深度学习模型进行特征提取，然后通过哈希层生成紧凑二进制编码。例如Ding等[8]提出了一种基于视觉Transformer哈希和残差模糊生成的图像检索方法，引入生成对抗网络和模糊逻辑策略，显著提升了检索的鲁棒性；Kou等[9]提出了注意引导对比哈希网络，引入加权特征增强模块有效缓解了降维过程中的信息损失；He等[10]提出了一种结合卷积神经网络和自注意力机制的深度哈希方法，采用分阶段架构并利用块聚合函数实现局部自注意力；Shen等[11]通过阶段式注意力机制逐步定位图像的判别区域，同时抑制已激活区域以发现其他互补区域。
虽然当前深度哈希算法在图像检索中取得了一定进展，但仍然面临以下局限性。1）深度模糊哈希算法通过模糊层处理样本间的关系，但忽略了样本间的语义信息和特征间的非线性关系，导致其难以有效处理医学影像中高度不确定的病理特征。因此，增强深度哈希算法对不确定性数据的建模能力，对于提升检索性能至关重要。2）基于注意力的深度哈希算法利用注意力机制捕捉图像中的关键信息，但这些方法未充分考虑数据不平衡性。因此，增强数据的类间区分度和自适应能力有助于提高哈希码的判别性。3）目前，深度哈希算法与模糊理论在医学图像检索中的结合应用仍未得到充分探索，亟需进一步研究。
模糊系统是一个具有较强不确定性数据挖掘能力的智能模型，其主要通过模糊隶属度实现对不确定性信息的自适应捕捉[12]。当前模糊系统在多个不同领域被广泛应用，在医学图像分类领域，Zhang等[13]提出可解释的Takagi-Sugeno-Kang（TSK）模糊系统，通过放射组学特征分类和引入软标签矩阵，成功实现医学图像的多分类任务；Song等[14]提出的标签引导层次TSK模糊分类器，在分类急性放射性皮炎时，采用标签干预技术提高了分类准确性。在脑电图信号分类方面，Ta等[15]引入筛选机制，提出的多层次TSK模糊系统实现了高效的脑电图信号分类；Li等[16]则提出了一种基于模糊系统的多视角信息保留转移表示学习方法，有效解决了癫痫脑电图分析中的数据不足和模型不可解释性问题。目前，模糊系统在医学领域主要应用于特定疾病的诊断分析，针对不同类型的医学信号和图像，利用其处理不确定性和复杂性优势，提出创新解决方案，显著提升分类精度和系统可解释性[17]。因此，如何基于模糊系统开发出高效的医学图像检索系统，成为一个亟待关注的研究方向。
针对医学图像检索中存在的特征不确定性挑战，本文提出了一种全新的模糊注意力协同哈希网络（fuzzy attentional collaborative hashing network，FACH），该模型融合TSK模糊系统的建模优势与深度学习的特征表达能力，实现两个关键阶段的协同优化。首先，在模糊特征提取阶段，摒弃传统基于固定触发强度的模糊化方法，创新地设计注意力引导的模糊特征协同器，通过注意力权重矩阵对医学图像特征进行空间重组：该模块利用可学习的注意力分数增强关键病灶区域特征响应，同时抑制非显著背景噪声，使同类样本在模糊空间内的相似度显著提升，异类样本相似度有效降低。其次，在模糊推理优化阶段，本文引入了Transformer网络[18]，构建基于Transformer的后件协同编码器替代传统线性函数，其多头自注意力机制通过建立跨区域长程依赖关系，进而提升了非线性特征映射的精度。最后，设计由成对损失、平衡损失、量化损失和分类损失构成的损失函数对模型进行训练。本文的主要贡献：
1）基于TSK模糊系统提出了模糊注意力协同哈希网络，通过融合TSK模糊系统的不确定性建模与深度学习的非线性表征优势，显著增强模型对医学图像不确定信息的处理能力。
2）设计注意力增强的模糊特征协同器与基于Transformer的后件协同编码器的联合优化框架，前者通过注意力机制聚焦特征空间关键区域，后者捕捉图像深层非线性语义关联，有效解决复杂医学图像建模能力不足的问题。
3）在ChestX-ray14和ISIC2018医学图像数据集上验证了本文提出的算法的有效性，对比先进的深度哈希算法，本文提出的算法在图像检索应用中取得了较好的效果。
1. 相关工作
1.1 TSK模糊系统
TSK模糊系统的工作机制包含输入模糊化、模糊规则执行及输出解模糊化3个阶段，适用于复杂非线性系统的建模与控制[19]。该系统在保持较强数据驱动的建模能力的同时，具有较强的可解释性，因而在特征识别[20]、迁移学习[21]和大数据处理[22]等智能计算场景中具有重要应用价值。
TSK模糊系统的模糊推理规则定义为
$$ \begin{gathered} \text{IF}\;{x}_{1}\;\text{is}\;A_{1}^{r}\;\text{and}\;{x}_{2}\;\text{is}\;A_{2}^{r}\;\text{and}\;\cdots \text{and}\;{x}_{d}\;\text{is}\;A_{d}^{r},\\ \text{THEN}\;{f}^{r}({\boldsymbol{x}})=p_{0}^{r}+p_{1}^{r}{x}_{1}+p_{2}^{r}{x}_{2}+\cdots +p_{d}^{r}{x}_{d}\\ r=1,2,\cdots ,R \end{gathered} $$ (1) 式中：$ R $代表规则库中模糊规则数，$ {\boldsymbol{x}}={[{{x}_{1}}\;{{x}_{2}}\;\cdots \;{{x}_{d}}]}^{\text{T}} $代表规则的前件输入向量，$ A_{i}^{r}(i=1,2,\cdots ,d) $代表第$ i $个特征$ {x}_{i} $的第$ r $条规则所对应的模糊集，$ {f}^{r}(\boldsymbol{x}) $代表第$ r $条规则的输出，$ p_{j}^{r}(j=1,2,\cdots ,d) $代表规则的后件参数。
隶属度函数是TSK模糊系统的核心组件，定义了输入变量的模糊分布，直接影响系统的推理机制与输出特性。常用模糊隶属度函数是高斯函数，定义为
$$ {\mu }_{{A_{i}^{r}}}({x}_{i})=\exp \left(\dfrac{-{({{x}_{i}}-{{c}_{r,i}})}^{2}}{2{\delta }_{r,i}}\right) $$ (2) 式中：$ {c}_{r,i} $、$ {\delta }_{r,i} $为前件参数，分别代表高斯隶属函数的中心和宽度。通常采用聚类算法或者空间划分技术估计得到，例如模糊C均值聚类[23]。对于输入${\boldsymbol{x}} $，第$ r $条规则的触发强度$ {\mu }^{r}({\boldsymbol{x}}) $以及归一化为
$$ {\mu }^{r}({\boldsymbol{x}})=\prod \limits_{i=1}^{d}{\mu }_{{A_{i}^{r}}}({x}_{i}) $$ (3) $$ {\tilde{\mu }}^{r}({\boldsymbol{x}})=\dfrac{{\mu }^{r}({\boldsymbol{x}})}{\displaystyle\sum \limits_{r'=1}^{R}{\mu }^{r'}({\boldsymbol{x}})} $$ (4) 最后，TSK模糊系统的输出为
$$ y=\sum \limits_{r=1}^{R}{\tilde{\mu }}^{r}({\boldsymbol{x}}){f}^{r}({\boldsymbol{x}}) $$ (5) 在获得前件参数后，TSK模糊系统的输出由式（5）重新表示为
$$ y={{\boldsymbol{x}}}_{g}{{\boldsymbol{p}}}_{g} $$ (6) 式中：$ {{\boldsymbol{p}}}_{g} $代表TSK模糊系统的后件参数，$ {{\boldsymbol{x}}}_{g} $代表通过TSK模糊系统的前件进行模糊映射得到的特征向量，$ {{\boldsymbol{p}}}_{g} $和$ {{\boldsymbol{x}}}_{g} $具体定义为
$$ {{\boldsymbol{x}}}_{e}=(1,{\boldsymbol{x}})\in \mathbb{R}^{1\times (d+1)} $$ $$ {{{\tilde{{\boldsymbol{x}}}}}}^{r}={\tilde{\mu }}^{r}({\boldsymbol{x}}){{\boldsymbol{x}}}_{e}\in \mathbb{R}^{1\times (d+1)} $$ (7) $$ {{\boldsymbol{x}}}_{g}=[{{{\tilde{{\boldsymbol{x}}}}}}^{1}\;\;\;{{{\tilde{{\boldsymbol{x}}}}}}^{2}\;\;\;\cdots \;\;\;{{{\tilde{{\boldsymbol{x}}}}}}^{R}]\in \mathbb{R}^{1\times R(d+1)} $$ $$ {{\boldsymbol{p}}}^{r}=[p_{0}^{r}\;p_{1}^{r}\;\cdots \;p_{d}^{r}]\in \mathbb{R}^{1\times (d+1)} $$ $$ {{\boldsymbol{p}}}_{g}={[{{{\boldsymbol{p}}}^{1}}\;{{{\boldsymbol{p}}}^{2}}\;\cdots \;{{{\boldsymbol{p}}}^{R}}]}^{\text{T}}\in \mathbb{R}^{R(d+1)\times 1} $$ 式中：$ {{{\tilde{{\boldsymbol{x}}}}}}^{r} $代表输入${\boldsymbol{ x}} $基于第$ r $条规则前件的特征映射，$ {{\boldsymbol{p}}}^{r} $代表第$ r $条规则的后件参数。
1.2 深度哈希算法
深度哈希算法通过融合深度学习模型提取高维数据的特征，生成紧凑的二进制哈希码。该算法不仅显著提升了检索速度和准确性，还降低了存储和计算成本，广泛应用于图像、视频和文本等多媒体检索领域[24]。深度哈希算法一般分为无监督方法、半监督方法、监督方法[25]。无监督方法利用数据的内在结构生成哈希码，无需标签信息[26-27]。半监督方法结合少量标签信息和大量无标签数据，学习优化哈希函数[28-29]。
监督方法通过充分利用丰富的标签信息，采用监督学习直接优化哈希码，因此检索精度通常高于无监督和半监督方法[30]。经典的深度监督哈希算法是由Liu等[31]提出的，通过卷积神经网络和损失函数实现了高效的图像检索；Jiang等[32]通过采用对称学习策略，提出了非对称深度监督哈希方法，实现大规模最近邻搜索；为提高哈希码的灵活性。随着Transformer模型在计算机视觉领域的广泛应用，其在哈希算法中的应用也取得了显著进展；Dubey等[33]率先将视觉Transformer引入哈希算法领域，采用预训练模型作为特征提取模块，显著提升了图像检索的性能；为进一步增强哈希码的判别能力，Chen等[34]提出了基于双流特征的视觉Transformer架构，该架构通过并行学习全局特征和局部特征，有效提高了哈希码的表征能力；刘传升等[35]将空间金字塔池化和幂均值变换引入视觉Transformer哈希模型，提出了面向医学图像检索的视觉Transformer哈希改进算法，显著提升了特征表征能力与检索精度。
尽管这些深度哈希算法考虑了局部与全局特征的融合以及非线性表征能力的提升，但忽视了图像特征固有的不确定性和数据不平衡，导致在面对不确定和复杂图像时检索性能受限。
2. 模糊注意力协同哈希网络
如图1所示，模糊注意力协同哈希网络主要包含以下模块：首先，引入注意力增强的模糊特征协同器，计算模糊化特征的注意力权重，在保留医学图像区域关键信息的同时，显著提升模糊空间的特征判别性；其次，设计基于Transformer的后件协同编码器，捕捉图像深层语义关联，强化模型对复杂医学图像非线性关系的表达能力；最后，通过包含成对损失、平衡损失、量化损失和分类损失的损失函数进行优化。
图 1 模糊注意力协同哈希网络框架Fig. 1 Framework of fuzzy attention collaborative hashing network
下载:
全尺寸图片
2.1 符号定义
给定医学图像数据库${\boldsymbol{ X}}=\{{{\boldsymbol{x}}}_{i}\}_{i=1}^{n} $，其中$ n $为数据库图像的数量。$ {\boldsymbol{L}}=\left\{{{\boldsymbol{l}}}_{i}\right\}_{i=1}^{n}\in {\left\{0,1\right\}}^{n\times c} $代表数据库${\boldsymbol{X}} $的标签，其中$ c $为数据库的类别数。从数据库$ {\boldsymbol{X}} $中随机抽取$ m $张图像作为查询集（训练集）$ {\boldsymbol{Q}}=\left\{{{\boldsymbol{q}}}_{t}\right\}_{t=1}^{m} $，$ {\boldsymbol{L}}'\subseteq {\boldsymbol{L}} $为对应的标签信息。数据库和查询集的相似性表示为$ \mathit{\boldsymbol{\mathit{\boldsymbol{S}}}}_{ti}=\dfrac{2\left|\left|\boldsymbol{l}_i\cap\boldsymbol{l}'_t\right|\right|}{\left|\left|\boldsymbol{l}_i\right|\right|+\left|\left|\boldsymbol{l}'_t\right|\right|-\left|\left|\boldsymbol{l}_i\cap\boldsymbol{l}'_t\right|\right|} $，且$ {{S}}_{ti}\in [0,2] $。如果$ {{S}}_{ti}=2 $，则$ {{{\boldsymbol{q}}}}_{t} $与$ {{{\boldsymbol{x}}}}_{i} $相似；如果$ {{S}}_{ti}=0 $，则$ {{{\boldsymbol{q}}}}_{t} $与$ {{{\boldsymbol{x}}}}_{i} $不相似；如果$ {{S}}_{ti}\in (0,2) $，则$ {{{\boldsymbol{q}}}}_{t} $与$ {{{\boldsymbol{x}}}}_{i} $具有一定的相似度。
用于图像检索的深度哈希算法目标是针对查询集学习一个哈希函数$ h({\boldsymbol{q}}_{t}) $，将输入图像映射为二进制哈希码$ \boldsymbol{B}=\left\{{\boldsymbol{b}}_{t}\right\}_{t=1}^{m}\in {\left\{-1,1\right\}}^{m\times k} $，$ k $为哈希码长。
2.2 模糊注意力协同哈希网络的规则
传统的模糊系统具有强大的不确定性数据处理能力，其通过构建模糊规则库并利用模糊推理操作有效挖掘不确定性数据的内在关联。在此基础上， 本文基于TSK模糊系统设计了模糊注意力协同哈希网络。首先，参考经典TSK模糊系统及文献[36]，定义FACH的模糊推理规则库：
$$ \begin{gathered} \text{IF}\;{{\boldsymbol{q}}}_{t}\;{\text{is AEFFC}}^{r}({{\boldsymbol{q}}}_{t}),\;\text{THEN}\;{f}^{r}({{\boldsymbol{q}}}_{t})={\text{TCCE}}^{r}({{\boldsymbol{q}}}_{t}),\\ r=1,2,\cdots,R \end{gathered} $$ (8) 式中：$ {{\boldsymbol{q}}}_{t} $为查询集中第t个样本，$ {\text{AEFFC}}^{r}(\cdot ) $为第r个规则前件的注意力增强的模糊特征协同器，$ {\text{TCCE}}^{r}(\cdot ) $为第r个规则后件的基于Transformer的后件协同编码器，$ {f}^{r}({{\boldsymbol{q}}}_{t}) $为第r个规则的输出，R为规则数。
基于式（8）构造了模糊注意力协同哈希网络。如图1所示，FACH由两个模块组成：注意力增强的模糊特征协同器、基于Transformer的后件协同编码器。在模糊化阶段，传统方法直接采用式（7）所示的隶属函数进行特征映射，难以捕捉医学图像内部的结构相似性。为此，本文提出注意力增强的模糊特征协同器，通过在模糊空间中构建注意力权重矩阵，实现特征区域的差异化增强。在后件推理阶段，经典的TSK模糊系统采用式（6）线性函数进行去模糊化，导致对复杂医学图像的非线性关系建模能力不足。对此，本研究设计基于Transformer的后件协同编码器，更好地适应复杂的非线性关系，提高了处理图像不确定性的能力。
2.3 注意力增强的模糊特征协同器
本文提出的模糊注意力协同哈希网络延续了传统模糊系统的设计，采用高斯隶属度函数作为隶属度函数。为获得前件参数，基于模糊C均值聚类算法估计各高斯隶属度函数的中心位置与方差参数。当前件参数确定后，依据式（2）~（4）的映射关系，输入样本$ {{\boldsymbol{q}}}_{t} $在模糊特征空间中可表示为
$$ {\tilde{\boldsymbol{q}}}_{t}^{r}={\tilde{\mu }}^{r}({{\boldsymbol{q}}}_{t}){{\boldsymbol{q}}}_{t,e}\in {{\bf{R}}}^{1\times (d+1)} $$ (9) 其中$ {{\boldsymbol{q}}}_{t,e}=(1,{{\boldsymbol{q}}}_{t})\in {\bf{R}}^{1\times (d+1)} $，则查询集$ \boldsymbol{Q} $在模糊特征空间的表示为$ {\widetilde{{\boldsymbol{Q}}}}^{r}={[{{\tilde{\boldsymbol{q}}}_{1}^{r}}\;\;{{\tilde{\boldsymbol{q}}}_{2}^{r}}\;\;\cdots\;\;{{\tilde{\boldsymbol{q}}}_{m}^{r}}]}^{\text{T}}\in {\bf{R}}^{m\times (d+1)} $。
传统模糊系统的模糊化过程依赖于输入数据与触发强度的乘积运算，该方法破坏了原始数据空间的拓扑保持性，导致相似样本在模糊空间中的距离关系失真。为此，本文提出基于注意力机制的模糊化框架，通过评估不同样本之间的相关性得分，为特征向量分配相应的相似度权重。针对查询集$ \boldsymbol{Q} $，改进后的模糊映射表示为
$$ \widetilde{{\boldsymbol{Q}}}_{\text{atten}}^{r}=\text{softmax}\left(\dfrac{{\widetilde{{\boldsymbol{Q}}}}^{r}\cdot {({{\widetilde{{\boldsymbol{Q}}}}^{r}})}^{\text{T}}}{\sqrt{d+1}}\right){\widetilde{{\boldsymbol{Q}}}}^{r} $$ (10) 式中：$ d+1 $代表了$ {\widetilde{{\boldsymbol{Q}}}}^{r} $向量的维度，$\dfrac{1}{\sqrt{d+1}}$是为了防止softmax函数计算时上溢出；$ {\widetilde{{\boldsymbol{Q}}}}^{r}\cdot {({{\widetilde{{\boldsymbol{Q}}}}^{r}})}^{\text{T}} $反映了查询集样本之间的相似度，值较高表明两个样本在特征空间中具有较强的相似性，而值较低则表明样本之间的差异性。基于式（10），查询集改进后模糊映射表示为$ \widetilde{{\boldsymbol{Q}}}_{\text{atten}}^{r}={[{\tilde{\boldsymbol{q}}_{\text{atten,1}}^{r}}\;\; {\tilde{\boldsymbol{q}}_{\text{atten,2}}^{r}}\;\; \cdots \;\; {\tilde{\boldsymbol{q}}_{\text{atten,}m}^{r}}]}^{\text{T}} $。
为维持原始模糊化特征的完整性并缓解模型训练中的梯度衰减问题，本文引入残差连接架构与层归一化技术，构建稳健的特征传播路径[37]。因此，最终的模糊映射表示为
$$ \tilde{\boldsymbol{q}'}_{\text{atten,}t}^{r}=\text{LayerNorm}(\tilde{\boldsymbol{q}}_{\text{atten,}\mathrm{t}}^{r}+\tilde{\boldsymbol{q}}_{t}^{r}) $$ (11) 其中$ \text{LayerNorm}(\cdot ) $代表层归一化操作。基于式（11），可以得到查询集$ \boldsymbol{Q} $的最终模糊映射表示为$ \widetilde{{\boldsymbol{Q}'}}_{\text{atten}}^{r}={[\tilde{\boldsymbol{q}'}{_{\text{atten,1}}^{r}}\;\; \tilde{\boldsymbol{q}'}_{\text{atten,2}}^{r}\;\; \cdots \;\; \tilde{\boldsymbol{q}'}{_{\text{atten,}m}^{r}}]}^{\text{T}} $。
2.4 基于Transformer的后件协同编码器
在前件模糊化阶段，我们引入注意力机制，保留医学图像中的关键区域，生成保留原始空间结构的模糊化特征。传统模糊系统通常使用线性函数作为后件参数，这在面对复杂和非线性的数据特征时，往往无法充分捕捉数据之间的潜在关系[38]。在后件参数学习阶段，传统线性回归模型因无法捕捉复杂医学图像的深层语义依赖，导致哈希码判别性不足。为此，本文设计基于Transformer的后件协同编码器。
本文构建的基于Transformer的后件协同编码器由一个Transformer编码器与两个多层感知机分支组成。其中，第1个多层感知机生成哈希码，将高维特征压缩为低维二进制哈希码；第2个多层感知机构成语义预测分支，其输出的分类损失通过反向传播优化哈希码的语义可区分性。通过该编码器，哈希码不仅能够保持图像的相似性信息，同时也能增强其对类别区分的能力，确保在图像检索中的高效性和准确性。对于融合注意力思想的模糊表示$ {\tilde{{{\boldsymbol{q}'}}}}_{\text{atten,}t}^{r} $，可以得到输出：
$$ {\psi }_{h}({\tilde{\boldsymbol{q}'}}_{\text{atten,}t}^{r})=\text{MLP}_{h}^{r}({\text{Transformer}}^{r}({\tilde{\boldsymbol{q}'}}_{{\mathrm{atten,}}t}^{r})) $$ $$ {\psi }_{c}({\tilde{\boldsymbol{q}'}}_{{{\mathrm{atten,}}}t}^{r})=\text{MLP}_{c}^{r}({\text{Transformer}}^{r}({\tilde{\boldsymbol{q}'}}_{{\mathrm{atten,}}t}^{r})) $$ 式中：$ {\text{Transformer}}^{r}(\cdot ) $为第$ r $个规则的Transformer编码器操作，$ \text{MLP}_{h}^{r}(\cdot ) $为第$ r $个规则的用于生成哈希码的多层感知机，$ \text{MLP}_{c}^{r}(\cdot ) $为第$ r $个规则的用于预测类别的多层感知机。因此，查询集样本$ {\boldsymbol{q}}_{t} $的哈希码和预测类别分别为
$$ {{\boldsymbol{b}}}_{t}=h\left({{\boldsymbol{q}}}_{t};{\mathbf{\theta }}_{h}\right)=\text{sign}\left({\mathrm{softsign}}\left(\sum \limits_{r=1}^{R}{\psi }_{c}\left({\tilde{\boldsymbol{q}'}}_{{\mathrm{atten,}}t}^{r}\right)\right)\right) $$ (12) $$ {\mathbf{y}}_{t}=f\left({{\boldsymbol{q}}}_{t};{\mathbf{\theta }}_{c}\right)=\text{softmax}\left(\sum \limits_{r=1}^{R}{\psi }_{c}\left({\tilde{\boldsymbol{q}'}}_{{\mathrm{atten,}}t}^{r}\right)\right) $$ 其中$ \text{softsign}(x)=\dfrac{x}{1+\left| x\right| } $将值映射到$ [-1,1] $范围内，符号函数为$\text{sign}(x)=\left\{\begin{aligned} &-1,\;\;\; x \lt 0\\&1,\;\;\; x\geqslant 0\end{aligned}\right.$，$ {\mathbf{\theta }}_{h} $和$ {\mathbf{\theta }}_{c} $分别是哈希码分支和预测类别分支的网络参数。
2.5 损失函数
为提升哈希码的可判别性和相似性保持能力，本文采用成对损失、分类损失、平衡损失和量化损失4种损失函数对模型进行优化。
成对损失$ {{\boldsymbol{L}}}_{P} $：通过最小化相似样本对的汉明距离，同时最大化不相似对的距离，保持原始样本间相似关系，定义为
$$ {{\boldsymbol{L}}}_{p}=\sum \limits_{t=1}^{m}\sum \limits_{i=1}^{n}{\left|\left|\text{softsign}({\psi }_{h}({{{\tilde{\boldsymbol{q}'}}}}_{\text{atten},t}^{r})){{\boldsymbol{u}}}_{i}-k{{\boldsymbol{S}}}_{{t}i}\right|\right|}^{2} $$ 其中$ {\boldsymbol{U}}={[{{{\boldsymbol{u}}}_{1}}\;\;\;{{{\boldsymbol{u}}}_{2}}\;\;\;\cdots\;\;\;{{{\boldsymbol{u}}}_{n}}]}^{\text{T}}\in {\{-1,+1\}}^{n\times k} $为数据库的哈希码。
分类损失$ {{\boldsymbol{L}}}_{C} $：针对数据集的标签信息个数存在差异的问题，本文设计了分别适用于单标签数据集和多标签数据集的两种分类损失函数。
1）单标签分类损失$ {{\boldsymbol{L}}}_{\text{single}} $：
$$ {{\boldsymbol{L}}}_{\text{single}}=-\dfrac{1}{m}\times \sum \limits_{t=1}^{m}\{{\boldsymbol{l}}{'}_{t}\times \mathbf{\log }({{\boldsymbol{y}}}_{t})+(1-{\boldsymbol{l}}{'}_{t})\times \mathbf{\log }(1-{{\boldsymbol{y}}}_{t})\} $$ 2）多标签分类损失$ {{\boldsymbol{L}}}_{\text{multi}} $：
$$ \begin{gathered} {{\boldsymbol{L}}}_{\text{multi}}=-\dfrac{1}{c}\times \sum \limits_{t=1}^{m}\bigg\{{\boldsymbol{l}}{'}_{t}\times \mathbf{\log }[(1+\exp (-{{{\boldsymbol{y}}}_{t}}))^{-1}]+\\ (1-{\boldsymbol{l}}{'}_{t})\times \log \left[\dfrac{\exp (-{{\boldsymbol{y}}}_{t})}{1+\exp (-{{\boldsymbol{y}}}_{t})}\right]\bigg\} \end{gathered} $$ 平衡损失$ {{\boldsymbol{L}}}_{B} $：确保位哈希码中出现+1和−1的概率尽可能相同，定义为
$$ {{\boldsymbol{L}}}_{B}=\sum \limits_{k}\left(\left|\sum \limits_{t=1}^{m}\text{mean}({{\boldsymbol{b}}}_{t})\right|^{2}\right) $$ 量化损失$ {{\boldsymbol{L}}}_{Q} $：通过添加一个正则项来约束实值输出和哈希码之间的差异，定义为
$$ {{\boldsymbol{L}}}_{Q}=\sum \limits_{t=1}^{m}{\left|\left|\text{softsign}({\psi }_{h}({\tilde{\boldsymbol{q}'}}_{{\mathrm{atten,}}t}^{r}))-{{\boldsymbol{b}}}_{t}\right|\right|}^{2} $$ 因此，模糊哈希网络的损失函数为
$$ {\boldsymbol{L}}={{\boldsymbol{L}}}_{P}+\alpha {{\boldsymbol{L}}}_{C}+\beta {{\boldsymbol{L}}}_{B}+\lambda {{\boldsymbol{L}}}_{Q} $$ 其中$ \alpha $、$ \beta $、$ \lambda $为超参数。
2.6 算法实现步骤
本文在算法1中详细描述了模糊注意力协同哈希网络。训练模糊注意力协同哈希网络后，根据数据库的哈希码$ {\boldsymbol{U}}={[{{{\boldsymbol{u}}}_{1}}\;{{{\boldsymbol{u}}}_{2}}\;\cdots\;{{{\boldsymbol{u}}}_{n}}]}^{\text{T}}\in {\{-1,+1\}}^{n\times k} $进行图像检索。具体的，对于给定医学图像查询集$ {\boldsymbol{Q}} $之外的图像样本$ {{\boldsymbol{x}}}_{j}\in {{\bf{R}}}^{1\times d} $，首先通过式（9）得到在第$ r $个模糊特征空间中的表示$ {\tilde{\boldsymbol{x}}}_{j}^{r}\in {{\bf{R}}}^{1\times (d+1)} $，然后基于注意力机制得到模糊映射表示为$ {\tilde{\boldsymbol{x}'}}_{\text{atten},j}^{r}\in {\bf{R}}^{1\times (d+1)} $，最后图像样本$ {{\boldsymbol{x}}}_{j} $的哈希码为
$$ {\boldsymbol{b}}_{j} = \text{sign} \left( {\rm{softsign}} \left( \sum \limits_{r=1}^{R}\text{MLP}_{h}^{{r}} \left( {\text{Transformer}}^{r}\left({\tilde{\boldsymbol{x}'}}_{\text{atten,}j}^{r} \right) \right) \right) \right) $$ 接着，将其哈希码$ {\boldsymbol{b}}_{j} $与数据库哈希码$ \boldsymbol{U} $计算汉明距离$ {\text{dist}}_{{\mathrm{H}}}=\dfrac{1}{2}(k- \lt {{\boldsymbol{b}}}_{j},{{\boldsymbol{u}}}_{i} \gt ), $$ i=1,2,\cdots ,n $，其中，$ \lt {{\boldsymbol{b}}}_{j},{{\boldsymbol{u}}}_{i} \gt $表示向量$ {{\boldsymbol{b}}}_{j} $与$ {{\boldsymbol{u}}}_{i} $的内积。最后将汉明距离$ {\text{dist}}_{{\mathrm{H}}} $按照升序排序，并按要求返回检索到的前几张图像。
3. 实验结果与分析
本节给出了模糊注意力协同哈希网络在ChestX-ray14和ISIC2018数据集上的实验结果。本文的所有实验均在基于Windows服务器上使用PyTorch深度学习框架完成（其中，CPU的配置为13th Gen Intel(R) Core(TM) i9-13900K(32 CPUs)、3.0 GHz，GPU的配置为NVIDIA GeForce RTX 4090。
3.1 实验数据集和评价指标
本文采用的两个医学图像数据集：
ChestX-ray14数据集：包含
30805 名患者的112120 张正面X线胸片图像，涵盖14种胸部病理。为优化数据分布，移除疝气类别及正常图像，并对低频病理样本进行旋转和翻转增强，最终获得47723 张病理图像。实验从中选取13类病理各100张（共1300 张）作为测试集，剩余46423 张作为数据库，并从中随机抽取5000 张作为查询集。ISIC2018数据集：包含
10208 张皮肤病镜图像，覆盖7种皮肤病类型。剔除皮肤纤维瘤和血管病变后，对剩余5种病理样本进行数据增强，最终构建包含16345 张图像的实验数据集。从中选取5类病理各100张（共500张）作为测试集，剩余15845 张作为数据库，并随机抽取5000 张作为查询集。为评估检索性能，本文采用整体平均精度（mAP）作为评价指标。
算法1：模糊注意力协同哈希网络（FACH）
输入 医学图像数据库$ {\boldsymbol{X}}=\{{{\boldsymbol{x}}}_{i}\}_{i=1}^{n} $，模糊规则数量R，哈希码长k，批处理大小b，迭代次数iters和epochs；
输出 数据库哈希码U，模糊哈希网络参数${\mathbf{\theta }}_{h}$和$ {\mathbf{\theta }}_{c} $。
1）初始化网络参数$ {\mathbf{\theta }}_{h} $、$ {\mathbf{\theta }}_{c} $，数据库哈希码U；
2）for $ \text{iter}=1 $ to $ \text{iters} $ do
3）从数据库中随机生成查询集$ {\boldsymbol{Q}}=\left\{{{\boldsymbol{q}}}_{t}\right\}_{t=1}^{m} $，对应标签为$ {\boldsymbol{L}}' $；
4）使用模糊C均值聚类算法确定模糊哈希网络的前件参数后，通过式(8~11)得到在第r个模糊特征空间中融合注意力机制的模糊映射表示$ {{\boldsymbol{Q}'}}_{\mathrm{atten}}^{r} $；
5）for $ \text{epoch}=1 $ to $ \text{epochs} $ do
6）for $ \text{batch}=1 $ to $ \dfrac{m}{b} $ do
7）根据式(12)，通过基于Transformer的后件协同编码器生成哈希码；
8）通过反向传播更新网络参数$ {\mathbf{\theta }}_{h} $和$ {\mathbf{\theta }}_{c} $；
9）end
10）end
11）采用逐比特更新的策略更新U；
12）end
3.2 实验结果与分析
本文将所提出的模糊注意力协同哈希网络算法和当前主流的深度哈希方法进行对比，包括DPSH[30]（deep pairwise-supervised hashing）、IDHN[39]（improved deep hashing network）、VTS[33]（vision Transformer hashing）、SADH[40]（deep hashing with self-supervised asymmetric semantic excavation and margin-scalable constraint）、DPN[41]（deep polarized Network）、DAMH[42]（deep adaptive-mapping-based hashing）、VITH[35]（vision Transformer hashing）、ACHNet[9]（attention-guided contrastive hashing network）、HybridHash[10]（hybrid convolutional and self-attention deep hashing）。表1和图2给出了本文提出的模糊注意力协同哈希网络与对比算法在ChestX-ray14和ISIC2018数据集上的mAP对比结果。从表中可以看出在两个数据集上，除DAMH外，模糊注意力协同哈希网络在所有码长下的mAP值均高于其他算法。虽然DAMH在ISIC2018数据集上36位的mAP达到了0.754，但从图3中可以看出FACH整体性能优于DAMH。
表 1 两个数据集上不同码长的汉明排序的mAPTable 1 The mAP of Hamming ranking with different code lengths on two datasets方法 ChestX-ray14 ISIC2018 8 位 12 位 24 位 36 位 8 位 12 位 24 位 36 位 DPSH[30] 0.201 0.206 0.217 0.217 0.596 0.663 0.694 0.694 IDHN[39] 0.220 0.223 0.231 0.233 0.619 0.659 0.694 0.658 VTS[33] 0.215 0.219 0.243 0.256 0.632 0.715 0.736 0.712 SADH[40] 0.272 0.286 0.297 0.301 0.654 0.647 0.702 0.688 DPN[41] 0.236 0.258 0.283 0.287 0.617 0.640 0.657 0.682 DAMH[42] 0.261 0.265 0.276 0.290 0.652 0.709 0.672 0.754 VITH[35] 0.257 0.279 0.301 0.317 0.716 0.740 0.689 0.729 ACHNet[9] 0.284 0.300 0.305 0.311 0.601 0.643 0.687 0.691 HybridHash[10] 0.267 0.273 0.291 0.292 0.608 0.602 0.680 0.714 FACH 0.321 0.383 0.302 0.410 0.728 0.742 0.748 0.739 注：加粗表示结果在本列最好。 
图 2 不同算法在两个数据集上的对比实验Fig. 2 Comparative experiments of different algorithms on two datasets下载:
全尺寸图片
图 3 两个数据集上的医学图像检索结果Fig. 3 Medical image retrieval results on two datasets下载:
全尺寸图片
为进一步验证检索性能，本文将FACH与对比方法应用于医学图像检索，基于36位哈希码返回前8张检索结果。图3给出了在ChestX-ray14与ISIC2018数据集上的检索效果，其中红色边框标记错误结果，蓝色边框标记正确结果。实验结果表明，FACH在两个数据集上均成功检索到8张正确图像，展现出更优的检索效果。此外，表2给出了不同算法在两个数据集上8位的检索时间对比结果。从中可以看出，FACH算法在检索速度方面表现优异，尽管在ChestX-ray14数据集上略慢于SADH算法，但其具有更高的检索精度。
表 2 两个数据集上的检索时间对比分析Table 2 Comparative analysis for retrieval time on the two datasets数据集 ChestX-ray14 ISIC2018 方法 时间/s 排序 时间/s 排序 DPSH 28.286 8 3.939 4 DBDH 22.608 4 3.826 2 IDHN 26.294 7 3.891 3 VTS 25.173 6 3.972 6 SADH 18.726 1 14.847 8 DPN 21.122 3 4.264 7 DAMH 23.998 5 3.948 5 ACHNet 1094.316 10 127.676 10 HybridHash 71.586 9 18.454 9 FACH 20.121 2 3.812 1 注：加粗表示结果在本列最好。 3.3 消融实验
为深入分析FACH算法的整体架构设计，本文通过消融实验验证各模块的有效性。具体实验设置如下：通过逐步移除算法中的关键模块，分别评估其对模型性能的影响。设计两种FACH变体：FACH 1移除注意力机制，取消对模糊化特征的相似度加权；FACH 2去除深度TSK模糊系统，以验证其对特征建模的贡献。
表3和表4给出了ChestX-ray14和ISIC2018数据集上的消融实验结果。通过分析这些结果，可以得出以下结论：首先，在两个数据集上，FACH方法的mAP精度整体优于其他两个变体，表现出更高的准确性。其次，随着各模块的逐步去除，FACH 1和FACH 2的mAP精度下降。这说明本文提出的双模块对算法性能起到积极的促进作用，每个模块都对提升检索精度有重要贡献。最后，FACH 2的mAP精度显著低于FACH 1和FACH，这凸显了本文所设计模糊特征协同器与Transformer后件编码器的联合框架，不仅能够有效提升哈希图像检索的精度，还能增强算法在面对医学图像数据中固有的不确定性和模糊性时的表现。综上所述，消融实验证明本文提出的模糊注意力协同哈希网络显著提升算法在医学图像检索任务中的表现。
表 3 在ChestX-ray14数据集上消融实验的比较分析Table 3 Comparative analysis for ablation experiments on the ChestX-ray14 dataset方法 8位 12位 24位 36位 FACH 0.321 0.383 0.302 0.410 FACH 1 0.310 0.334 0.310 0.305 FACH 2 0.257 0.277 0.301 0.301 注：加粗表示结果在本列最好。 表 4 在ISIC2018数据集上消融实验的比较分析Table 4 Comparative analysis for ablation experiments on the ISIC2018 dataset方法 8位 12位 24位 36位 FACH 0.728 0.742 0.748 0.739 FACH 1 0.724 0.729 0.721 0.741 FACH 2 0.711 0.694 0.693 0.704 注：加粗表示结果在本列最好。 3.4 鲁棒性分析
为进一步分析FACH在图像干扰条件下的鲁棒性表现，本文在ISIC2018数据集上引入随机噪声干扰，即每幅图像注入
10000 个噪声点。如表5所示，在噪声干扰条件下，所有对比算法的mAP值均出现不同程度下降。值得注意的是，在不同哈希码长设置下，FACH始终保持着最优的mAP性能，这充分证实了FACH模型对图像噪声干扰具有更强的鲁棒性，展现了其在噪声环境下的稳定特征保持能力。此外，除FACH外，VITH同样展示了卓越的医学图像检索性能。这归因于VITH通过引入空间金字塔池化模块，能够有效地提取多尺度的特征表示，从而增强其在捕捉医学图像中微小病理特征方面的能力。图4给出了不同算法在噪声干扰下的检索时间对比分析结果。从表5中可以看出，尽管FACH的检索速率略低于IDHN、VTS，但在实际检索中FACH表现出了更高的检索精度。表 5 在ISIC2018数据集上的噪声实验Table 5 Noise experiments on the ISIC2018 dataset方法 8位 12位 24位 36位 DPSH 0.491 0.575 0.628 0.632 IDHN 0.572 0.590 0.598 0.616 VTS 0.565 0.584 0.612 0.631 SADH 0.553 0.570 0.592 0.594 DPN 0.498 0.565 0.618 0.623 DAMH 0.530 0.540 0.614 0.641 VITH 0.574 0.593 0.621 0.649 ACHNet 0.524 0.565 0.593 0.610 HybridHash 0.538 0.563 0.610 0.619 FACH 0.642 0.674 0.656 0.684 注：加粗表示结果在本列最好。 
图 4 在噪声下的检索时间对比分析Fig. 4 Comparison of retrieval time under noise下载:
全尺寸图片
3.5 超参数分析
为进一步分析FACH中损失函数的3个超参数对于算法性能的影响，我们针对超参数$ \alpha $、$ \beta $、$ \lambda $，在ChestX-ray14数据集上对12位哈希码进行超参数分析。其中，$ \alpha $代表分类损失的权重，$ \beta $代表平衡损失的权重，$ \lambda $代表量化损失的权重。在实验设计中，仅调整一个参数，而将其他两个参数固定为其最优值。从图5（a）中可以看出，固定$ \beta $和$ \lambda $，当$ \alpha =10 $时FACH的mAP精度最高；从图5（b）中可以看出，固定$ \alpha $和$ \lambda $，当$ \beta =5\;000 $时FACH的mAP精度最高；从图5（c）中可以看出，固定$ \alpha $和$ \beta $，当$ \lambda =300 $时FACH的mAP精度最高。
图 5 在ChestX-ray14数据集上对12位哈希码的超参数分析Fig. 5 Hyperparameter analysis for 12-bit hashing codes on the ChestX-ray14 dataset下载:
全尺寸图片
4. 结束语
本文针对医学图像数据中存在的不确定性以及数据不平衡问题，提出了一种创新的深度哈希算法——模糊注意力协同哈希网络。通过结合TSK模糊系统的动态建模与深度学习的强大特征表达能力，本算法采用双模块协同机制，有效提升了医学图像检索的性能。具体而言，在模糊系统的前件，通过引入注意力机制，对模糊化特征进行加权，保留了医学图像关键区域的关键信息，同时增强了类内一致性和类间差异性。基于Transformer的后件协同编码器则进一步建模图像的复杂非线性关系，强化了对医学图像深层语义的捕捉能力。通过这种双模块的协同作用，本文所提出的算法显著提升了哈希码在医学图像检索中的表现，在ChestX-ray14和ISIC2018数据集上均取得了优异的实验结果，证明了该方法在处理复杂医学影像特征时的有效性。
该算法在当前的医学图像检索任务中表现出了优势，但仍有进一步优化的空间。首先，现有算法主要针对单模态数据，未来研究可扩展至跨模态医学图像检索任务，提升其在跨模态数据上的适应性，随着医学影像数据的日益多样化，跨模态检索将成为一个亟待解决的研究方向。其次，当前的深度哈希算法在面对数据噪声与恶意攻击时，鲁棒性较弱，因此，未来可探讨对抗性训练的引入，以增强模型的鲁棒性，进一步提升其在实际应用中的稳定性与可靠性。
-
图 1 模糊注意力协同哈希网络框架
Fig. 1 Framework of fuzzy attention collaborative hashing network
下载:
全尺寸图片
图 2 不同算法在两个数据集上的对比实验
Fig. 2 Comparative experiments of different algorithms on two datasets
下载:
全尺寸图片
图 3 两个数据集上的医学图像检索结果
Fig. 3 Medical image retrieval results on two datasets
下载:
全尺寸图片
图 4 在噪声下的检索时间对比分析
Fig. 4 Comparison of retrieval time under noise
下载:
全尺寸图片
图 5 在ChestX-ray14数据集上对12位哈希码的超参数分析
Fig. 5 Hyperparameter analysis for 12-bit hashing codes on the ChestX-ray14 dataset
下载:
全尺寸图片
表 1 两个数据集上不同码长的汉明排序的mAP
Table 1 The mAP of Hamming ranking with different code lengths on two datasets
方法 ChestX-ray14 ISIC2018 8 位 12 位 24 位 36 位 8 位 12 位 24 位 36 位 DPSH[30] 0.201 0.206 0.217 0.217 0.596 0.663 0.694 0.694 IDHN[39] 0.220 0.223 0.231 0.233 0.619 0.659 0.694 0.658 VTS[33] 0.215 0.219 0.243 0.256 0.632 0.715 0.736 0.712 SADH[40] 0.272 0.286 0.297 0.301 0.654 0.647 0.702 0.688 DPN[41] 0.236 0.258 0.283 0.287 0.617 0.640 0.657 0.682 DAMH[42] 0.261 0.265 0.276 0.290 0.652 0.709 0.672 0.754 VITH[35] 0.257 0.279 0.301 0.317 0.716 0.740 0.689 0.729 ACHNet[9] 0.284 0.300 0.305 0.311 0.601 0.643 0.687 0.691 HybridHash[10] 0.267 0.273 0.291 0.292 0.608 0.602 0.680 0.714 FACH 0.321 0.383 0.302 0.410 0.728 0.742 0.748 0.739 注：加粗表示结果在本列最好。 表 2 两个数据集上的检索时间对比分析
Table 2 Comparative analysis for retrieval time on the two datasets
数据集 ChestX-ray14 ISIC2018 方法 时间/s 排序 时间/s 排序 DPSH 28.286 8 3.939 4 DBDH 22.608 4 3.826 2 IDHN 26.294 7 3.891 3 VTS 25.173 6 3.972 6 SADH 18.726 1 14.847 8 DPN 21.122 3 4.264 7 DAMH 23.998 5 3.948 5 ACHNet 1094.316 10 127.676 10 HybridHash 71.586 9 18.454 9 FACH 20.121 2 3.812 1 注：加粗表示结果在本列最好。 表 3 在ChestX-ray14数据集上消融实验的比较分析
Table 3 Comparative analysis for ablation experiments on the ChestX-ray14 dataset
方法 8位 12位 24位 36位 FACH 0.321 0.383 0.302 0.410 FACH 1 0.310 0.334 0.310 0.305 FACH 2 0.257 0.277 0.301 0.301 注：加粗表示结果在本列最好。 表 4 在ISIC2018数据集上消融实验的比较分析
Table 4 Comparative analysis for ablation experiments on the ISIC2018 dataset
方法 8位 12位 24位 36位 FACH 0.728 0.742 0.748 0.739 FACH 1 0.724 0.729 0.721 0.741 FACH 2 0.711 0.694 0.693 0.704 注：加粗表示结果在本列最好。 表 5 在ISIC2018数据集上的噪声实验
Table 5 Noise experiments on the ISIC2018 dataset
方法 8位 12位 24位 36位 DPSH 0.491 0.575 0.628 0.632 IDHN 0.572 0.590 0.598 0.616 VTS 0.565 0.584 0.612 0.631 SADH 0.553 0.570 0.592 0.594 DPN 0.498 0.565 0.618 0.623 DAMH 0.530 0.540 0.614 0.641 VITH 0.574 0.593 0.621 0.649 ACHNet 0.524 0.565 0.593 0.610 HybridHash 0.538 0.563 0.610 0.619 FACH 0.642 0.674 0.656 0.684 注：加粗表示结果在本列最好。 -
[1] YE Jin, CHENG Junlong, CHEN Jianpin, et al. SA-Med2D-20M dataset: segment anything in 2D medical imaging with 20 million masks[EB/OL]. (2023−11−20)[2025−08−10]. https://arxiv.org/abs/2311.11969. [2] JUSH F K, TRUONG T, VOGLER S, et al. Medical image retrieval using pretrained embeddings[C]//2024 IEEE International Symposium on Biomedical Imaging. Athens: IEEE, 2024: 1−5. [3] KARA K, ALONSO G. Fast and robust hashing for database operators[C]//2016 26th International Conference on Field Programmable Logic and Applications. Lausanne: IEEE, 2016: 1−4. [4] DEVINE R. Design and implementation of DDH: a distributed dynamic hashing algorithm[C]//Foundations of Data Organization and Algorithms. Berlin: Springer, 1993: 101−114. [5] LENSING P, MEISTER D, BRINKMANN A. HashFS: applying hashing to optimize file systems for small file reads[C]//2010 International Workshop on Storage Network Architecture and Parallel I/Os. Incline Village: IEEE, 2010: 33−42. [6] 李来, 刘光灿, 孙玉宝, 等. 各向同性的迭代量化哈希算法[J]. 电子学报, 2017, 45(7): 1707−1714. doi: 10.3969/j.issn.0372-2112.2017.07.022 LI Lai, LIU Guangcan, SUN Yubao, et al. Isotropic iterative quantization hashing[J]. Acta electronica sinica, 2017, 45(7): 1707−1714. doi: 10.3969/j.issn.0372-2112.2017.07.022 [7] LIONG V E, LU Jiwen, WANG Gang, et al. Deep hashing for compact binary codes learning[C]//2015 IEEE Conference on Computer Vision and Pattern Recognition. Boston: IEEE, 2015: 2475−2483. [8] DING Weiping, LIU Chuansheng, HUANG Jiashuang, et al. ViTH-RFG: vision transformer hashing with residual fuzzy generation for targeted attack in medical image retrieval[J]. IEEE transactions on fuzzy systems, 2024, 32(10): 5571−5584. doi: 10.1109/TFUZZ.2023.3343352 [9] KOU Xuan, XU Chenghao, YANG Xu, et al. Attention-guided contrastive hashing for long-tailed image retrieval[C]//Proceedings of the Thirty-First International Joint Conference on Artificial Intelligence. Vienna: International Joint Conferences on Artificial Intelligence Organization, 2022: 1017−1023. [10] HE Chao, WEI Hongxi. HybridHash: hybrid convolutional and self-attention deep hashing for image retrieval[C]//Proceedings of the 2024 International Conference on Multimedia Retrieval. Phuket: ACM, 2024: 824−832. [11] SHEN Yang, SUN Xuhao, WEI Xiushen, et al. SEMICON: a learning-to-hash solution forLarge-scale fine-grained image retrieval[C]//Computer Vision–ECCV 2022. Cham: Springer, 2022: 531−548. [12] 周天奕, 丁卫平, 黄嘉爽, 等. 模糊逻辑引导的多粒度深度神经网络[J]. 模式识别与人工智能, 2023, 36(9): 778−792. ZHOU Tianyi, DING Weiping, HUANG Jiashuang, et al. Fuzzy logic guided deep neural network with multi-granularity[J]. Pattern recognition and artificial intelligence, 2023, 36(9): 778−792. [13] ZHANG Yuanpeng, YANG Dongrong, LAM S, et al. Radiomics-based detection of COVID-19 from chest X-ray using interpretable soft label-driven TSK fuzzy classifier[J]. Diagnostics, 2022, 12(11): 2613. doi: 10.3390/diagnostics12112613 [14] SONG Guanghao, ZHAI Jia, ZHOU Ta. Classification of acute radiation dermatitis by active-guided-based T-S fuzzy classifier[C]//2023 2nd International Conference on Artificial Intelligence, Human-Computer Interaction and Robotics. Tianjin: IEEE, 2024: 154−160. [15] TA Zhou, WEI Xue, NAN Chuxi, et al. A screening mechanism fast-aggregation-based Takagi-Sugeno-Kang fuzzy classification for epileptic electroencephalograms signal[J]. Journal of medical imaging and health informatics, 2019, 9(7): 1458−1463. doi: 10.1166/jmihi.2019.2744 [16] LI Andong, DENG Zhaohong, ZHANG Wei, et al. Multiview transfer representation learning with TSK fuzzy system for EEG epilepsy detection[J]. IEEE transactions on fuzzy systems, 2024, 32(1): 38−52. doi: 10.1109/TFUZZ.2023.3288479 [17] ONTIVEROS E, MELIN P, CASTILLO O. Comparative study of interval Type-2 and general Type-2 fuzzy systems in medical diagnosis[J]. Information sciences, 2020, 525: 37−53. doi: 10.1016/j.ins.2020.03.059 [18] 王海鹏, 高自强, 董佳俊, 等. 基于粗糙注意力融合机制与Group Transformer的视网膜血管分割网络[J]. 南通大学学报(自然科学版), 2024, 23(1): 28−37,48. WANG Haipeng, GAO Ziqiang, DONG Jiajun, et al. Retinal vessel segmentation network based on rough attention fusion mechanism and Group Transformer[J]. Journal of Nantong University (natural science edition), 2024, 23(1): 28−37,48. [19] JUANG C F. A TSK-type recurrent fuzzy network for dynamic systems processing by neural network and genetic algorithms[J]. IEEE transactions on fuzzy systems, 2002, 10(2): 155−170. doi: 10.1109/91.995118 [20] DENG Zhaohong, XU Peng, XIE Lixiao, et al. Transductive joint-knowledge-transfer TSK FS for recognition of epileptic EEG signals[J]. IEEE transactions on neural systems and rehabilitation engineering, 2018, 26(8): 1481−1494. doi: 10.1109/TNSRE.2018.2850308 [21] 蒋亦樟, 邓赵红, 王士同. 0阶L2型TSK迁移学习模糊系统[J]. 电子学报, 2013, 41(5): 897−904. JIANG Yizhang, DENG Zhaohong, WANG Shitong. 0-order-L2-norm-Takagi-Sugeno-Kang type transfer learning fuzzy system[J]. Acta electronica sinica, 2013, 41(5): 897−904. [22] HERRERA L J, PÉREZ M M, SANTANA J, et al. A data mining approach based on a local-global fuzzy modelling for prediction of color change after tooth bleaching using vita classical shades[C]//2009 Ninth International Conference on Intelligent Systems Design and Applications. Pisa: IEEE, 2009: 1268−1273. [23] HASHEMI S E, GHOLIAN-JOUYBARI F, HAJIAGHAEI-KESHTELI M. A fuzzy C-means algorithm for optimizing data clustering[J]. Expert systems with applications, 2023, 227: 120377. doi: 10.1016/j.eswa.2023.120377 [24] 陈昌红, 彭腾飞, 干宗良. 基于深度哈希算法的极光图像分类与检索方法[J]. 电子与信息学报, 2020, 42(12): 3029−3036. doi: 10.11999/JEIT190984 CHEN Changhong, PENG Tengfei, GAN Zongliang. Aurora image classification and retrieval method based on deep hashing algorithm[J]. Journal of electronics & information technology, 2020, 42(12): 3029−3036. doi: 10.11999/JEIT190984 [25] LUO Xiao, WANG Haixin, WU Daqing, et al. A survey on deep hashing methods[J]. ACM transactions on knowledge discovery from data, 2023, 17(1): 1−50. [26] SHEN Fumin, XU Yan, LIU Li, et al. Unsupervised deep hashing with similarity-adaptive and discrete optimization[J]. IEEE transactions on pattern analysis and machine intelligence, 2018, 40(12): 3034−3044. doi: 10.1109/TPAMI.2018.2789887 [27] VENKATESWARA H, EUSEBIO J, CHAKRABORTY S, et al. Deep hashing network for unsupervised domain adaptation[C]//2017 IEEE Conference on Computer Vision and Pattern Recognition. Honolulu: IEEE, 2017: 5385−5394. [28] ZHANG Jian, PENG Yuxin. SSDH: semi-supervised deep hashing for large scale image retrieval[J]. IEEE transactions on circuits and systems for video technology, 2019, 29(1): 212−225. doi: 10.1109/TCSVT.2017.2771332 [29] WANG Guan’an, HU Qinghao, YANG Yang, et al. Adversarial binary mutual learning for semi-supervised deep hashing[J]. IEEE transactions on neural networks and learning systems, 2022, 33(8): 4110−4124. doi: 10.1109/TNNLS.2021.3055834 [30] LI Wujun, WANG Sheng, KANG Wangcheng. Feature learning based deep supervised hashing with pairwise labels[EB/OL]. (2015−11−12)[2025−08−10]. https://arxiv.org/abs/1511.03855. [31] LIU Haomiao, WANG Ruiping, SHAN Shiguang, et al. Deep supervised hashing for fast image retrieval[C]//2016 IEEE Conference on Computer Vision and Pattern Recognition. Las Vegas: IEEE, 2016: 2064−2072. [32] JIANG Qingyuan, LI Wujun. Asymmetric deep supervised hashing[C]//Proceedings of the AAAI conference on artificial intelligence, New Orleans: AAAI Press, 2018. [33] DUBEY S R, SINGH S K, CHU Weita. Vision transformer hashing for image retrieval[C]//2022 IEEE International Conference on Multimedia and Expo. Taipei: IEEE, 2022: 1−6. [34] CHEN Yongbiao, ZHANG Sheng, LIU Fangxin, et al. TransHash: transformer-based hamming hashing for efficient image retrieval[C]//Proceedings of the 2022 International Conference on Multimedia Retrieval. Newark: ACM, 2022: 127−136. [35] 刘传升, 丁卫平, 程纯, 等. ViTH: 面向医学图像检索的视觉Transformer哈希改进算法[J]. 西南大学学报(自然科学版), 2024, 46(5): 11−26. LIU Chuansheng, DING Weiping, CHENG Chun, et al. ViTH: improved vision transformer hashing algorithm for medical image retrieval[J]. Journal of Southwest University (natural science edition), 2024, 46(5): 11−26. [36] HU Fuping, DENG Zhaohong, WANG Guanjin, et al. Graph fuzzy system for the whole graph prediction: concepts, models, and algorithms[J]. IEEE transactions on fuzzy systems, 2024, 32(3): 1383−1398. doi: 10.1109/TFUZZ.2023.3325458 [37] HAN Dezhi, SHI Jingya, ZHAO Jiahao, et al. LRCN: layer-residual co-attention networks for visual question answering[J]. Expert systems with applications, 2025, 263: 125658. doi: 10.1016/j.eswa.2024.125658 [38] LU Huimin, ZHANG Ming, XU Xing, et al. Deep fuzzy hashing network for efficient image retrieval[J]. IEEE transactions on fuzzy systems, 2021, 29(1): 166−176. doi: 10.1109/TFUZZ.2020.2984991 [39] ZHANG Zheng, ZOU Qin, LIN Yuewei, et al. Improved deep hashing with soft pairwise similarity for multi-label image retrieval[J]. IEEE transactions on multimedia, 2020, 22(2): 540−553. doi: 10.1109/TMM.2019.2929957 [40] YU Zhengyang, WU Song, DOU Zhihao, et al. Deep hashing with self-supervised asymmetric semantic excavation and margin-scalable constraint[J]. Neurocomputing, 2022, 483: 87−104. doi: 10.1016/j.neucom.2022.01.082 [41] FAN Lixin, NG K W, JU Ce, et al. Deep polarized network for supervised learning of accurate binary hashing codes[C]//Proceedings of the Twenty-Ninth International Joint Conference on Artificial Intelligence Main Track. Yokohama: IJCAI, 2021: 825−831. [42] SU Hai, FANG Jianwei, LIU Weixing, et al. A deep hashing method of likelihood function adaptive mapping[J]. Neural computing and applications, 2023, 35(8): 5903−5921. doi: 10.1007/s00521-022-07962-3
