Fuzzy concept cognitive learning based on multi-scale attention
-
摘要:
概念认知学习(conceptual cognitive learning，CCL)以概念为知识载体，研究事物的认知学习过程，广泛应用于知识发现与对象分类。现有模糊CCL模型多基于单一尺度构建，未能充分利用多尺度信息，且忽视了注意力机制在人类认知中的作用。为此，本文提出一种基于多尺度注意力的模糊概念认知学习模型(multi-scale attention-based fuzzy conceptual cognitive learning model，MSA-CCL)。该方法首先构建多尺度模糊形式背景，并通过一致性判定选择最优尺度用于模糊概念学习；随后为各条件属性引入注意力机制，构建模糊概念注意力空间，突出关键属性的重要性；进一步生成伪模糊概念注意力空间，通过计算新对象与伪概念的相似度，实现对象分类与概念识别。在UCI的9个数据集上验证了该方法的有效性和可行性。
Abstract:Concept-cognitive learning (CCL) treats concepts as the fundamental carriers of knowledge and examines the cognitive learning process of objects. It has been widely applied to knowledge discovery and object classification. However, existing fuzzy CCL models are mostly constructed at a single scale, which limits their ability to exploit multi-scale information and overlooks the role of attention mechanisms in human cognition. To address these issues, this paper proposes a multi-scale attention-based fuzzy concept-cognitive learning (MSA-CCL) model. The proposed method first constructs multi-scale fuzzy formal contexts and selects the optimal scale through consistency evaluation for fuzzy concept learning. Next, an attention mechanism is introduced for each conditional attribute to build a fuzzy concept attention space, which highlights the importance of key attributes. Finally, a pseudo-fuzzy concept attention space is generated to perform object classification and concept recognition based on the similarity between new objects and pseudo-concepts. Experiments on nine UCI machine learning repository datasets demonstrate the effectiveness and feasibility of the proposed method.
-
认知计算[1]是一种模拟人脑的计算机系统，是人工智能不可或缺的一部分。它的目标是解决生物系统固有的复杂性、不确定性和不完整性，从而实现感知、记忆和解决问题等过程。多年来，认知计算在机器学习[2]、数据科学和信息处理[3]等领域得到了广泛的应用。信息颗粒作为概念形式，是人类思维的基本认知单位，在理解世界的过程中起着重要作用。一个概念由3部分组成：外延、内涵和名称。外延是指一组对象，而内涵表示这些对象的共享属性。概念名称用于描述概念。概念认知学习是认知学习的重要方法之一。近年来，概念学习逐渐扩展到粒度计算[4]、粗糙集理论[5]和形式概念分析[6]等领域。
概念认知学习以概念为知识的基本载体，通过模拟人类学习机制，自然地将新数据整合到自身中。随着数据类型的增加，在实际应用中出现了各种概念认知学习模型，如形式概念[7]、粒度概念[8]、模糊概念[9]、三向概念[10]和双向概念[11]。在基础领域，概念认知学习继续得到改善。例如，Zhang等[12]研究了对象和属性之间的充分性和必要性，将粒度计算与认知学习相结合，模拟人类的认知过程。Yao等[13]从认知信息学和粒度计算的角度出发，探讨了概念认知学习的学习框架。
概念认知学习的理论框架逐渐完善。为了解决分类问题，近年来许多学者提出了各种CCL(conceptual congnitive learning)模型。Shi等[14]提出了一种并行CCL框架，该框架优化了概念构建和增量学习过程，在确保分类有效性的同时显著提高了计算效率。Mi等[15]引入了一种基于模糊概念的学习模型，以解决传统CCL无法直接处理连续数据的问题，并弥补一些概念聚类方法对对象信息的忽视。Liu等[16]通过在认知过程中采用独立于属性顺序的随机策略，解决了认知结果高度依赖于属性序列的问题。Wang等[17]提出了一种多视图模糊概念识别方法，有效地解决了在现实场景中从多个视图收集数据时概念表示和集成的挑战。Guo等[18]提出了一种模糊粒度三向CCL方法，该方法引入了大概念优先级原则和动态更新机制，以实现模糊环境中的概念建模和动态知识学习。Wu等[19]建立了特征概念和多标签概念之间的关系，综合考虑了程度相关性和意图相关性，并将这种方法应用于多标签分类任务。Zhou等[20]从CCL的角度提出了一种技能评估方法，将特定的模糊技能函数转换为模糊形式上下文，有效地解决了现有技能评估技术在处理噪声响应数据方面的局限性。
尽管概念认知学习在知识发现与对象分类等领域取得了显著成果，但仍存在以下不足：
1)现有研究大多基于单一尺度的形式背景构建CCL模型，未能充分利用多尺度信息所提供的多元视角，从而限制了模型在复杂环境中的适应性。
2)在模糊CCL模型中，尚缺乏对注意力机制的有效引入，难以模拟人类认知中对关键信息的选择与关注，导致模型对属性重要性的区分不足。
为解决上述问题，本文提出了一种基于多尺度注意力机制的模糊概念认知学习方法。构建多尺度模糊形式背景，将多尺度信息引入模糊概念认知学习框架，并通过尺度优化提升模型在复杂环境下的适应能力。在最优尺度下引入注意力机制，构建模糊概念注意力空间，以增强属性表达能力并更好地刻画认知特征。基于注意力空间生成伪概念表示，并通过相似度计算实现对象分类与概念识别，从而提升分类性能。
1. 相关工作
1.1 模糊形式概念分析
Yahia[21]引入了模糊形式概念分析(fuzzy formal concept analysis，FFCA)以用于数据分析和知识发现。在实际应用中，FFCA 由非空有限的对象集、属性集以及二者之间的模糊二元关系构成，这些构成部分为后续讨论奠定了基础。
设$ G $是一个非空有序集合，$ G $的模糊集$ \tilde{W} $可以表示为隶属函数$ \tilde{W}(\cdot )\colon G\rightarrow [0,1] $, 其中，对于任意$ x\in G $，$ \tilde{W}(x) $表示对象$ x $对于模糊集$ \tilde{W} $的隶属度。记$ \mathcal{F}(G) $为$ G $的所有模糊子集的集合。设$ W $和$ V $是集合$ G $的两个模糊子集。若对于任意$ x\in G $，都有$ \tilde{W}(x)\leq \tilde{V}(x) $，则称$ W $是$ {V} $的模糊子集，记作$ W\subseteq V $。
三元组$ (U,M,\tilde{I}) $称为一个模糊形式背景，其中$ U=\{{x}_{1},{x}_{2},\cdots ,{x}_{n}\} $表示对象的集合，$ M=\{{b}_{1},{b}_{2},\cdots , $ $ {b}_{m}\} $表示属性的集合。$ \tilde{I} $是$ U $与$ M $之间的一个模糊关系，即$ \tilde{I}\colon U\times M\rightarrow [0,1] $, 其中$ \tilde{I}(x,b) $表示对象$ x $对属性$ b $的隶属度。
定义1 设$ (U,M,\tilde{I}) $是一个模糊形式背景。对于$ X\subseteq U $和$ \tilde{A}\in \mathcal{F}(M) $，定义两个算子$ F\colon \mathcal{P}(U)\rightarrow $ $ \mathcal{F}(M) $与$ H\colon \mathcal{F}(M)\rightarrow \mathcal{P}(U) $分别为
$$ F(X,b)=\underset{x\in X}{\Lambda }\tilde{I}(x,b),b\in M $$ (1) $$ H(\tilde{A})=\{x\in U\mid \forall b\in M , \tilde{A}(b)\leq \tilde{I}(x,b)\} $$ (2) 若二元组$ (X,\tilde{A}) $满足$ F(X)=\tilde{A} $且$ H(\tilde{A})=X $，则称其为一个模糊概念。其中，$X $称为该模糊概念的外延，$ \tilde{A} $称为其内涵。
设 $ (U,M,\tilde{I}) $和$ (U,D,J) $是两个模糊形式背景，其中$ \tilde{I}\colon U\times M\rightarrow [0,1] $，$ J\colon U\times D\rightarrow \{0,1\} $。
此时称$ (U,M,\tilde{I},D,J) $为一个模糊形式决策背景，并且满足$ M\cap D=\mathbf{\varnothing } $。其中，$ M $表示条件属性集，$ D $表示决策属性集。
1.2 多尺度模糊形式背景
多尺度模糊形式背景最早由Wu和Leung于2011年提出，被称为Wu-Leung模型[22]。
定义2 多尺度模糊形式背景表示为三元组$ S= $ $ (U,M,\{\tilde{{I}^{k}}\}_{k=1}^{l}) $，其中，$ U=\{{x}_{1},{x}_{2},\cdots ,{x}_{n}\} $表示对象集；$ M=\{{a}_{1},{a}_{2},\cdots ,{a}_{m}\} $表示属性集，且每个属性$ {a}_{j} $具有$ l $个尺度，记为$ a_{j}^{k}(k=1,2,\cdots ,l) $； $ \tilde{{I}^{k}}\colon U\times M\rightarrow [0,1] $是在尺度$ k $下$ U $与$ M $之间的模糊关系，$ \tilde{{I}^{k}}(x,{a}_{j}) $表示对象$ x $在尺度$ k $下对属性$ {a}_{j} $的隶属度。因此，多尺度模糊形式背景可以表示为$ (U,\{a_{j}^{k}\mid k=1,2,\cdots ,l; j=1,2,\cdots ,m\},\tilde{{I}^{k}}) $。
上述多尺度模糊形式背景刻画了对象与条件属性在不同尺度下的关系。为支持分类与决策分析，有必要进一步引入决策属性，构建多尺度模糊决策形式背景。其形式化定义如下。
定义3 设$ S=(U,M,\{\tilde{{I}^{k}}\}_{k=1}^{l},D,J) $，其中 $U= $ $ \{{x}_{1},{x}_{2},\cdots ,{x}_{n}\} $表示对象集；$ C=\{{b}_{1},{b}_{2},\cdots ,{b}_{m}\} $表示条件属性集，且每个属性$ {b}_{j} $在尺度$ k $下记为$ b_{j}^{k} $，$ k=1, 2,\cdots ,l $；$ D=\{d\} $表示决策属性集；$ {\tilde {I}^{k}}: U \times C \rightarrow [0,1] $表示在尺度$ k $下对象与条件属性之间的模糊关系；$ J\colon U\times D\rightarrow \{0,1\} $表示对象与决策属性之间的二值关系。记$ K=({l}_{1},{l}_{2},\cdots ,{l}_{m}) $为条件属性的尺度层级，其中$ {l}_{j}\in \{1,2,\cdots ,l\}, j=1,2,\cdots ,m $。所有尺度层级的集合记为$ L=\{({l}_{1},{l}_{2},\cdots ,{l}_{m})\mid {l}_{j}\in \{1, $ $ 2,\cdots ,l\}, j=1,2,\cdots ,m\} $，则对于任意尺度层级$ K=({l}_{1},{l}_{2},\cdots , {l}_{m}) $，可得到一个单尺度模糊决策形式背景：$ {S}^{K}= (U,{C}^{K},\tilde{{I}^{K}},D,J) $，其中$ {C}^{K}=\{b_{1}^{{l}_{1}},b_{2}^{{l}_{2}}, $ $ \cdots ,b_{m}^{{l}_{m}}\}, $$ \tilde{{I}^{K}} $表示在尺度层级$ K $下的模糊关系。
在多尺度模糊决策形式背景中，合理的尺度层级应保证条件属性诱导的划分与决策划分保持一致，即条件等价类不跨越不同的决策等价类。为刻画这种匹配关系，下面给出一致性的形式化判定准则，并作为最优尺度选择的依据。
定义4 设$ S=(U,M,\{\tilde{{I}^{k}}\}_{k=1}^{l},D,J) $为一个多尺度模糊决策形式背景。在给定尺度层级$ K=({l}_{1},{l}_{2},\cdots , {l}_{m}) $下，形成的单尺度模糊决策形式背景记为$ {S}^{K}=(U,{C}^{K},\tilde{{I}^{K}},D,J) $，其中$ {C}^{K}=\{a_{1}^{{l}_{1}},a_{2}^{{l}_{2}}, $ $ \cdots ,a_{m}^{{l}_{m}}\} $。 在$ {S}^{K} $中，若对于条件属性集$ {C}^{K} $所形成的任意等价类$ {R}_{c} $，都存在一个决策属性集$D $所形成的等价类$ {R}_{d} $使得$ {R}_{c}\subseteq {R}_{d} $，则称$ {S}^{K} $是一致的；否则，称$ {S}^{K} $是不一致的。
一致性判定表明，不同尺度层级下的单尺度模糊决策形式背景可能存在差异。尺度细化虽能增强条件属性刻画能力，但可能引入干扰，削弱其对决策属性的判别能力。因此，需要在保证一致性的前提下选择既保留判别信息又避免冗余的最优尺度层级。下面给出最优尺度选择的定义。
定义5 (Wu-Leung模型中的最优尺度[22]) 设$ S=(U $$ ,M,\{\tilde{{I}^{k}}\}_{k=1}^{l},D,J) $为一个多尺度模糊决策形式背景。若在尺度层级$K $下对应的单尺度模糊决策形式背景$ {S}^{K} $是一致的，而在后续尺度层级$ K+1 $下对应的$ {S}^{K+1} $(若存在)是不一致的，则称尺度$ K $为最优尺度。
通过最优尺度选择，可将多尺度信息映射为具有一致性的单尺度模糊决策形式背景，保证条件属性与决策属性的一致性，为概念构造与认知学习提供稳定基础。
在获得最优尺度对应的模糊决策形式背景之后，仍需进一步刻画不同条件属性在概念认知过程中的相对重要性。在复杂数据环境中，各属性对对象判别与概念形成的贡献程度往往存在显著差异，若在概念构造过程中对所有属性一视同仁，可能导致关键判别信息被弱化，从而影响认知学习的效果。
基于此，我们还需刻画条件属性在概念认知中的相对重要性，以突出关键判别信息。
2. 模糊概念注意力空间
2.1 模糊概念注意力空间的构造方法
在构造模糊概念注意力空间的过程中，首先需要计算条件属性的注意力权重。通常情况下，不同条件属性与不同决策属性之间的相似性存在差异，相似性越高的条件属性在分类过程中往往具有更高的重要性，因此应当赋予其更大的注意力权重。为了刻画条件属性与决策属性之间的相似性，设条件属性向量集合为$ \{{{\boldsymbol{b}}}_{1},{{\boldsymbol{b}}}_{2},\cdots ,{{\boldsymbol{b}}}_{{{n}_{1}}}\}, $决策属性向量集合为$ \{{{\boldsymbol{d}}}_{1},{{\boldsymbol{d}}}_{2},\cdots ,{{\boldsymbol{d}}}_{{{n}_{2}}}\} $。我们通过计算条件属性向量$ {{\boldsymbol{c}}}_{i} $与决策属性向量$ {{\boldsymbol{d}}}_{j} $的 Cosine 相似度，并利用Softmax 函数将相似度归一化为注意力权重，从而得到条件属性在决策属性下的重要性程度。具体地，条件属性$ {\boldsymbol{b}}_{i} $对决策属性$ {\boldsymbol{d}}_{j} $的注意力权重定义为
$$ {\boldsymbol{A}}_{ij}={\mathrm{Attention}}({\boldsymbol{b}}_{i}\mid {\boldsymbol{d}}_{j})={\mathrm{Softmax}} \left(\frac{{{\boldsymbol{b}}}_{i}\cdot {{\boldsymbol{d}}}_{\boldsymbol{j}}}{\| {{\boldsymbol{b}}}_{i}\| \| {{\boldsymbol{d}}}_{\boldsymbol{j}}\| }\right) $$ (3) 定义6 在决策类$ {\boldsymbol{d}}_{k} $中，设$ (X,\tilde{A}) $为一个模糊概念，记$ {\mathrm{Attention}}(M\mid {\boldsymbol{d}}_{k})={A}_{k} $为属性注意力程度向量，则$ (X,\tilde{A}) $的注意力程度定义为
$$ {\mathrm{Attention}}({X}, \tilde {A} ) = {A}{\mkern 1mu} \cdot {\mathrm{Attention}}{({M}\mid {{{\boldsymbol{d}}}_k})^{\mathrm{T}}} $$ (4) 模糊概念注意力机制如图1所示。
图 1 模糊概念注意力机制Fig. 1 Fuzzy conceptual attention mechanisms
下载:
全尺寸图片
基于定义6，可以进一步给出模糊概念注意力空间(fuzzy concept attention space，FCAS)的定义。模糊概念注意力空间由注意力程度超过给定阈值$ \delta (\delta \in [0,1]) $的面向对象模糊粒概念及其注意力程度所组成，表示为二元组的集合，即
$$ \begin{aligned}{\mathcal{G}}^{\delta }&=\{(H(F(x)),F(x),{\mathrm{Attention}}(H(F(x)),F(x)))\\ & | X\subseteq U, {\mathrm{Attention}}(H(F(x)),F(x))\geq \delta \} \end{aligned} $$ (5) 构造FCAS的方法如算法1所示。
算法1 构造模糊概念注意力空间
输入 最优尺度下的模糊决策形式背景$ {S}^{{{K}^{\ast }}}= (U,{C}^{{{K}^{\ast }}},{{\tilde I}^{{{K}^{*}}}},D,J) $；模糊概念注意力空间阈值$ \delta $。
输出 模糊概念注意力空间$\mathcal{G}_ * ^\delta = \{ {\mkern 1mu} \mathcal{G}_1^\delta ,\mathcal{G}_2^\delta , \cdots ,\mathcal{G}_r^\delta {\mkern 1mu} \} $。
1) 计算决策划分$ U/D=\{{D}_{1},{D}_{2},\cdots ,{D}_{r}\} $;
2) for each $ {D}_{i}\in U/D $ do
3) 令$ \mathcal{G}_{i}^{\delta }\leftarrow \mathbf{\varnothing } $；
4) for each$ x\in {D}_{i} $
5) 构造面向对象的模糊粒概念$\left( {{H}({F}(x)),{\mkern 1mu} {F}(x)} \right)$
6) 通过定义6计算其注意力${\mathrm{Attention}}\left( {H}({F}(x)), {F}(x) \right)$
7) If ${\mathrm{Attention}}\left( {{H}({F}(x)),{\mkern 1mu} {F}(x)} \right) \geqslant \delta $
8) $ \mathcal{G}_i^\delta \leftarrow \mathcal{G}_i^\delta \cup \left\{ {({H}({F}(x)),{F}(x)),{\mkern 1mu} {\mathrm{Attention}}({H}({F}(x))} \right\} $
9) end if
10) end for
11) end for
12) return $\mathcal{G}_ * ^\delta = \{ {\mkern 1mu} \mathcal{G}_1^\delta ,\mathcal{G}_2^\delta , \cdots ,\mathcal{G}_r^\delta {\mkern 1mu} \} $
2.2 构造伪模糊概念注意力空间
事实上，不同的模糊概念之间可能存在冗余与重叠信息，它们在一定程度上相互作用。为此，在本小节中，我们提出了如何基于FCAS构建伪模糊概念注意力空间(pseudo fuzzy concept attention space，PFCAS)，以缓解个体模糊概念表达上的局限性与认知的不完整性。首先，我们给出概念相似性的定义。
定义7 设$ (U,M,\tilde{I},D,J) $为一个模糊决策形式背景。在模糊概念注意力空间$ {\mathrm{FCA{S}}}^{\delta } $中，若$ ({X}_{1},\tilde{{A}_{1}}) $为一个模糊概念，$ ({X}_{2},\tilde{{A}_{2}}) $是其子概念，且它们对应的注意力权重分别为$ {\mathrm{Attention}}(H(F({X}_{1})), F({X}_{1})) $与$ {\mathrm{Attention}}(H(F({X}_{2})),F({X}_{2})) $， 则二者之间的相似度定义为
$$ {\theta }_{1,2}=\frac{|{X}_{1}\cap {X}_{2}|}{|{X}_{1}\cap {X}_{2}|+2\mu |{X}_{1}-{X}_{2}|} $$ (6) 其中$ \mu = |{\mathrm{Attention}}( H ( F( {X}_{1} )), F( {X}_{1} )) - $$ {\mathrm{Attention}} (H (F({X}_{2})), F({X}_{2}))| $。
显然，$ {\theta }_{1,2} $反映了模糊概念$({X}_{1},\tilde{{A}_{1}})$与$ ({{X}}_{2},\tilde{{{A}}_{2}}) $ 的相似程度。当$ {\theta }_{1,2} $越大时，二者之间的相似性越强；反之，当$ {\theta }_{1,2} $越小时，二者之间的相似性越弱。
定义8 设$ (U,M,\tilde{I},D,J) $为一个模糊决策形式背景。在模糊概念注意力空间$ {\mathrm{FCA{S}}}^{\delta } $中，若存在模糊概念
$$ \begin{aligned} & \left(X_1, \tilde{A}_1, {{\mathrm{Attention}} }\left(H\left(F\left(X_1\right)\right), F\left(X_1\right)\right)\right), \\ & \left(X_2, \tilde{A}_2, { {\mathrm{Attention}} }\left(H\left(F\left(X_2\right)\right), F\left(X_2\right)\right)\right), \\ &\qquad\qquad\qquad\quad \cdots, \\ & \left(X_n, \tilde{A}_n, {{\mathrm{ Attention}} }\left(H\left(F\left(X_n\right)\right), F\left(X_n\right)\right)\right) \end{aligned} $$ 满足$ {X}_{1} \subseteq {X}_{2} \subseteq \cdots \subseteq {X}_{n} $，其中$ ({X}_{n},\tilde{{A}_{n}}, $ $ {\mathrm{Attention}} (H(F({X}_{n})), F({X}_{n}))) $定义为该组的上界概念，并且对任意概念$ ({X}_{i},\tilde{{A}_{i}},{\mathrm{Attention}} $ $ (H(F({X}_{i})),F({X}_{i}))) $有$ {\theta }_{i,n} \gt \lambda $，则该组概念可生成一个伪模糊概念。我们称该集合为一个概念簇，其表示形式为
$$ {X}_{i,j}={X}_{1}\cup {X}_{2}\cup \cdots \cup {X}_{n} $$ (7) $$ \tilde{{A}_{i,j}}=\frac{1}{{2}^{\,n-1}}(\tilde{{A}_{1}}+\tilde{{A}_{2}}+2\tilde{{A}_{3}}+4\tilde{{A}_{4}}+\cdots +{2}^{\,n-2}\tilde{{A}_{n}}) $$ (8) 于是可得伪模糊概念三元组：$ ({X}_{i,j},\tilde{{A}_{i,j}}, $ $ (H(F({X}_{i,j})), F({X}_{i,j}))) $。
其中，注意力权重定义为$ {\mathrm{Attention}}(H(F({X}_{i,j})), F({X}_{i,j}))=\dfrac{1}{|M|}\displaystyle\sum\limits_{b\in M}\tilde{A{}_{i,j}}(b)\cdot $$ {\mathrm{Attention}}(H(F(b)),F(b)) $。在阈值$ \lambda $下构造得到的所有伪模糊概念集合称为伪模糊概念注意力空间，记为 $ \mathcal{G}_{\ast }^{\lambda }=\{\mathcal{G}_{1}^{\lambda },\mathcal{G}_{2}^{\lambda },\cdots ,\mathcal{G}_{r}^{\lambda }\}, $其中$ \mathcal{G}_{i}^{\lambda }= $$ \{(X_{i,j}^{\lambda },\tilde{A_{i,j}^{\lambda }}, $ $ {\mathrm{Attention}}(H(F(X_{i,j}^{\lambda })),F(X_{i,j}^{\lambda })))\mid j=1, 2,\cdots , t\} $，$ t $表示子空间$ \mathcal{G}_{i}^{\lambda } $中伪模糊概念的个数。
这些子概念的内涵根据其重要性被赋予不同的注意力权重。换句话说，一个子概念的外延越大，其重要性就越高，因此其内涵所对应的注意力权重也应当更大。算法2详细阐述了如何构建伪模糊概念注意力空间。
算法2 构造伪模糊概念注意力空间
输入 最优尺度下的模糊概念注意力空间$\mathcal{G}_ * ^\delta = \{ {\mkern 1mu} \mathcal{G}_1^\delta ,\mathcal{G}_2^\delta , \cdots ,\mathcal{G}_r^\delta {\mkern 1mu} \} $以及概念相似度阈值$ \lambda $。
输出 伪模糊概念注意力空间$\mathcal{G}_ * ^{\delta ,\lambda } = \{ {\mkern 1mu} \mathcal{G}_1^{\delta ,\lambda },\mathcal{G}_2^{\delta ,\lambda }, \cdots , \mathcal{G}_r^{\delta ,\lambda }{\mkern 1mu} \} $。
1) for each $ \mathcal{G}_{i}^{\delta }\in \mathcal{G}_{\ast }^{\delta } $ do
2) $ {P}_{i}\leftarrow \mathbf{\varnothing }, {L}_{i}\leftarrow \mathbf{\varnothing }, \tilde{{L}_{i}}\leftarrow \mathbf{\varnothing } $；
3) for each $ (H(F({x}_{j})),F({x}_{j}),{\mathrm{Attention}}(H(F({x}_{j})), F({x}_{j})))\in \mathcal{G}_{i}^{\delta } $ do
4) for each $ (H(F({x}_{k})),F({x}_{k}),{\mathrm{Attention}}(H(F({x}_{k})), F({x}_{k})))\in \mathcal{G}_{i}^{\delta } $ do
5) 设$ {L}_{i,j}\leftarrow \mathbf{\varnothing } $；
6) if $ (H(F({x}_{k})),F({x}_{k}))\subseteq (H(F({x}_{j})),F({x}_{j})) $ and $ {\theta }_{i,j}\geq \lambda $
7) $ {L}_{i,j} \;\leftarrow \;(H(F({x}_{k})),\;F({x}_{k}),\;{\mathrm{Attention}}(H(F({x}_{k})), $$ F({x}_{k}))) $
8) $ {P}_{i} \leftarrow {P}_{i}\cup \{(H(F({x}_{j})), F({x}_{j}), {\mathrm{Attention}}(H(F({x}_{j})), $$F({x}_{j})))\} $
9) end if
10) end for
11) end for
12) $ {L}_{i}\leftarrow {L}_{i,j} $
13) for each $ {L}_{i,m}\in {L}_{i} $ do
14) if 存在唯一概念$ (H(F({x}_{t})),F({x}_{t}),{\mathrm{Attention}} (H (F({x}_{t})),F({x}_{t})))\in {P}_{i} $，且$ {L}_{i,m} $中每个概念均为其子概念
15) $ \tilde{{L}_{i}}\leftarrow {L}_{i,m} $
16) end if
17) & end for
18) for each $ \tilde{{L}_{i,m}}\in \tilde{{L}_{i}} $
( 根据定义8计算伪模糊概念$ (X_{i,m}^{\lambda },\tilde{A_{i,m}^{\lambda }}, {\mathrm{Attention}}(H(F(X_{i,m}^{\lambda })),F(X_{i,m}^{\lambda }))) $;
) $ \mathcal{G}_{i}^{\delta ,\lambda }\leftarrow (X_{i,m}^{\lambda },\tilde{A_{i,m}^{\lambda }},{\mathrm{Attention}}(H(F(X_{i,m}^{\lambda })),F(X_{i,m}^{\lambda }))) $
19) end for
20) end for
21) return $\mathcal{G}_ * ^{\delta ,\lambda } = \{ {\mkern 1mu} \mathcal{G}_1^{\delta ,\lambda },\mathcal{G}_2^{\delta ,\lambda }, \cdots ,\mathcal{G}_r^{\delta ,\lambda }{\mkern 1mu} \} $.
3. 基于多尺度注意力的模糊概念认知学习机制
在PFCAS中，我们可以通过计算属性之间的欧氏距离来度量概念之间的相似性。距离越小，表示概念之间的相似性越大。因此，对于一个新加入的对象$ \Delta x $，可以计算其与伪模糊概念注意力空间$ \mathcal{G}_{\ast }^{\delta ,\lambda } $中各个概念之间的距离，并根据最小距离来确定$ \Delta x $所属的类别。
定义9 设$ (U,M,\tilde{I},D,J) $为一个模糊决策形式背景。对于新加入的对象$ \Delta x $，其相对于$ \tilde{I} $的隶属度向量记为$ \tilde{A} $。在伪模糊概念注意力空间$ \mathcal{G}_{i}^{\delta ,\lambda } $中，第$ j $个伪模糊概念表示为$ (X_{i,j}^{\delta ,\lambda },\tilde{A_{i,j}^{\delta ,\lambda }},{\mathrm{Attention}} $ $ (H(F(X_{i,j}^{\delta ,\lambda })),F(X_{i,j}^{\delta ,\lambda }))) $。 则$ \Delta x $与该伪模糊概念之间的欧氏距离定义为
$$ \begin{gathered} {\mathrm{ED}}(\Delta x,{X}_{i,j}^{\delta ,\lambda }) = \\ \sqrt { \sum\limits_{b \in M} ( {\mathrm{Attention}}({H}({F}({X}_{i,j}^{\delta , \lambda })), {F}({X}_{i,j}^{\delta ,\lambda }))(b){\mkern 1mu} (\tilde {A} (b) - {\tilde{A}_{i,j}^{\delta ,\lambda }} (b) ) {)^2}} \end{gathered} $$ (9) $ {\mathrm{ED}}(\Delta x,X_{i,j}^{\delta ,\lambda }) $表示$ \Delta x $与概念$ (X_{i,j}^{\delta ,\lambda },\tilde{A_{i,j}^{\delta ,\lambda }}) $的相似度。该值越小，相似性越高；该值越大，相似性越低。根据最小距离原则，可将$ \Delta x $判别到对应的类别中。算法3给出了在添加对象$ \Delta x $时对类标签的预测。
算法3 预测新对象$ \Delta x $的类别标签
输入 伪模糊概念注意力空间$ \mathcal{G}_{\ast }^{\delta ,\lambda }=\{\mathcal{G}_{1}^{\delta ,\lambda }, \mathcal{G}_{2}^{\delta ,\lambda },\cdots , \mathcal{G}_{r}^{\delta ,\lambda }\} $以及新对象$ \Delta x $。
输出 对象$ \Delta x $的类别标签$ d $。
1) for each $ \mathcal{G}_{i}^{\delta ,\lambda }\in \mathcal{G}_{\ast }^{\delta ,\lambda } $ do
2) for each $ (X_{i,j}^{\delta ,\lambda },\tilde{A_{i,j}^{\delta ,\lambda }},{\mathrm{Attention}}(H(F(X_{i,j}^{\delta ,\lambda })), F(X_{i,j}^{\delta ,\lambda })))\in \mathcal{G}_{i}^{\delta ,\lambda } $
3) 根据定义9计算$ {\mathrm{ED}}(\Delta x,X_{i,j}^{\delta ,\lambda }) $
4) end for
5) 取最短距离$ {s}_{i}=\min \left({\mathrm{ED}}(\Delta x,X_{i,j}^{\delta ,\lambda })\right) $，其中$ X_{i,j}^{\delta ,\lambda }\in \mathcal{G}_{i}^{\delta ,\lambda } $;
6) end for
7) 计算$ d= \mathop {\arg} \limits_{i=1,2,\cdots ,r}{\min }{s}_{i} $。
8) return $ \Delta x $的类别标签$ d $。
4. 实验分析
我们将对所提出的 MSA-CCL算法在模糊形式背景下的合理性与有效性进行验证。具体而言，我们将其与其他7种典型分类算法进行了准确率和F1得分的比较，并采用 Wilcoxon 检验对实验结果的显著性进行评估。本实验所使用的数据集主要来源于 UCI，相关的详细信息见表1。
表 1 MSA-CCL 模型实验数据集描述Table 1 Description of the experimental datasets description of the experimental datasets序号 数据集 样本量 属性数 类别数 1 Parkinsons 195 23 2 2 Glass 214 9 6 3 Breast-cancer 286 9 2 4 Monk-2 601 6 2 5 Tic-tac-toe 958 9 2 6 Wine-red 1518 11 3 7 Spam 4601 57 2 8 Twonorm 7400 20 2 9 Dry-bean 13611 17 7 4.1 实验设置
为了适应本文提出的模糊决策形式背景，在数据预处理阶段，需要对所有属性值进行归一化处理[23]，以确保其隶属度值落在$ [0,1] $区间内。具体归一化公式为
$$ \tilde{I}({x}_{i},{b}_{j})=\frac{f({{x}}_{i},{b}_{j})-\min (f({b}_{j}))}{\max (f({b}_{j}))-\min (f({b}_{j}))} $$ (10) 式中：$ f({x}_{i},{b}_{j}) $表示对象$ {x}_{i} $在属性$ {b}_{j} $下的原始取值；$ \min (f({b}_{j})) $与$ \max (f({b}_{j})) $分别表示属性$ {b}_{j} $在数据集中对应的最小值和最大值。经过归一化处理后，得到的$ \tilde{I}({x}_{i},{b}_{j}) $被作为对象$ {x}_{i} $在属性$ {b}_{j} $下的隶属度，用于后续的模糊概念认知学习与分类建模。
在本文所使用的数据集中，条件属性和决策属性最初均为单尺度形式。为了适配多尺度模糊决策形式背景，需要对其进行预处理并构造多尺度[24]。具体步骤如下。
1)对于条件属性$ b\in =M $，其第一个尺度可定义为
$$ {b}^{1}(x)=\left\lfloor \frac{b(x)-{m}_{b}}{{\mathrm{std}}(b)}\right\rfloor $$ (11) 式中：$ b(x) $表示对象$ x $在属性$ b $下的原始取值，$ {m}_{b} $ 和$ {\mathrm{std}}(b) $分别表示属性$ b $的最小值和标准差。
2)在得到第一个尺度后，其余尺度可通过合并部分属性值来获得。具体而言，在生成新的尺度时，仅需将前一尺度中的最小属性值替换为次小的属性值。设${{Y}^k} = \{ {\mkern 1mu} {b^k}(x)\mid x \in {U}{\mkern 1mu} \} $为属性$ b $在第$ k $个尺度下的取值范围，则$ b_{\min }^{k}=\min ({Y}^{k}) $，$ b_{\text{sec}\_ \text{min}}^{k}= $ $ \min ({Y}^{k}\backslash \{b_{\min }^{k}\}) $，因此，尺度递推的过程：
$$ {b}^{k+1}(x)=\begin{cases} b_{\text{sec}\_ \text{min}}^{k}, & {b}^{k}(x)=b_{\min }^{k}\\ {b}^{k}(x), & \text{其他} \end{cases} $$ (12) 即通过不断合并前一尺度中的最小两个值来生成新的尺度。
本文将所提出的 MSA-CCL 算法与 7 种主流分类方法进行对比实验。对比算法包括3种经典机器学习分类方法：KNN[25](K-nearest neighbors)、DT[26](decision tree)、NB[27](naive Bayes)；两种基于模糊形式背景的概念认知学习模型：DMPWFC[28](dynamic updating mechanism algorithm based on the progressive weighted fuzzy concept)、IFCRL[29](interval-intent fuzzy concept re-cognition learning model)；以及两种基于模糊的 KNN 算法： IFKNN[30](intuitionistic fuzzy K-nearest neighbors)、PFKNN[31](pruned fuzzy K-nearest neighbors)。为了保证实验结果的公平性和可靠性，每个数据集均按照80%∶20%的比例划分为训练集和测试集。所有实验均独立重复 10 次，并对结果取平均值和标准差，以减少统计误差对实验结果的影响。其中，机器学习类对比算法直接调用了 Sklearn 库中的源码，参数设置均采用默认配置；模糊 KNN 与概念认知学习相关算法按照各自文献中的描述进行实现与设置。实验环境为 Python 3.10，硬件平台为 Intel(R) Core(TM) i5-9300H CPU @ 2.40 GHz 处理器及 8 GB 内存，确保所有算法在相同条件下进行对比。
4.2 实验分析
根据式(11)~(12)挖掘了模糊形式背景下的多尺度信息，并结合条件属性与决策属性的一致性判断，采用最优尺度选择策略确定每个数据集的最优尺度层级。在所选的9个数据集上，最优尺度选择层级分别为：$ \left(3,5,5,3,1,1,2,1,1\right) $。随后，采用分类准确率和F1分数作为评估指标，对不同算法的性能进行了系统评估。MSA-CCL与7种经典分类算法在9个数据集上的详细实验结果如表2和表3所示。总体而言，相较于7种分类算法，MSA-CCL在所选数据集上的准确率和F1分数分别取得了6次和5次最佳表现。这说明MSA-CCL具备良好的知识表示能力，能够有效提升认知深度。此外，在与7种分类算法的对比实验中，MSA-CCL不仅在准确率和F1分数上表现突出，而且在标准差方面也更低，展现出较强的稳定性。这些结果表明，MSA-CCL具有优异的分类能力，能够适应不同特征的数据集。为了更直观地展示实验结果，绘制了条形图如图2，比较了各分类器在不同数据集上的准确率和F1分数，进一步凸显了MSA-CCL在分类性能上的显著优势。
表 2 MSA-CCL与7种分类算法的准确率(包括平均值±标准差)比较Table 2 Comparison of accuracy (including mean ± standard deviation) between MSA-CCL and 7 classification algorithms% ID MSA-CCL KNN DT NB DMPWFC IFCRL IF-KNN PFKNN 1 94.87± 3.6261 93.33± 2.3500 86.92± 3.7069 68.97± 5.8974 90.42± 4.2748 91.03± 5.9860 91.02± 4.0134 76.41± 6.4664 2 96.05± 2.9508 89.30± 2.9782 91.16± 5.0738 76.05± 9.3672 33.95± 7.2205 68.60± 4.4133 88.60± 3.8142 82.55± 5.7201 3 74.14± 4.3617 68.79± 3.5711 65.34± 5.1407 72.93± 4.0837 65.17± 5.2814 69.31± 3.0649 70.51± 5.2551 68.79± 8.1764 4 85.79± 2.1803 79.75± 2.2858 98.26± 1.7512 62.89± 3.9884 48.85± 5.1737 62.81± 2.6395 81.98± 3.1317 52.31± 3.5072 5 95.36± 0.8542 80.98± 2.7088 88.80± 3.0033 71.93± 3.7446 83.33± 2.3754 86.20± 1.9383 82.03± 2.9669 56.66± 2.7834 6 65.79± 3.1825 62.17± 2.4660 67.37± 1.5967 60.86± 2.6845 54.87± 4.6909 59.11± 2.7720 60.23± 2.7657 52.73± 1.7095 7 90.18± 1.0254 91.41± 0.9508 89.74± 0.8056 81.91± 0.6608 51.24± 2.4442 90.25± 0.9401 89.71± 0.8683 82.87± 0.9513 8 97.05± 0.6605 96.49± 0.5337 84.42± 0.4683 95.79± 0.3576 80.97± 1.2455 96.74± 0.3485 96.70± 0.4130 95.78± 0.3482 9 91.52± 0.6428 91.45± 0.7000 89.41± 0.8021 89.45± 0.5944 88.52± 0.7846 90.28± 0.6896 91.47± 0.5646 87.10± 0.3454 注：加黑表示最优结果。 表 3 MSA-CCL 与7种分类算法的F1分数(包括平均值±标准差)比较Table 3 Comparison of F1-score (including mean ± standard deviation) between MSA-CCL and 7 classification algorithms% ID MSA-CCL KNN DT NB DMPWFC IFCRL IF-KNN PFKNN 1 92.75± 8.0430 91.23± 3.0807 80.85± 4.6436 65.58± 5.8258 88.34± 5.2618 87.75± 7.8813 92.04± 4.8089 72.62± 5.0533 2 93.45± 5.3993 81.01± 8.7201 92.42± 7.2491 82.92± 4.5118 28.49± 6.8396 59.13± 4.8074 81.50± 6.5741 68.62± 9.3668 3 61.00± 6.7753 58.43± 4.6945 58.99± 5.4088 62.39± 7.2484 59.61± 11.3427 63.20± 4.7639 56.40± 7.3447 60.98± 4.3975 4 84.03± 2.6890 76.80± 4.4145 98.08± 1.9376 38.57± 1.5029 46.44± 6.4953 62.55± 2.6119 79.59± 3.9126 50.22± 3.8480 5 96.19± 1.5716 78.57± 1.9942 87.49± 3.6041 58.53± 4.1998 78.24± 3.6843 82.88± 2.0160 77.97± 2.8014 56.30± 2.0731 6 62.26± 3.8855 60.07± 2.8273 64.57± 2.5308 57.91± 2.8158 52.19± 4.6107 55.82± 1.9176 59.53± 2.3592 49.76± 3.0866 7 90.02± 0.9876 91.02± 1.0230 89.21± 0.8474 81.80± 0.6200 48.14± 3.1639 89.52± 1.0498 89.47± 0.8303 82.48± 1.2697 8 97.05± 0.6606 96.49± 0.5338 84.41± 0.4677 95.79± 0.3580 77.49± 2.6658 96.74± 0.3485 96.40± 0.4107 95.80± 0.2218 9 92.20± 0.5842 91.76± 0.5634 90.96± 0.6550 90.49± 0.5173 89.22± 0.7254 90.84± 0.6428 91.86± 0.5284 88.26± 0.3682 注：加黑表示最优结果。 
图 2 MSA-CCL 与7种分类算法在9个数据集上的分类性能对比Fig. 2 Comparison of the classification performance of MSA-CCL and seven classification algorithms on nine datasets下载:
全尺寸图片
为了检验MSA-CCL与其他分类算法之间的显著性差异，采用Wilcoxon配对检验(p值阈值设为0.05)。表4给出了MSA-CCL与其他算法在9个数据集上的平均排名以及Wilcoxon检验结果。由表中结果可见，MSA-CCL在准确率和F1分数上的平均排名分别为
1.4444 和1.5556 。此外，MSA-CCL与其他分类算法的Wilcoxon检验p值均小于0.05，表明MSA-CCL在统计上是有效的。综上所述，MSA-CCL是一种优秀的认知学习方法。表 4 8种分类算法的平均排名和Wilcoxon 检验结果Table 4 Average rankings of 8 classification algorithms and Wilcoxon test results排名/检测结果 MSA-CCL KNN DT NB DMPWFC IFCRL IF-KNN PFKNN 准确率排名 1.4444 3.4444 4.0000 5.4444 7.0000 4.1111 3.7778 6.6667 p(准确率) – 0.0137 0.0273 0.0019 0.0019 0.0039 0.0019 0.0019 F1分数排名 1.5556 3.7778 3.7778 5.8889 6.6667 4.1111 4.2222 6.0000 p(F1分数) – 0.0039 0.0195 0.0039 0.0019 0.0097 0.0019 0.0019 5. 结束语
概念认知学习是以概念为知识载体，旨在刻画和模拟人类的认知学习过程[32]。本文在模糊形式背景的基础上，提出了一种新的多尺度注意力模糊概念认知学习方法。与已有方法相比，本文的优势体现在3个方面：1)通过构建多尺度模糊决策形式背景并选择最优尺度，有效利用数据中的多尺度信息，提升模型的适应性与判别能力；2)在最优尺度下引入条件属性注意力机制，构建模糊概念注意力空间，从而突出关键属性的重要性，使其更符合人类认知特征；3)基于该空间生成伪注意力概念，通过计算新对象与伪概念的相似度实现分类与概念识别，显著提升性能。然而，本文仍存在局限，如在多尺度动态环境中如何高效更新伪模糊概念注意力空间，以及方法在多标签学习场景下的扩展仍需探索。未来工作将重点关注这些方向。
-
图 1 模糊概念注意力机制
Fig. 1 Fuzzy conceptual attention mechanisms
下载:
全尺寸图片
图 2 MSA-CCL 与7种分类算法在9个数据集上的分类性能对比
Fig. 2 Comparison of the classification performance of MSA-CCL and seven classification algorithms on nine datasets
下载:
全尺寸图片
表 1 MSA-CCL 模型实验数据集描述
Table 1 Description of the experimental datasets description of the experimental datasets
序号 数据集 样本量 属性数 类别数 1 Parkinsons 195 23 2 2 Glass 214 9 6 3 Breast-cancer 286 9 2 4 Monk-2 601 6 2 5 Tic-tac-toe 958 9 2 6 Wine-red 1518 11 3 7 Spam 4601 57 2 8 Twonorm 7400 20 2 9 Dry-bean 13611 17 7 表 2 MSA-CCL与7种分类算法的准确率(包括平均值±标准差)比较
Table 2 Comparison of accuracy (including mean ± standard deviation) between MSA-CCL and 7 classification algorithms
% ID MSA-CCL KNN DT NB DMPWFC IFCRL IF-KNN PFKNN 1 94.87± 3.6261 93.33± 2.3500 86.92± 3.7069 68.97± 5.8974 90.42± 4.2748 91.03± 5.9860 91.02± 4.0134 76.41± 6.4664 2 96.05± 2.9508 89.30± 2.9782 91.16± 5.0738 76.05± 9.3672 33.95± 7.2205 68.60± 4.4133 88.60± 3.8142 82.55± 5.7201 3 74.14± 4.3617 68.79± 3.5711 65.34± 5.1407 72.93± 4.0837 65.17± 5.2814 69.31± 3.0649 70.51± 5.2551 68.79± 8.1764 4 85.79± 2.1803 79.75± 2.2858 98.26± 1.7512 62.89± 3.9884 48.85± 5.1737 62.81± 2.6395 81.98± 3.1317 52.31± 3.5072 5 95.36± 0.8542 80.98± 2.7088 88.80± 3.0033 71.93± 3.7446 83.33± 2.3754 86.20± 1.9383 82.03± 2.9669 56.66± 2.7834 6 65.79± 3.1825 62.17± 2.4660 67.37± 1.5967 60.86± 2.6845 54.87± 4.6909 59.11± 2.7720 60.23± 2.7657 52.73± 1.7095 7 90.18± 1.0254 91.41± 0.9508 89.74± 0.8056 81.91± 0.6608 51.24± 2.4442 90.25± 0.9401 89.71± 0.8683 82.87± 0.9513 8 97.05± 0.6605 96.49± 0.5337 84.42± 0.4683 95.79± 0.3576 80.97± 1.2455 96.74± 0.3485 96.70± 0.4130 95.78± 0.3482 9 91.52± 0.6428 91.45± 0.7000 89.41± 0.8021 89.45± 0.5944 88.52± 0.7846 90.28± 0.6896 91.47± 0.5646 87.10± 0.3454 注：加黑表示最优结果。 表 3 MSA-CCL 与7种分类算法的F1分数(包括平均值±标准差)比较
Table 3 Comparison of F1-score (including mean ± standard deviation) between MSA-CCL and 7 classification algorithms
% ID MSA-CCL KNN DT NB DMPWFC IFCRL IF-KNN PFKNN 1 92.75± 8.0430 91.23± 3.0807 80.85± 4.6436 65.58± 5.8258 88.34± 5.2618 87.75± 7.8813 92.04± 4.8089 72.62± 5.0533 2 93.45± 5.3993 81.01± 8.7201 92.42± 7.2491 82.92± 4.5118 28.49± 6.8396 59.13± 4.8074 81.50± 6.5741 68.62± 9.3668 3 61.00± 6.7753 58.43± 4.6945 58.99± 5.4088 62.39± 7.2484 59.61± 11.3427 63.20± 4.7639 56.40± 7.3447 60.98± 4.3975 4 84.03± 2.6890 76.80± 4.4145 98.08± 1.9376 38.57± 1.5029 46.44± 6.4953 62.55± 2.6119 79.59± 3.9126 50.22± 3.8480 5 96.19± 1.5716 78.57± 1.9942 87.49± 3.6041 58.53± 4.1998 78.24± 3.6843 82.88± 2.0160 77.97± 2.8014 56.30± 2.0731 6 62.26± 3.8855 60.07± 2.8273 64.57± 2.5308 57.91± 2.8158 52.19± 4.6107 55.82± 1.9176 59.53± 2.3592 49.76± 3.0866 7 90.02± 0.9876 91.02± 1.0230 89.21± 0.8474 81.80± 0.6200 48.14± 3.1639 89.52± 1.0498 89.47± 0.8303 82.48± 1.2697 8 97.05± 0.6606 96.49± 0.5338 84.41± 0.4677 95.79± 0.3580 77.49± 2.6658 96.74± 0.3485 96.40± 0.4107 95.80± 0.2218 9 92.20± 0.5842 91.76± 0.5634 90.96± 0.6550 90.49± 0.5173 89.22± 0.7254 90.84± 0.6428 91.86± 0.5284 88.26± 0.3682 注：加黑表示最优结果。 表 4 8种分类算法的平均排名和Wilcoxon 检验结果
Table 4 Average rankings of 8 classification algorithms and Wilcoxon test results
排名/检测结果 MSA-CCL KNN DT NB DMPWFC IFCRL IF-KNN PFKNN 准确率排名 1.4444 3.4444 4.0000 5.4444 7.0000 4.1111 3.7778 6.6667 p(准确率) – 0.0137 0.0273 0.0019 0.0019 0.0039 0.0019 0.0019 F1分数排名 1.5556 3.7778 3.7778 5.8889 6.6667 4.1111 4.2222 6.0000 p(F1分数) – 0.0039 0.0195 0.0039 0.0019 0.0097 0.0019 0.0019 -
[1] 窦万春, 刘茜萍, 蔡士杰. 面向认知协作的知识流分析与研究[J]. 计算机研究与发展, 2006, 43(6): 1109−1114. DOU Wanchun, LIU Xiping, CAI Shijie. Cognitive-cooperation-oriented knowledge flow research[J]. Journal of computer research and development, 2006, 43(6): 1109−1114. [2] ZHU Xiubin, PEDRYCZ W, LI Zhiwu. Construction and evaluation of information granules: from the perspective of clustering[J]. IEEE transactions on systems, man, and cybernetics: systems, 2022, 52(3): 2024−2037. doi: 10.1109/TSMC.2020.3035605 [3] YUAN Kehua, MIAO Duoqian, PEDRYCZ W, et al. Multigranularity data analysis with zentropy uncertainty measure for efficient and robust feature selection[J]. IEEE transactions on cybernetics, 2025, 55(2): 740−752. doi: 10.1109/TCYB.2024.3499952 [4] 徐怡, 姚一豫. 划分序乘积空间: 基于划分的粒计算模型[J]. 计算机研究与发展, 2019, 56(4): 836−843. doi: 10.7544/issn1000-1239.2019.20180325 XU Yi, YAO Yiyu. Partition order product space: partition based granular computing model[J]. Journal of computer research and development, 2019, 56(4): 836−843. doi: 10.7544/issn1000-1239.2019.20180325 [5] 张文修, 吴伟志, 梁吉业, 等. 粗糙集理论与方法[M]. 北京: 科学出版社, 2001. [6] DING Juanjuan, ZHANG Chao, LI Deyu, et al. Three-way decisions in generalized intuitionistic fuzzy environments: survey and challenges[J]. Artificial intelligence review, 2024, 57(2): 38. doi: 10.1007/s10462-023-10647-5 [7] WILLE R. Concept lattices and conceptual knowledge systems[J]. Computers & mathematics with applications, 1992, 23(6/7/8/9): 493−515. doi: 10.1016/0898-1221(92)90120-7 [8] ZHANG Wenxiu, XU Weihua. Cognitive model based on granular computing[J]. Chin J Eng Math, 2007, 24(6): 957−971. doi: 10.1109/grc.2011.6122703 [9] KANG Xiangping, LI Deyu, WANG Suge, et al. Formal concept analysis based on fuzzy granularity base for different granulations[J]. Fuzzy sets and systems, 2012, 203: 33−48. doi: 10.1016/j.fss.2012.03.003 [10] HUANG Chenchen, LI Jinhai, MEI Changlin, et al. Three-way concept learning based on cognitive operators: an information fusion viewpoint[J]. International journal of approximate reasoning, 2017, 83: 218−242. doi: 10.1016/j.ijar.2017.01.009 [11] XU Weihua, GUO Doudou, QIAN Yuhua, et al. Two-way concept-cognitive learning method: a fuzzy-based progressive learning[J]. IEEE transactions on fuzzy systems, 2023, 31(6): 1885−1899. doi: 10.1109/TFUZZ.2022.3216110 [12] ZHANG Xiaoyan, GUO Doudou, XU Weihua. Two-way concept-cognitive learning with multi-source fuzzy context[J]. Cognitive computation, 2023, 15(5): 1526−1548. doi: 10.1007/s12559-023-10107-w [13] YAO Yiyu. Interpreting concept learning in cognitive informatics and granular computing[J]. IEEE transactions on systems, man, and cybernetics, part B (cybernetics), 2009, 39(4): 855−866. doi: 10.1109/TSMCB.2009.2013334 [14] SHI Yong, MI Yunlong, LI Jinhai, et al. Concurrent concept-cognitive learning model for classification[J]. Information sciences, 2019, 496: 65−81. doi: 10.1016/j.ins.2019.05.009 [15] MI Yunlong, SHI Yong, LI Jinhai, et al. Fuzzy-based concept learning method: exploiting data with fuzzy conceptual clustering[J]. IEEE transactions on cybernetics, 2022, 52(1): 582−593. doi: 10.1109/TCYB.2020.2980794 [16] LIU Zhiming, LI Jinhai, ZHANG Xiao, et al. Incremental incomplete concept-cognitive learning model: a stochastic strategy[J]. IEEE transactions on neural networks and learning systems, 2025, 36(1): 393−406. doi: 10.1109/TNNLS.2023.3333537 [17] WANG Jinbo, XU Weihua, DING Weiping, et al. Multiview fuzzy concept-cognitive learning with high-order information fusion of fuzzy attributes[J]. IEEE transactions on fuzzy systems, 2024, 32(12): 6965−6978. doi: 10.1109/TFUZZ.2024.3470794 [18] GUO Doudou, XU Weihua, QIAN Yuhua, et al. Fuzzy-granular concept-cognitive learning via three-way decision: performance evaluation on dynamic knowledge discovery[J]. IEEE transactions on fuzzy systems, 2024, 32(3): 1409−1423. doi: 10.1109/TFUZZ.2023.3325952 [19] WU Jiaming, TSANG E C C, XU Weihua, et al. Correlation concept-cognitive learning model for multi-label classification[J]. Knowledge-based systems, 2024, 290: 111566. doi: 10.1016/j.knosys.2024.111566 [20] ZHOU Yinfeng, YANG Hailong, LI Jinjin, et al. Skill assessment method: a perspective from concept-cognitive learning[J]. Fuzzy sets and systems, 2025, 508: 109331. doi: 10.1016/j.fss.2025.109331 [21] YAHIA S B, AROUR K, SLIMANI A, et al. Discovery of compact rules in relational databases[J]. Information Science Journal, 2000, 4(3): 497−511. [22] WU Weizhi, LEUNG Y. Theory and applications of granular labelled partitions in multi-scale decision tables[J]. Information sciences, 2011, 181(18): 3878−3897. doi: 10.1016/j.ins.2011.04.047 [23] 郭豆豆, 徐伟华. R-FCCL: 一种面向高维数据的稳健模糊概念认知学习方法[J]. 计算机研究与发展, 2025, 62(2): 383−396. doi: 10.7544/issn1000-1239.202330428 GUO Doudou, XU Weihua. R-FCCL: an approach of fuzzy-based concept-cognitive learning with robustness for high-dimensional data[J]. Journal of computer research and development, 2025, 62(2): 383−396. doi: 10.7544/issn1000-1239.202330428 [24] LI Feng, HU Bao qing. A new approach of optimal scale selection to multi-scale decision tables[J]. Information sciences, 2017, 381: 193−208. doi: 10.1016/j.ins.2016.11.016 [25] COVER T, HART P. Nearest neighbor pattern classification[J]. IEEE transactions on information theory, 1967, 13(1): 21−27. doi: 10.1109/TIT.1967.1053964 [26] SONG Yanyan, LU Ying. Decision tree methods: applications for classification and prediction[J]. Shanghai archives of psychiatry, 2015, 27(2): 130−135. [27] MURPHY K P. Naive bayes classifiers[J]. University of British Columbia, 2006, 18(60): 1−8. [28] ZHANG Chengling, TSANG E C C, XU Weihua, et al. Incremental concept-cognitive learning approach for concept classification oriented to weighted fuzzy concepts[J]. Knowledge-based systems, 2023, 260: 110093. doi: 10.1016/j.knosys.2022.110093 [29] DING Yi, XU Weihua, DING Weiping, et al. IFCRL: interval-intent fuzzy concept re-cognition learning model[J]. IEEE transactions on fuzzy systems, 2024, 32(6): 3581−3593. doi: 10.1109/TFUZZ.2024.3376569 [30] KUNCHEVA L. An intuitionistic fuzzy K-nearest neighbors rule[J]. Notes intuit fuzzy sets, 1995, 1: 56−60. doi: 10.1016/0165-0114(91)90029-p [31] ARIF M, AKRAM M U, MINHAS F A. Pruned fuzzy K-nearest neighbor classifier for beat classification[J]. Journal of biomedical science and engineering, 2010, 3(4): 380−389. doi: 10.4236/jbise.2010.34053 [32] 李金海, 闫梦宇, 徐伟华, 等. 概念认知学习的若干问题与思考[J]. 西北大学学报(自然科学版), 2020(4): 501−515. doi: 10.16152/j.cnki.xdxbzr.2020-04-001 LI Jinhai, YAN Mengyu, XU Weihua, et al. Some problems and thoughts on concept-cognitive learning[J]. Journal of Northwest University (natural science edition), 2020(4): 501−515. doi: 10.16152/j.cnki.xdxbzr.2020-04-001
