«上一篇
文章快速检索     高级检索
下一篇»
  智能系统学报  2019, Vol. 14 Issue (4): 787-792  DOI: 10.11992/tis.201806047
0

引用本文  

杨建平, 刘明华, 吕敬祥, 等. 低觉醒脑电识别与唤醒的可穿戴系统研究[J]. 智能系统学报, 2019, 14(4): 787-792. DOI: 10.11992/tis.201806047.
YANG Jianping, LIU Minghua, LYU Jingxiang, et al. A wearable system to recognize and awaken low-arousal state[J]. CAAI Transactions on Intelligent Systems, 2019, 14(4): 787-792. DOI: 10.11992/tis.201806047.

基金项目

国家自然科学基金项目(11761038);江西省教育厅科技项目(GJJ13542).

通信作者

杨建平. E-mail:yangjp9273@163.com

作者简介

杨建平,男,1970年生,副教授,主要研究方向为人工神经网络、模式识别、智能信息处理。发表学术论文20余篇;
刘明华,男,1975年生,副教授,博士,主要研究方向为非线性电路与系统、智能信息处理。发表学术论文近20篇;
吕敬祥,男,1977年生,讲师,博士,主要研究方向为无线传感网路由协议及数据融合。发表学术论文20余篇

文章历史

收稿日期:2018-06-30
网络出版日期:2018-12-20
低觉醒脑电识别与唤醒的可穿戴系统研究
杨建平 , 刘明华 , 吕敬祥 , 孔翠香 , 帅晓勇     
井冈山大学 电子与信息工程学院,江西 吉安 343009
摘要:为智能化地识别警戒作业人员出现的低觉醒、注意力下降的生理状态,本文介绍了一种基于FPGA和脑电信号处理的低觉醒状态检测与唤醒系统,系统通过传感器从大脑头皮采集脑电信号,转换为数字信号,经傅里叶变换获取了脑电信号的θ相对能量、α相对能量、重心频率、谱熵等4个特征量,由4个特征量表征低觉醒状态并运用支持向量机对低警戒状态进行识别,当识别出低觉醒状态时采用声音报警模块发出声音,唤醒警戒作业人员。设计系统能够较好地识别出低觉醒状态,识别率达90.8%,可为提高警戒作业工作绩效提供一种可穿戴的智能装备。
关键词现场可编程门阵列    脑电信号    低觉醒状态    警戒作业    支持向量机    相对能量    重心频率    谱熵    
A wearable system to recognize and awaken low-arousal state
YANG Jianping , LIU Minghua , LYU Jingxiang , KONG Cuixiang , SHUAI Xiaoyong     
School of Electronics and Information Engineering, Jinggangshan University, Ji’an 343009, China
Abstract: To intelligently identify the physiological state of vigilance workers with low awakening and low attention, this paper presents a monitoring and awakening system for low arousal/vigilance state based on the field-programmable gate array (FPGA) and electroencephalogram (EEG) signals processing. The system collects EEG signals from the scalp, converts the analog signals to digital signals, and then uses Fourier transform to calculate its power spectrum. The system subsequently acquires four eigenvectors—the relative energies of the θ and α, the gravity frequency, and the spectrum entropy—which are used to characterize the low arousal state, and on this basis, the support vector machine (SVM) is used to recognize the low arousal state. Once the low arousal state is identified, the SVM will awaken the vigilance worker using a sound alarm module. The system can effectively distinguish the low awakening state, and the recognition rate reaches 90.8%. Moreover, it can provide a wearable intelligent equipment to improve performance of vigilance operations.
Key words: field-programmable gate array (FPGA)    electroencephalogram    low arousal state    vigilance operation    support vector machine    relative energy    gravity frequency    spectrum entropy    

在现代化的机械设备中,智能化、自动化程度不断提升,机械设备的操作变得越来越简单,但操控机械设备时要求作业人员持续保持觉醒—警戒作业,如车辆驾驶、空中飞机作业、加工机械的操作与控制、自动化生产的实时监控等;在这类行业中,作业人员工作单调、乏味,容易导致生理疲劳、心理厌倦、注意力不集中,即处于低觉醒水平,对目标警戒能力下降。当警戒下降时,轻者只是绩效下降,重者会导致非常严重的事故,因而设计并生产智能化的、可穿戴的监测及唤醒设备对警戒作业人员状态进行识别,及时唤醒低觉醒状态对提高工作绩效、安全生产具有非常重要的意义。

采用恰当的低觉醒状态表现特征、在线测量并计算作业人员的状态特征、评估觉醒水平,是自动化生产中的一项重要课题[1]。目前类似研究主要有:1)借助提取呼吸信号和哈欠频繁次数等作为判定疲劳状态特征参数的实时监测系统[2-3];2)运用数字图像处理方法提取作业人员的面部表情来判断驾驶员是否处于觉醒状态的系统[4];3)采用眼电、心电、肌电等生理特征量的觉醒判别方法[5-7]; 4)结合眼动、方向盘转动及生理状态等疲劳作业特征的驾驶员精神状态的监测方法[8]。上述的众多研究中,呼吸信号、面部表情、方向盘转动等表现特征是觉醒水平下降的表现,但觉醒水平下降并不表明相应特征一定出现,用来表征低觉醒水平不够理想,另外通过图像采集相关特征的系统具有明显的滞后性,预警效果较差;眼电、心电、肌电等生理特征难于全面、恰当地评价人体的觉醒状态。脑电(electroencephalogram,EEG)信号被认为更适合作为觉醒状态检测的指标[9-10],具有无创性,能及时、准确地反映警戒人员的状态,是目前最客观、最常用的研究觉醒状态的生理指标。例如,当警戒作业人员的觉醒水平下降时,EEG信号也发生相应的变化,通过处理、分析作业人员的EEG信号可判断作业员是否处于觉醒状态,并在出现低觉醒状态时发出唤醒警告,促使作业人员保持觉醒状态。本文对警戒作业人员的EEG进行监控,提取EEG信号,用信号处理方法、模式识别手段,设计一种低觉醒状态的监测系统,对警戒作业人员的状态进行识别、报警及唤醒。

1 系统框架

现场可编程门阵列(field programmable gate array,FPGA)具有非常好的并行处理功能,已发展为一门与数字信号处理密切相关的技术,其多通道、实时性能够很好地满足EEG信号处理的要求[11]。在现代化装备上开发的EEG状态监控系统具有可穿戴性、操作简单,能够实时监测、改善作业人员的大脑精神状况。系统的硬件平台主要基于Alter公司的DE2开发板,开发板内部采用片上可编程系统(system-on-a-programmable-chip,SOPC) 技术把NiosⅡ软核处理器、存储器、功能接口以及扩展I/O口等部件集成在一块FPGA芯片上,在开发板的外围扩展脑电数据采集板、A/D转换器、SD存储卡等硬件设施来实现系统的硬件结构,另外还专门准备了可扩展的I/O接口,以备可能的监控系统功能升级及扩展应用。

状态监控系统主要分为单电极EEG信号采集、模数转换器、EEG信号处理模块、SVM特征识别模块以及语音报警模块,EEG信号处理模块主要通过频谱的计算获取4个EEG状态特征,组成特征向量,系统结构框图如图1所示。

Download:
图 1 系统框图 Fig. 1 System block diagram
2 低觉醒状态EEG信号采集及特征分析 2.1 单电极EEG信号采集端

单电极EEG信号采集相比多电极简单,更易于可穿戴化。EEG采集模板示意图如图2所示,通过置于头皮上的传感器从大量的噪声中提取微弱的脑电信号,采集过程中EEG信号处于极化电压、高频干扰、50 Hz工频等各种干扰,在模数转换前应设计前置放大电路、高通滤波器、低通滤波器和50 Hz 陷波器、20 000倍左右信号放大电路,整个电路需处于隔离电源电路的保护之下。

Download:
图 2 EEG采集模块示意图 Fig. 2 The schematic diagram of EEG signal collection
2.2 低觉醒单电极EEG信号的特征分析

人体处于不同的生理状态下EEG信号呈现出不同的特征,其中节律特征在目前各类研究中使用非常广泛,EEG信号的常用节律主要包括5种,分别占有不同的频带,即δ(0.5~4 Hz)、θ(4~8 Hz)、α(8~13 Hz)、β(13~25 Hz)和γ(>25 Hz)。当警戒作业员大脑处于完全放松或全神贯注等精神状态时多出现α节律,这时的大脑注意力集中,思维活跃,思路清晰、快捷,作业绩效高;而作业人员觉醒度下降甚至进入瞌睡状态时,EEG信号中的α节律能量减少,θ节律占明显优势(极度疲劳时还会产生更多的δ波)此时警戒作业中容易产生脱靶、漏靶现象。对比两种状态,由觉醒状态发展到低觉醒状态,EEG的主体节律频率下降,导致其频域中的众多特征发生变化,θ节律相对比重、α节律的相对比重、频谱曲线的重心、频谱曲线的结构都会产生变化,变化情况如表1如示,因此计算两状态中的4个特征并通过机器学习这些特征可以用来识别低觉醒状态。

表 1 觉醒与低觉醒状态的特征量对比 Tab.1 Compare the four characteristics of low arousal state and arousal state
3 单电极EEG信号处理模块的算法 3.1 频谱的计算

功率谱分析是EEG频域分析的经典方法,也是最基本的手段之一,它把大脑头皮电压的幅度随时间变化的波形转化为功率随频率分布的频谱图,能直观地分析EEG各节律(δθαβγ)的分布规律,是计算和分析各种频域特征量的基础。如图3所示为一模拟警戒作业中EEG功率谱(采样频率为100 Hz),表征了该EEG信号中各频率成分的分布特征。

Download:
图 3 警戒作业中的EEG功率谱 Fig. 3 The spectrum of EEG signal in the simulated vigilance operation

功率谱的计算主要由快速傅里叶变换(fast Fourier transform,FFT)实现,是一种快速计算离散傅里叶变换的算法,N点FFT计算出来的谱线亦为N(0~N−1)条,对于实信号(如采集的EEG信号),其谱线分布共轭对称,系统只需计算前N/2条,每条所对应的模拟频率为 $k\displaystyle\frac{{{f_s}}}{N}$ (k为第k条谱线), ${f_s}$ 为抽样频率,依此可得到EEG信号的各子节律信号。

3.2 脑电节律的相对能量

将功率谱序列按频率分段,获取θ频带和α频带的功率谱,并经重构(傅里叶逆变换)得到这个两节律的信号,由原EEG信号计算出总能量,两节律信号计算出θ波、α波能量,计算公式:

$E = \sum\limits_{i = 1}^N {{{\left| {{a_i}} \right|}^2}} $

式中 ${a_i}$ 为EEG信号或某一节律的第i个数据。为方便比较各节律的能量,计算它们占总能量的比例,即相对能量 ${e_i}$ ${e_i} = {E_i}/E$ E为EEG信号的总能量, ${E_i}$ 为某节律的能量, ${e_i}$ 为该节律的相对能量。

3.3 EEG信号频谱的重心

模仿物理学中计算物体重心的公式来计算EEG信号的重心频率:

${f_g} = \displaystyle\frac{{\sum\limits_{{f_i} = {f_1}}^{{f_2}} {[p(i) \times {f_i}]} }}{{\sum\limits_{{f_i} = {f_1}}^{{f_2}} {p(i)} }}$

式中: $p(i)$ ( $i = 1:N/2 $ )为功率谱序列; $ {f_i}(i = 1,2, \cdots ,$ $ N/2)$ 为各条谱线所对应的模拟频率,第i条谱线的模拟频率为 $ i\displaystyle\frac{{{f_s}}}{N}$ ${f_1} \sim {f_2} $ 为计算的频率范围,计算结果为 ${f_1} \sim {f_2} $ 频率区间内的重心频率;若取计算范围为 $ 0 \sim {f_s}/2$ ,则fg为整个EEG信号的重心频率。

3.4 EEG信号谱熵的计算

EEG信号的功率谱 $ p(i) = \left\{ {{p_1},{p_2}, \cdots ,{p_N}} \right\}$ 可以理解为对原EEG信号在频域的一种分布,即按照N个不同的频率分量对原时域EEG信号进行分割,对于不同状态的EEG信号后的各频率分量所占功率的比重不同,因而可借助信息熵的概念来描述特征。定义EEG信号的频域信息熵—谱熵为

$ H = - \sum\limits_{i = 1}^N {{q_i}{{\lg }}{q_i}}$

式中:qi为第i个功率分量 $p(i) $ 在整个谱中所占的百分比,即 ${q_i} = p(i)/\sum {p(i)} $ 。计算过程中,考虑EEG信号为实信号,而实序列的傅里叶变换具有共轭对称性,因而只需选用功率谱序列 $p(i) $ 的前面一半( $i = 0,1,2, \cdots ,N/2 - 1 $ )来计算EEG信号的谱熵。

3.5 两类EEG信号状态特征向量的获取

为智能化地从长时间EEG信号中识别低觉醒状态,应预先设计实验,采集、处理觉醒状态与低觉醒状态的两类EEG信号,并提供给系统学习,使其能够从长时间警戒作业的EEG信号中识别出低觉醒状态。

通过实验设计、实验过程、特征向量的计算,由模拟警戒实验获取两种状态的EEG特征向量。

1)实验设计:实验操作指令由事先编制的测试软件产生,软件运行时产生不同的警戒刺激(实验选用驾驶员交通标志图片,包括红、绿灯,左、右转弯等共10个图片),刺激图片随机地出现在屏幕中心,出现刺激的时间间隔亦为随机编制;为确保被试在整个实验进程中能够出现觉醒状态以及低觉醒状态,选择有午睡习惯的被试、在午餐后时段(13: 30~14: 30)进行实验,时间约60 min。

2)实验过程:运行编制软件开始实验,同时启动脑电仪采集EEG信号,采样频率为100 Hz。实验时要求被试注视电脑屏幕,眼睛距屏幕60 cm,根据屏幕中出现的警戒刺激的类型做出判断,依据不同的判断和所对应的“按键”在电脑键盘上完成按键操作,其中按键操作的反应时间、按键操作的正误都会被实验软件自动记录并保存起来;为减少判断低觉醒状态的“软件依赖”度,安排实验操作人员在一旁监视并记录被试出现的状态,最后综合实验操作员的监视和软件记录从采集的EEG信号中挑选出两种状态的EEG信号。

3)特征量的计算流程:①对挑选出的EEG信号,逐次采用矩形窗口进行截断,得长为256(方便FFT计算)点的EEG序列;②运用FFT逐次求得每段EEG序列的频谱数据;③由频谱数据分别计算重心频率、谱熵;④按EEG节律从频谱数据中分离θα频带,计算它们的相对能量;⑤将4个特征量组成一个特征向量,供SVM系统学习。经多次采集EEG信号实验,计算了320个特征向量,表2为从中抽取的10个特征向量及其对应的状态。

表 2 两种状态中4个特征量的实验对照值 Tab.2 Contrasts of the four characteristics about two states
4 SVM特征识别模块 4.1 识别模型

支持向量机(support vector machine,SVM)学习方法与神经网络、遗传算法、人工智能等其他学习方法相比,具有较好的推广能力和非线性处理能力,已在分类EEG信号、识别人脸、融合数据、估计函数等方面有广泛应用。SVM是由CORTES 等[12]根据统计学习理论提出的一种机器学习方法,已在小样本、非线性及高维模式识别中展现出独特的优势。使用SVM对被试各段EEG特征进行分类时,关键是构造一个判别函数,将预分类的EEG特征量尽可能地区分为觉醒状态类和低觉醒状态类,即由EEG的特征向量构造超平面 ${\omega ^ * }x + b = 0$ ,并获取最优判别函数:

$f(x) = \operatorname{sgn} \left\{ {\sum\limits_{i = 1}^m {a_i^ * {y_i}\varphi (x,{x_i}) + {b^ * }} } \right\}$ (1)

式中: $a_i^ * $ 为支持向量系数; ${b^ * }$ 为分类阈值;m为支持向量的个数。而对于线性不可分样本,则运用非线性变换映射到一个高维空间上,并在变换后的空间上求取一个最优的超平面,从而使得线性不可分样本变成线性可分样本,在高维空间计算时选取合适的核函数代替点积运算,再把状态分为两类:

$f(x) = \operatorname{sgn} \left\{ {\sum\limits_{i = 1}^m {a_i^ * {y_i}K(x,{x_i}) + {b^ * }} } \right\}$ (2)
4.2 SVM的核函数及相应参数

在使用SVM训练和测试样本时要选择合适的核函数,核函数的选取关系到SVM性能的好坏,这里选择使用最为广泛的径向基函数(radial Basis function,RBF)为核函数,它能够适用于低维或高维、小样本或大样本等各种情况,能够实现非线性映射,也具有较宽的收敛域,是一种理想的分类函数。

选取RBF核函数后,SVM性能的优劣还取决于两参数—宽度参数δ(控制函数的径向作用范围)和惩罚因子C,对于不同的一组(δC)可得到性能不同的SVM。为了获取δC最佳的参数组合,通过MATLAB软件编程并采用交叉验证方法[13]寻找最优的(δC),经过计算求得δ=3.8,C=4。

4.3 两类特征向量的训练与测试

图4所示为计算的EEG信号两类状态的4对特征量的盒式图,从图可以看出,4对特征量中的两个盒子都有一部分重叠,因而就单个特征量而言难于区分低觉醒状态和觉醒状态,识别率不高,采用将4个特征量组合成一个特征向量。

图4中的每个特征都有一定的区分度,可将4个特征合成一个特征向量,从而获得更高的区分度,更好地识别低觉醒状态。将实验获得的两类样本(4个特征量)选取80个EEG特征向量,作为SVM模式识别系统的训练集,将训练集输入SVM进行训练、学习,使系统获得识别两类样本特征向量的能力。另一方面,将实验计算的剩余240个特征向量组成测试样本,作为SVM模式识别系统的测试集。系统测试结果:240个样本中正确识别218个,识别率90.8%,与单个特征量相比识别率大幅提高。

Download:
图 4 特征向量的盒式图 Fig. 4 Boxplots of characteristics

表3给出了本文系统与其他类似系统的实验结果,从表中可以看出本文方法具有一定的优越性。

表 3 本文系统与其他类似系统的比较 Tab.3 Comparison of this system with the others
5 语音报警模块

当警戒作业人员出现低觉醒状态时,使用语音报警模块唤醒被监控者,以提升觉醒水平,其模块结构如图5所示,主要包括:1)低觉醒状态接收端,接收特征识别模块的脉冲信号;2)按键操控端,变换报警语音及音量等;3)智能语音芯片,语音报警模块的核心部分,选用PM50系列的智能语音芯片,由专用的语音单片机和FLASHRAM存储器集合构成;4)扩展功能端,供人性化、智能化设计时扩展功能使用;5)温馨报警提示,接收语音信号并发出温馨的报警声音。

Download:
图 5 语音报警模块 Fig. 5 The warning module of pronunciation

在整个设计过程中考虑了人性化、智能化、实用性的要求。使用前预先录制、编译并载入语音至报警模块,由录音设备录制的语音可以是时长为几秒至200 s的一个或多个片段,这些语音经过语音润色处理,增加人性化的工作环境。使用过程中,当低觉醒状态接收端获得高电平脉冲(当警戒作业人员出现低觉醒状态时,由特征识别模块输入)时,将其输入智能语音芯片,启动语音报警。

6 结束语

本文通过信号处理手段计算了警戒状态下被试EEG信号的θ相对能量、α相对能量、重心频率、谱熵等特征量,运用支持向量机识别低觉醒状态,能够在线处理EEG信号并对出现的低觉醒状态进行自动识别和报警提示。该监测与唤醒系统能够广泛应用于各类警戒作业中,切实提高自动化的生产效率,文中的数据也为表征警戒作业人员的低觉醒状态提供了一类客观、定量的指标。

参考文献
[1] 程文东, 付锐, 袁伟, 等. 驾驶人疲劳监测预警技术研究与应用综述[J]. 中国安全科学学报, 2013, 23(1): 155-160.
CHENG Wendong, FU Rui, YUAN Wei, et al. Overview of researches on driver fatigue monitoring and prewarning technologies and their applications[J]. China safety science journal, 2013, 23(1): 155-160. (0)
[2] 祝宇虹, 刘海平, 查富生, 等. 基于呼吸信号的驾驶员疲劳状态实时监测系统[J]. 江南大学学报(自然科学版), 2014, 13(1): 55-59.
ZHU Yuhong, LIU Haiping, ZHA Fusheng, et al. Real-time monitoring system for driver’s fatigue states based on respiratory signal[J]. Journal of Jiangnan University (natural science edition), 2014, 13(1): 55-59. DOI:10.3969/j.issn.1671-7147.2014.01.011 (0)
[3] 张淑清, 上官寒露, 袁计委, 等. 基于内禀模态能量比呼吸信号特征参数提取方法[J]. 仪器仪表学报, 2010, 31(8): 1706-1711.
ZHANG Shuqing, SHANGGUAN Hanlu, YUAN Jiwei, et al. Study on the extraction method of characteristic parameters of respiration signals based on intrinsic mode energy ratio[J]. Chinese journal of scientific instrument, 2010, 31(8): 1706-1711. (0)
[4] 杨英, 盛敬, 杨佳, 等. 基于神经网络的驾驶员觉醒水平双目标监测法[J]. 东北大学学报(自然科学版), 2007, 28(3): 418-421.
YANG Ying, SHENG Jing, YANG Jia, et al. Double-objective detection based on neural network for driver’s alert level[J]. Journal of Northeastern University (natural science), 2007, 28(3): 418-421. DOI:10.3321/j.issn:1005-3026.2007.03.029 (0)
[5] 高春芳, 吕宝粮, 马家昕. 一种用小波包变换提取眼电信号警觉度特征的方法[J]. 中国生物医学工程学报, 2012, 31(5): 641-648.
GAO Chunfang, LYU Baoliang, MA Jiaxin. A new method of extracting vigilant feature from electrooculography using wavelet packet transform[J]. Chinese journal of biomedical engineering, 2012, 31(5): 641-648. DOI:10.3969/j.issn.0258-8021.2012.05.001 (0)
[6] LEE B G, PARK J H, PU C C, et al. Smartwatch-based driver vigilance indicator with kernel-fuzzy-C-means-wavelet method[J]. IEEE sensors journal, 2016, 16(1): 242-253. DOI:10.1109/JSEN.2015.2475638 (0)
[7] BALASUBRAMANIAN V, ADALARASU K. EMG-based analysis of change in muscle activity during simulated driving[J]. Journal of bodywork and movement therapies, 2007, 11(2): 151-158. DOI:10.1016/j.jbmt.2006.12.005 (0)
[8] 齐晴, 高举, 王敏, 等. 融合视频与生物电信息的驾驶员状态监测与预警系统[J]. 工业控制计算机, 2016, 29(12): 71-73.
QI Qing, GAO Ju, WANG Min, et al. Driving state monitoring and warning system by video and bio-electricity information[J]. Industrial control computer, 2016, 29(12): 71-73. DOI:10.3969/j.issn.1001-182X.2016.12.032 (0)
[9] SUBASI A. Automatic recognition of alertness level from EEG by using neural network and wavelet coefficients[J]. Expert systems with applications, 2005, 28(4): 701-711. DOI:10.1016/j.eswa.2004.12.027 (0)
[10] RESALAT S N, SABA V. A practical method for driver sleepiness detection by processing the EEG signals stimulated with external flickering light[J]. Signal, image and video processing, 2015, 9(8): 1751-1757. DOI:10.1007/s11760-015-0760-x (0)
[11] BAKÓ L, GYÖRGY-MÓZES E, BRASSAI S T, et al. Neural network parallelization on FPGA platform for EEG signal classification[C]//Proceedings of the 6th Edition of the Interdisciplinarity in Engineering International Conference. Romania, 2012. (0)
[12] CORTES C, VAPNIK V. Support-vector networks[J]. Machine learning, 1995, 20(3): 273-297. (0)
[13] AN Senjian, LIU Wanquan, VENKATESH S. Fast cross-validation algorithms for least squares support vector machine and kernel ridge regression[J]. Pattern recognition, 2007, 40(8): 2154-2162. DOI:10.1016/j.patcog.2006.12.015 (0)
[14] 刘佳兴, 王炜. 基于多参数融合的疲劳驾驶监测及预警系统[J]. 计算机仿真, 2013, 30(5): 171-175, 207.
LIU Jiaxing, WANG Wei. Driver fatigue monitoring and warning system based on multi-parameter fusion[J]. Computer simulation, 2013, 30(5): 171-175, 207. DOI:10.3969/j.issn.1006-9348.2013.05.039 (0)