在现代化的机械设备中,智能化、自动化程度不断提升,机械设备的操作变得越来越简单,但操控机械设备时要求作业人员持续保持觉醒—警戒作业,如车辆驾驶、空中飞机作业、加工机械的操作与控制、自动化生产的实时监控等;在这类行业中,作业人员工作单调、乏味,容易导致生理疲劳、心理厌倦、注意力不集中,即处于低觉醒水平,对目标警戒能力下降。当警戒下降时,轻者只是绩效下降,重者会导致非常严重的事故,因而设计并生产智能化的、可穿戴的监测及唤醒设备对警戒作业人员状态进行识别,及时唤醒低觉醒状态对提高工作绩效、安全生产具有非常重要的意义。
采用恰当的低觉醒状态表现特征、在线测量并计算作业人员的状态特征、评估觉醒水平,是自动化生产中的一项重要课题[1]。目前类似研究主要有:1)借助提取呼吸信号和哈欠频繁次数等作为判定疲劳状态特征参数的实时监测系统[2-3];2)运用数字图像处理方法提取作业人员的面部表情来判断驾驶员是否处于觉醒状态的系统[4];3)采用眼电、心电、肌电等生理特征量的觉醒判别方法[5-7]; 4)结合眼动、方向盘转动及生理状态等疲劳作业特征的驾驶员精神状态的监测方法[8]。上述的众多研究中,呼吸信号、面部表情、方向盘转动等表现特征是觉醒水平下降的表现,但觉醒水平下降并不表明相应特征一定出现,用来表征低觉醒水平不够理想,另外通过图像采集相关特征的系统具有明显的滞后性,预警效果较差;眼电、心电、肌电等生理特征难于全面、恰当地评价人体的觉醒状态。脑电(electroencephalogram,EEG)信号被认为更适合作为觉醒状态检测的指标[9-10],具有无创性,能及时、准确地反映警戒人员的状态,是目前最客观、最常用的研究觉醒状态的生理指标。例如,当警戒作业人员的觉醒水平下降时,EEG信号也发生相应的变化,通过处理、分析作业人员的EEG信号可判断作业员是否处于觉醒状态,并在出现低觉醒状态时发出唤醒警告,促使作业人员保持觉醒状态。本文对警戒作业人员的EEG进行监控,提取EEG信号,用信号处理方法、模式识别手段,设计一种低觉醒状态的监测系统,对警戒作业人员的状态进行识别、报警及唤醒。
1 系统框架现场可编程门阵列(field programmable gate array,FPGA)具有非常好的并行处理功能,已发展为一门与数字信号处理密切相关的技术,其多通道、实时性能够很好地满足EEG信号处理的要求[11]。在现代化装备上开发的EEG状态监控系统具有可穿戴性、操作简单,能够实时监测、改善作业人员的大脑精神状况。系统的硬件平台主要基于Alter公司的DE2开发板,开发板内部采用片上可编程系统(system-on-a-programmable-chip,SOPC) 技术把NiosⅡ软核处理器、存储器、功能接口以及扩展I/O口等部件集成在一块FPGA芯片上,在开发板的外围扩展脑电数据采集板、A/D转换器、SD存储卡等硬件设施来实现系统的硬件结构,另外还专门准备了可扩展的I/O接口,以备可能的监控系统功能升级及扩展应用。
状态监控系统主要分为单电极EEG信号采集、模数转换器、EEG信号处理模块、SVM特征识别模块以及语音报警模块,EEG信号处理模块主要通过频谱的计算获取4个EEG状态特征,组成特征向量,系统结构框图如图1所示。
Download:
|
|
单电极EEG信号采集相比多电极简单,更易于可穿戴化。EEG采集模板示意图如图2所示,通过置于头皮上的传感器从大量的噪声中提取微弱的脑电信号,采集过程中EEG信号处于极化电压、高频干扰、50 Hz工频等各种干扰,在模数转换前应设计前置放大电路、高通滤波器、低通滤波器和50 Hz 陷波器、20 000倍左右信号放大电路,整个电路需处于隔离电源电路的保护之下。
Download:
|
|
人体处于不同的生理状态下EEG信号呈现出不同的特征,其中节律特征在目前各类研究中使用非常广泛,EEG信号的常用节律主要包括5种,分别占有不同的频带,即δ(0.5~4 Hz)、θ(4~8 Hz)、α(8~13 Hz)、β(13~25 Hz)和γ(>25 Hz)。当警戒作业员大脑处于完全放松或全神贯注等精神状态时多出现α节律,这时的大脑注意力集中,思维活跃,思路清晰、快捷,作业绩效高;而作业人员觉醒度下降甚至进入瞌睡状态时,EEG信号中的α节律能量减少,θ节律占明显优势(极度疲劳时还会产生更多的δ波)此时警戒作业中容易产生脱靶、漏靶现象。对比两种状态,由觉醒状态发展到低觉醒状态,EEG的主体节律频率下降,导致其频域中的众多特征发生变化,θ节律相对比重、α节律的相对比重、频谱曲线的重心、频谱曲线的结构都会产生变化,变化情况如表1如示,因此计算两状态中的4个特征并通过机器学习这些特征可以用来识别低觉醒状态。
功率谱分析是EEG频域分析的经典方法,也是最基本的手段之一,它把大脑头皮电压的幅度随时间变化的波形转化为功率随频率分布的频谱图,能直观地分析EEG各节律(δ、θ、α、β、γ)的分布规律,是计算和分析各种频域特征量的基础。如图3所示为一模拟警戒作业中EEG功率谱(采样频率为100 Hz),表征了该EEG信号中各频率成分的分布特征。
Download:
|
|
功率谱的计算主要由快速傅里叶变换(fast Fourier transform,FFT)实现,是一种快速计算离散傅里叶变换的算法,N点FFT计算出来的谱线亦为N(0~N−1)条,对于实信号(如采集的EEG信号),其谱线分布共轭对称,系统只需计算前N/2条,每条所对应的模拟频率为
将功率谱序列按频率分段,获取θ频带和α频带的功率谱,并经重构(傅里叶逆变换)得到这个两节律的信号,由原EEG信号计算出总能量,两节律信号计算出θ波、α波能量,计算公式:
$E = \sum\limits_{i = 1}^N {{{\left| {{a_i}} \right|}^2}} $ |
式中
模仿物理学中计算物体重心的公式来计算EEG信号的重心频率:
${f_g} = \displaystyle\frac{{\sum\limits_{{f_i} = {f_1}}^{{f_2}} {[p(i) \times {f_i}]} }}{{\sum\limits_{{f_i} = {f_1}}^{{f_2}} {p(i)} }}$ |
式中:
EEG信号的功率谱
$ H = - \sum\limits_{i = 1}^N {{q_i}{{\lg }}{q_i}}$ |
式中:qi为第i个功率分量
为智能化地从长时间EEG信号中识别低觉醒状态,应预先设计实验,采集、处理觉醒状态与低觉醒状态的两类EEG信号,并提供给系统学习,使其能够从长时间警戒作业的EEG信号中识别出低觉醒状态。
通过实验设计、实验过程、特征向量的计算,由模拟警戒实验获取两种状态的EEG特征向量。
1)实验设计:实验操作指令由事先编制的测试软件产生,软件运行时产生不同的警戒刺激(实验选用驾驶员交通标志图片,包括红、绿灯,左、右转弯等共10个图片),刺激图片随机地出现在屏幕中心,出现刺激的时间间隔亦为随机编制;为确保被试在整个实验进程中能够出现觉醒状态以及低觉醒状态,选择有午睡习惯的被试、在午餐后时段(13: 30~14: 30)进行实验,时间约60 min。
2)实验过程:运行编制软件开始实验,同时启动脑电仪采集EEG信号,采样频率为100 Hz。实验时要求被试注视电脑屏幕,眼睛距屏幕60 cm,根据屏幕中出现的警戒刺激的类型做出判断,依据不同的判断和所对应的“按键”在电脑键盘上完成按键操作,其中按键操作的反应时间、按键操作的正误都会被实验软件自动记录并保存起来;为减少判断低觉醒状态的“软件依赖”度,安排实验操作人员在一旁监视并记录被试出现的状态,最后综合实验操作员的监视和软件记录从采集的EEG信号中挑选出两种状态的EEG信号。
3)特征量的计算流程:①对挑选出的EEG信号,逐次采用矩形窗口进行截断,得长为256(方便FFT计算)点的EEG序列;②运用FFT逐次求得每段EEG序列的频谱数据;③由频谱数据分别计算重心频率、谱熵;④按EEG节律从频谱数据中分离θ、α频带,计算它们的相对能量;⑤将4个特征量组成一个特征向量,供SVM系统学习。经多次采集EEG信号实验,计算了320个特征向量,表2为从中抽取的10个特征向量及其对应的状态。
支持向量机(support vector machine,SVM)学习方法与神经网络、遗传算法、人工智能等其他学习方法相比,具有较好的推广能力和非线性处理能力,已在分类EEG信号、识别人脸、融合数据、估计函数等方面有广泛应用。SVM是由CORTES 等[12]根据统计学习理论提出的一种机器学习方法,已在小样本、非线性及高维模式识别中展现出独特的优势。使用SVM对被试各段EEG特征进行分类时,关键是构造一个判别函数,将预分类的EEG特征量尽可能地区分为觉醒状态类和低觉醒状态类,即由EEG的特征向量构造超平面
$f(x) = \operatorname{sgn} \left\{ {\sum\limits_{i = 1}^m {a_i^ * {y_i}\varphi (x,{x_i}) + {b^ * }} } \right\}$ | (1) |
式中:
$f(x) = \operatorname{sgn} \left\{ {\sum\limits_{i = 1}^m {a_i^ * {y_i}K(x,{x_i}) + {b^ * }} } \right\}$ | (2) |
在使用SVM训练和测试样本时要选择合适的核函数,核函数的选取关系到SVM性能的好坏,这里选择使用最为广泛的径向基函数(radial Basis function,RBF)为核函数,它能够适用于低维或高维、小样本或大样本等各种情况,能够实现非线性映射,也具有较宽的收敛域,是一种理想的分类函数。
选取RBF核函数后,SVM性能的优劣还取决于两参数—宽度参数δ(控制函数的径向作用范围)和惩罚因子C,对于不同的一组(δ,C)可得到性能不同的SVM。为了获取δ和C最佳的参数组合,通过MATLAB软件编程并采用交叉验证方法[13]寻找最优的(δ,C),经过计算求得δ=3.8,C=4。
4.3 两类特征向量的训练与测试图4所示为计算的EEG信号两类状态的4对特征量的盒式图,从图可以看出,4对特征量中的两个盒子都有一部分重叠,因而就单个特征量而言难于区分低觉醒状态和觉醒状态,识别率不高,采用将4个特征量组合成一个特征向量。
但图4中的每个特征都有一定的区分度,可将4个特征合成一个特征向量,从而获得更高的区分度,更好地识别低觉醒状态。将实验获得的两类样本(4个特征量)选取80个EEG特征向量,作为SVM模式识别系统的训练集,将训练集输入SVM进行训练、学习,使系统获得识别两类样本特征向量的能力。另一方面,将实验计算的剩余240个特征向量组成测试样本,作为SVM模式识别系统的测试集。系统测试结果:240个样本中正确识别218个,识别率90.8%,与单个特征量相比识别率大幅提高。
Download:
|
|
表3给出了本文系统与其他类似系统的实验结果,从表中可以看出本文方法具有一定的优越性。
当警戒作业人员出现低觉醒状态时,使用语音报警模块唤醒被监控者,以提升觉醒水平,其模块结构如图5所示,主要包括:1)低觉醒状态接收端,接收特征识别模块的脉冲信号;2)按键操控端,变换报警语音及音量等;3)智能语音芯片,语音报警模块的核心部分,选用PM50系列的智能语音芯片,由专用的语音单片机和FLASHRAM存储器集合构成;4)扩展功能端,供人性化、智能化设计时扩展功能使用;5)温馨报警提示,接收语音信号并发出温馨的报警声音。
Download:
|
|
在整个设计过程中考虑了人性化、智能化、实用性的要求。使用前预先录制、编译并载入语音至报警模块,由录音设备录制的语音可以是时长为几秒至200 s的一个或多个片段,这些语音经过语音润色处理,增加人性化的工作环境。使用过程中,当低觉醒状态接收端获得高电平脉冲(当警戒作业人员出现低觉醒状态时,由特征识别模块输入)时,将其输入智能语音芯片,启动语音报警。
6 结束语本文通过信号处理手段计算了警戒状态下被试EEG信号的θ相对能量、α相对能量、重心频率、谱熵等特征量,运用支持向量机识别低觉醒状态,能够在线处理EEG信号并对出现的低觉醒状态进行自动识别和报警提示。该监测与唤醒系统能够广泛应用于各类警戒作业中,切实提高自动化的生产效率,文中的数据也为表征警戒作业人员的低觉醒状态提供了一类客观、定量的指标。
[1] |
程文东, 付锐, 袁伟, 等. 驾驶人疲劳监测预警技术研究与应用综述[J]. 中国安全科学学报, 2013, 23(1): 155-160. CHENG Wendong, FU Rui, YUAN Wei, et al. Overview of researches on driver fatigue monitoring and prewarning technologies and their applications[J]. China safety science journal, 2013, 23(1): 155-160. (0) |
[2] |
祝宇虹, 刘海平, 查富生, 等. 基于呼吸信号的驾驶员疲劳状态实时监测系统[J]. 江南大学学报(自然科学版), 2014, 13(1): 55-59. ZHU Yuhong, LIU Haiping, ZHA Fusheng, et al. Real-time monitoring system for driver’s fatigue states based on respiratory signal[J]. Journal of Jiangnan University (natural science edition), 2014, 13(1): 55-59. DOI:10.3969/j.issn.1671-7147.2014.01.011 (0) |
[3] |
张淑清, 上官寒露, 袁计委, 等. 基于内禀模态能量比呼吸信号特征参数提取方法[J]. 仪器仪表学报, 2010, 31(8): 1706-1711. ZHANG Shuqing, SHANGGUAN Hanlu, YUAN Jiwei, et al. Study on the extraction method of characteristic parameters of respiration signals based on intrinsic mode energy ratio[J]. Chinese journal of scientific instrument, 2010, 31(8): 1706-1711. (0) |
[4] |
杨英, 盛敬, 杨佳, 等. 基于神经网络的驾驶员觉醒水平双目标监测法[J]. 东北大学学报(自然科学版), 2007, 28(3): 418-421. YANG Ying, SHENG Jing, YANG Jia, et al. Double-objective detection based on neural network for driver’s alert level[J]. Journal of Northeastern University (natural science), 2007, 28(3): 418-421. DOI:10.3321/j.issn:1005-3026.2007.03.029 (0) |
[5] |
高春芳, 吕宝粮, 马家昕. 一种用小波包变换提取眼电信号警觉度特征的方法[J]. 中国生物医学工程学报, 2012, 31(5): 641-648. GAO Chunfang, LYU Baoliang, MA Jiaxin. A new method of extracting vigilant feature from electrooculography using wavelet packet transform[J]. Chinese journal of biomedical engineering, 2012, 31(5): 641-648. DOI:10.3969/j.issn.0258-8021.2012.05.001 (0) |
[6] | LEE B G, PARK J H, PU C C, et al. Smartwatch-based driver vigilance indicator with kernel-fuzzy-C-means-wavelet method[J]. IEEE sensors journal, 2016, 16(1): 242-253. DOI:10.1109/JSEN.2015.2475638 (0) |
[7] | BALASUBRAMANIAN V, ADALARASU K. EMG-based analysis of change in muscle activity during simulated driving[J]. Journal of bodywork and movement therapies, 2007, 11(2): 151-158. DOI:10.1016/j.jbmt.2006.12.005 (0) |
[8] |
齐晴, 高举, 王敏, 等. 融合视频与生物电信息的驾驶员状态监测与预警系统[J]. 工业控制计算机, 2016, 29(12): 71-73. QI Qing, GAO Ju, WANG Min, et al. Driving state monitoring and warning system by video and bio-electricity information[J]. Industrial control computer, 2016, 29(12): 71-73. DOI:10.3969/j.issn.1001-182X.2016.12.032 (0) |
[9] | SUBASI A. Automatic recognition of alertness level from EEG by using neural network and wavelet coefficients[J]. Expert systems with applications, 2005, 28(4): 701-711. DOI:10.1016/j.eswa.2004.12.027 (0) |
[10] | RESALAT S N, SABA V. A practical method for driver sleepiness detection by processing the EEG signals stimulated with external flickering light[J]. Signal, image and video processing, 2015, 9(8): 1751-1757. DOI:10.1007/s11760-015-0760-x (0) |
[11] | BAKÓ L, GYÖRGY-MÓZES E, BRASSAI S T, et al. Neural network parallelization on FPGA platform for EEG signal classification[C]//Proceedings of the 6th Edition of the Interdisciplinarity in Engineering International Conference. Romania, 2012. (0) |
[12] | CORTES C, VAPNIK V. Support-vector networks[J]. Machine learning, 1995, 20(3): 273-297. (0) |
[13] | AN Senjian, LIU Wanquan, VENKATESH S. Fast cross-validation algorithms for least squares support vector machine and kernel ridge regression[J]. Pattern recognition, 2007, 40(8): 2154-2162. DOI:10.1016/j.patcog.2006.12.015 (0) |
[14] |
刘佳兴, 王炜. 基于多参数融合的疲劳驾驶监测及预警系统[J]. 计算机仿真, 2013, 30(5): 171-175, 207. LIU Jiaxing, WANG Wei. Driver fatigue monitoring and warning system based on multi-parameter fusion[J]. Computer simulation, 2013, 30(5): 171-175, 207. DOI:10.3969/j.issn.1006-9348.2013.05.039 (0) |