随着电子病历的普及，电子病历系统累积的数据不断增加。电子病历中存储着大量医师记录的描述性信息，而非结构化文本，我们需要将这些复杂的非结构化文本信息转化为数值信息，才能对其进行有效二次利用，挖掘出潜在的医疗规律^[1]。近年来，机器学习和深度学习在医疗领域中的应用越来越多，如疾病预测和患者分类等^[2-3]。

有研究者针对非结构化文本空间向量转化的问题提出了一些解决方案，如Google在2013年提出了Word2vec模型，该模型采用连续词袋（continuous bag-of-words，CBOW）和Skip-gram 2种方式，在无监督的情况下可以将文本数据转化为空间词向量^[4]。Word2vec模型只利用上下文单词向量之和生成中心词的向量，或者利用中心词生成上下文单词向量，是一个针对通用常识文本的词向量转化模型，并没有针对医疗领域的特殊场景进行设计。因此，Word2vec模型不能准确地表达医疗场景下各医疗实体之间的关系。Glove是Pennington等^[5]在2014年提出的一个基于全局内一定窗口词对共现矩阵的词向量转化模型，该模型结合了中心词的上下文信息和全局词共现矩阵信息生成词向量，理论上可以产生更准确的词向量，但其因使用了全局信息而导致内存耗费巨大，而且它的实际表现并不尽如人意，因此并不及Word2vec模型普及。Choi等^[6-7]在2016年提出了Med2vec模型，这是一个专门为医疗实体设计的模型。但Med2vec也仅使用了类似Skip-gram的结构，同样没有很好地捕获各医疗实体之间的时序关系，所以转化出的向量准确性还有待提高。Cao等^[8]从中文文字笔画出发，提出了一种基于中文笔画信息的向量转化模型cw2vec，它借助笔画信息的n-grams抓住语义信息和汉字形态信息从而产生词向量。cw2vec的核心也是采用Skip-gram方式利用中心词预测上下文，不同的是它使用笔画的n-grams表示上下文，更适合中文信息的抽取，但它只能处理汉字，不能表示句子中的其他符号（如英文和标点符号等）。Zhao等^[9]将PubMed和DrugBank中的药物语料作为训练样本输入Skip-gram模型，并使用向量和频率的关系作为评估指标调整Skip-gram模型的参数，最终获得了较准确的药物向量。使用药物领域的语料和向量、频率之间的关系虽然可一定程度提高向量的准确性，但并没有从根本上改变生成向量的方式。

目前常用的深度学习模型中，循环神经网络（recurrent neural network，RNN）和卷积神经网络（convolutional neural network，CNN）有不错的特征提取能力，一直被研究人员广泛应用于文本和图像的特征提取^[10-11]。例如，RNN中的长短记忆神经网络（long short-term memory，LSTM）常被用在类似生成词向量的特征提取任务中^[12-13]。LSTM的缺点是其多个隐藏层的神经元值需要一层一层传递，不能进行大规模的并行运算，降低了计算能力。CNN通常被用来进行图像的分类和识别等任务^[14]，由于它可以通过卷积和池化策略达到提取特征的目的，近些年来也被用于自然语言处理任务。Zheng等^[15]在2017年提出了一种基于CNN的词向量转化模型，该模型使用CNN获取上下文特征信息，而非上下文相加的信息。CNN虽然可以做并行计算，但是不能捕获自然语言处理任务中长距离的特征关系，如在机器翻译中CNN只能捕获与要翻译的词距离相近的词之间的关系，不能得到距离更远的词对它的影响，从而导致翻译不准确^[16]。

注意力机制是一种抽取特征的重要方法，在神经机器翻译的编码解码过程中，基于注意力机制的Transformer结构可以准确地捕获长距离的依赖关系，产生更准确的翻译内容^[17]。在医疗领域，患者的每个诊疗事件都包含了多个医疗实体，如诊断、药物和检查等。在生成一个中心词医疗实体向量时，周围的医疗实体对中心词的作用不同，如某个诊断对词向量生成的影响较明显，而另外一个诊断和词向量生成的相关性较弱。本研究使用注意力机制捕获这种不同的作用，提出了Drug2vec模型，将非结构化电子病历中的医疗实体转化为向量。

系统性红斑狼疮（systemic lupus erythematosus，SLE）是一种累及全身多个器官和系统的自身免疫性疾病，常伴随多种并发症^[18]。本研究从13个SLE数据中心搜集了57 367份电子病历数据，包含了14 439例患者26 583次诊疗。本研究在这个数据集上测试了Drug2vec模型生成词向量的效果，并且与广泛应用的语言概念空间向量转化模型Word2vec和Med2vec进行对比。通过临床医师的解读，Drug2vec模型转化的向量相似度结果更具临床价值。

SLE病情的发展一般呈现由轻到重的趋势，逐步进展至累及全身多个器官和系统，大多数患者有多次就诊经历。本研究中使用的数据来自中国13家三甲医院14 439例SLE患者的住院记录，时间跨度为2001年10月28日至2017年3月31日。通过使用自然语言处理的方法从这些文本中提取患者的人口统计学信息（年龄、性别和婚姻状况）和药物等信息，构建临床活动表型数据。排除信息不合格病例220例，最终使用的数据集中包含了14 219例患者和10 469个医疗实体，其中药物实体963个、实验室指标实体35个、症状实体8 365个、诊断实体1 106个。

Word2vec模型的Skip-gram结构中，主要通过中心词产生上下文的词向量，中心词对上下文的每个词更新相同的值；CBOW结构中，通过对上下文向量求和产生中心词的词向量。这2种方式在修正词向量时都将上下文词视为同等重要，通过训练大规模数据获取准确的向量值。Word2vec模型的基本结构如图 1所示，其中e（t）表示中心词，e（t-2）、e（t-1）、e（t+1）、e（t+2）均表示其上下文词（Skip-gram结构中相同颜色表示相同的值，CBOW结构中不同颜色表示不同的值）。

图 1 Word2vec模型的基本结构 Fig 1 Basic structure of Word2vec model A: Skip-gram; B: CBOW. e (t): Target word; e (t-2), e (t-1), e (t+1), e (t+2): Contexts of the target word. The same color indicates the same value in the Skip-gram model, and the different colors indicate different values in the CBOW model. CBOW: Continuous bag-of-words

Med2vec模型分为2层：第一层用于捕获医疗实体之间的关系，第二层用于捕获诊疗事件序列之间的关系。该模型本质上采用的是Skip-gram结构，仍然认为周围词是同等重要的。Med2vec模型的基本结构如图 2所示，输入x_t表示患者1次就诊，|C|表示医疗实体总数，在1次就诊x_t中，每个医疗实体用0和1表示；输出的x_t-2、x_t-1、x_t+1、x_t+2表示就诊x_t的上下文信息；黑色粗箭头表示神经网络中信息的传递方向。

图 2 Med2vec模型的基本结构 Fig 2 Basic structure of Med2vec model The thick black arrows indicate the direction of information transmission in neural network. xt: A binary vector comprised of several medical codes; xt-2, xt-1, xt+1, xt+2: Contexts of xt; ReLU: Rectified linear unit; Wc, Wv: Weight of network; bc, bv: Biases of network; dt : A vector of demographic information; |C|: The number of all medical codes

在自然语言中，每个词对中心词的作用是不同的，因此Drug2vec模型中，上下文的每个词对中心词的更新值也不同，其基本结构如图 3所示，其中e（t）表示中心词向量，e（t-k）、…、e（t-2）、e（t-1）、e（t+1）、e（t+2）、…、e（t+n）分别表示上下文相关的实体向量。Event代表患者1次诊疗事件，中心词前面有k个向量，后面有n个向量，连接线的颜色深浅和粗细表示每个词对中心词的不同作用，颜色越深、连接线越粗表示它对中心词的影响越显著。

图 3 Drug2vec 模型的基本结构 Fig 3 Basic structure of Drug2vec model e (t): Target word; e (t－k), …, e (t－2), e (t－1), e (t＋1), e (t＋2), …, e (t＋n): Contexts of the target word; Event: A diagnesis and treatment event of patients. The darker the color and the thicker the connection line, the more significant the influence of the contextrelated words on the target word

Drug2vec模型使用注意力机制捕获患者各医疗实体之间的关系。其中注意力机制使用的是多头点乘注意力，如下公式：

其中Q、K、V分别表示查询向量、键向量和值向量，d_k表示Q、K或V的维度，除以d_k的平方根是防止QK^T过大Softmax函数进入饱和区而使梯度过小，T为向量矩阵计算过程中的转置符号。使用多个注意力头计算注意力时可以并行运算，加快计算速度。每一层都使用了残差连接以防止梯度消散。

为了捕获患者诊疗事件中各个医疗实体的相互关联信息，需要使用一个合适的损失函数。在Word2vec模型的Skip-gram结构中使用中心词生成上下文的词向量，输入为中心词的词向量，预测输出为上下文的词向量。在Drug2vec模型的输入序列中，患者1次诊疗中的医疗实体是没有前后顺序的，所以没有的固定的输入和输出之分。经过迭代训练得到向量矩阵W，W中的第i行即医疗实体集合中的第i个向量。因此，通过不断优化向量矩阵W得到最终的医疗实体向量。Drug2vec模型的损失函数使用log似然函数，其公式如下：

其中T表示某例患者的诊疗事件总数；t为计数变量，从1到T；e_i、e_j分别表示1次诊疗事件中的第i个和第j个医疗实体；E_t表示某例患者的第t个诊疗事件；P表示概率；W表示向量矩阵；all表示所有唯一性的医疗实体的总数；k为计数变量，从1到all。

所有模型的训练是在1台配置了2个英伟达TESLA P100显卡的CentOS服务器上进行的，显卡的显存都为16 G。Drug2vec模型使用TensorFlow1.8.0深度学习框架实现和训练^[19]。Drug2vec模型注意力机制中的注意力头个数是8个，词向量的维度是512。为了保持一致，Word2vec和Med2vec模型的词向量维度也均是512。Word2vec模型使用的是gensim3.6.0工具包，其中窗口大小为5，最小词频为5。

本实验指定了诊断这个分类中SLE作为中心词，通过计算药物向量和中心词的余弦相似值确定和SLE相关度较高的药物实体；同时筛选数据集中出现频率较高的药物实体，并记录其频数。与SLE相关度最高和数据集中出现频率最高的前10个药物实体见表 1。

表 1 (Tab 1)

表 1 与系统性红斑狼疮相关度和出现频率最高的前10个药物实体 Tab 1 Top 10 medication entities with highest correlation or frequency to systemic lupus erythematosus Rank Drug2vec Word2vec Med2vec Frequency Medication Cosine similarity Medication Cosine similarity Medication Cosine similarity Medication 1 0.92 Hydroxychloroquine sulfate tablets 0.68 Fluvoxamine maleate tablets 0.29 Cyclophosphamide injection 16 436 Hydroxychloroquine sulfate tablets 2 0.90 Prednisone acetate injection 0.67 Dexamethasone 0.24 Oxacillin sodium injection 16 558 Methylprednisolone sodium succinate injection 3 0.89 Methylprednisolone sodium succinate injection 0.66 Thiamazole tablets 0.23 Rebamipide tablets 12 629 Cyclophosphamide injection 4 0.88 Prednisone acetate tablets 0.66 Salvianolate injection 0.22 Oxytocin injection 12 095 Prednisone acetate injection 5 0.87 Calcium carbonate D3 tablets 0.65 Colquhounia root tablets 0.21 Heart saving pill 8 191 Calcium carbonate D3 tablets 6 0.86 Cyclophosphamide injection 0.65 Tripterygium wilfordii Hook. f. tablets 0.20 Compound reserpine tablets 7 386 Prednisone acetate tablets 7 0.81 Omeprazole enteric capsules 0.65 Prednisone 0.20 Prednisone acetate tablets 6 722 Calcitriol capsules 8 0.78 Calcitriol capsules 0.65 Omeprazole injection 0.17 Ferrous sulfate tablets 5 658 Omeprazole enteric capsules 9 0.69 Alfacalcidol soft capsules 0.64 Breviscapinun injection 0.17 Recombinant human insulin injection 3 564 Alfacalcidol soft capsules 10 0.69 Aspirin enteric-coated tablets 0.63 Cefoperazone sodium and tazobactam 0.16 Caltrate D 3 459 Aspirin enteric-coated tablets

表 1 与系统性红斑狼疮相关度和出现频率最高的前10个药物实体 Tab 1 Top 10 medication entities with highest correlation or frequency to systemic lupus erythematosus

SLE患者一般首选糖皮质激素治疗，如注射用醋酸泼尼松，但大部分患者病程中需要使用免疫调节药物（如硫酸羟氯喹等），若合并器官损伤和并发症还需使用更强效的免疫抑制剂（如环磷酰胺和吗替麦考酚酯片等）^[20-21]。由于糖皮质激素可能导致胃黏膜破坏和骨质疏松等，因此SLE患者往往还使用奥美拉唑肠溶胶囊和骨化三醇等辅助药物。

根据本实验数据，Drug2vec模型中前10个与SLE最相关的药物符合医师的用药顺序（从常用的糖皮质激素、免疫抑制剂到一些辅助药物），其中相关度最高的药物硫酸羟氯喹片是最常用的免疫调节药物。其次为注射用醋酸泼尼松、注射用甲泼尼龙琥珀酸钠、醋酸泼尼松片，三者均为常用的治疗SLE的糖皮质激素类药物。相关度排在第5位的药物是碳酸钙D3咀嚼片，作为一种补钙剂，其与相关度排在其后的骨化三醇胶丸和阿法骨化醇软胶囊常被用于治疗骨质疏松和骨软化症等疾病。奥美拉唑肠溶胶囊被用于治疗胃溃疡等疾病，也被用于治疗SLE相关器官损伤。

Word2vec模型训练出的相关度前10的药物实体虽然都是与SLE相关的药物，但是它们和SLE相关性不高，不仅缺乏一些通用的SLE治疗药物，排序也较为混乱。如缺少注射用醋酸泼尼松等糖皮质激素类药物及使用频率最高的药物硫酸羟氯喹片。马来酸氟伏沙明片（排第1位）属于精神病治疗药物，甲巯咪唑片（排第3位）用于治疗甲状腺病，丹参多酚酸盐注射液（排第4位）用于治疗心血管病，火把花根片（排第5位）和注射用灯盏花素（排第9位）都不是通用的SLE治疗药物，它们和SLE的相关性都比较弱，但在Word2vec模型中却排在了最相关的前10个药物中。

Med2vec模型训练出的相关度前10的药物实体中出现了一些和SLE相关性较强的药物，如注射用环磷酰胺和醋酸泼尼松片。但该模型排序混乱，醋酸泼尼松片排在第7位，而排在它之前的药物如注射用苯唑西林钠注射液（排第2位）属于抗感染药物，瑞巴哌特片（排第3位）用于治疗胃溃疡和胃炎，缩宫素注射液（排第4位）一般用于孕妇引产和催产等，救心丸（排第5位）常用于治疗心绞痛和心肌梗死等疾病，这些药物和SLE相关性都很弱。

从本实验计算的相关度可见，Word2vec模型中排在第1位的药物马来酸氟伏沙明片与中心词SLE的相关度为0.68，Med2vec模型中排在第1位的药物注射用环磷酰胺与SLE的相关度仅为0.29，而在Drug2vec模型中硫酸羟氯喹片与SLE的相关度达到了0.92。Word2vec模型计算出的前10个药物向量相关度不高的原因在于，使用Skip-gram结构时，中心词对上下文词更新同样的值；使用CBOW结构时，将上下文词的向量值进行简单求和获得中心词的词向量，因此生成的词向量边界不易区分，造成一些异质性的医疗概念模糊。Med2vec模型同样使用了Skip-gram结构训练诊疗事件序列，Word2vec模型中的窗口大小在最大窗口范围内随机变化，而Med2vec模型中的窗口大小固定，因此其词向量区分度也不高。Drug2vec模型基于注意力机制计算的方式解决了中心词对上下文词更新同样值的问题，使计算出的概念表示向量更加准确，所以最终的医疗实体向量有更高的区分度。

本实验中Drug2vec模型是建立在电子病历数据集的基础上，需要使用自然语言处理等技术从电子病历中抽取患者的表型信息，包括诊断、症状和药物等实体及患者诊疗的时序信息。患者的1次诊疗经历中多个医疗实体没有前后顺序信息，而1例患者的多次诊疗之间有时序信息，因此需将患者前后几次诊疗信息按照时间排列。最后将整理的数据集输入Drug2vec模型进行训练，得到实体向量之后通过计算向量之间的余弦相似值衡量实体与中心词之间的相关度。

本实验提出了一个新的药物实体向量生成模型Drug2vec，它是一个基于注意力机制的深度学习模型。相较于Word2vec和Med2vec，Drug2vec模型可以更精确地利用周边医疗实体修正中心词医疗实体向量。在一个真实世界的临床疾病数据集——SLE数据集中，我们对比测试了Drug2vec模型的性能，结果表明Drug2vec模型可以生成更精准的向量。未来，我们准备测试更多种类的医疗实体如诊断、实验室指标、症状和体征等，并将生成的向量应用到更多的场景，如SLE并发症预测和住院时间预测等。