深度学习在药物设计与发现中的应用

Deep Learning in Drug Design and Discovery

药学学报，2019年，网络首发

李伟, 杨金才, 黄牛

北京生命科学研究所

瑞璞鑫(苏州) 生物科技有限公司

清华大学生物医学交叉研究院

在新药创制的药物设计与发现所采用的多种技术中, 深度学习仍处于初级阶段, 但近年来以其独有的特点, 开始应用于虚拟化合物库的生成, 化合物活性、代谢和毒性的预测, 以及有机合成反应预测等多个方面。

与传统的机器学习方法相比, 深度学习的预测能力无明显优势, 但其无需人工归纳总结数据特征, 而是具有学习能力, 自动提取特征。与基于第一性原理的计算化学相比, 深度学习虽然因为对标注明晰的大数据集的依赖, 存在泛化能力的不足, 但其以原子为中心进行卷积的表征开始助力计算化学。

深度学习作为新兴技术发展迅速, 不依赖于大量标注数据的非监督学习等方法在逐渐完善, 有望能更好地助力新发。

从20 世纪90 年代末到21 世纪初, 全球新发成功率持续下滑, 进入临床I 期的化合物90%都以失败告终。

2007 至2010 年间每年仅20 个左右的新药(指新分子实体, 下同) 获得FDA批准上市[1-3]。

面对每个新药平均20 亿美元的开发费用和10 年以上的研发周期[4,5], 各大制药公司寻求的突破口之一是开始从大众病转向专科病药物开发[2], 近年来新发成功率开始回升, 2017 年和2018 年FDA 批准的新药各达46个和59 个[6]; 另一个突破口则是寻找用于新发的新技术, 如高通量筛选[7]、DNA 编码化合物库[8]、计算机辅助药物设计[9]和人工智能[10]等。

得益于迅猛增长的计算能力和大数据集的兴起, 深度学习作为人工智能里机器学习的分支, 开始应用于生物医药领域[11-13]_ENREF_13, 其中先导化合物的发现与优化是进展最快的领域之一。

深度学习(deep learning) 是基于机器学习中的人工神经网络(artificial neural network, ANN) 发展而来。

McCulloch 等于1943 年最早提出采用数学模型模拟人类大脑的概念, 在此基础上, Rosenblatt 于1958 年首次发表了人工神经网络用于模式识别的算法, 而20 世纪70 年代初, Hiller 等[14]便已将其应用于药物设计。

早期人工神经网络只包含三层, 输入层、输出层以及中间的隐含层。单层隐含层表达能力有限, 只能应用于识别手写数字等简单任务中, 多层隐含层由于梯度消失等问题难以训练, 人工神经网络进展停滞[15]。

近年来,随着新方法的出现和计算能力的提升, 如图形处理器(graphics processing units, GPU) 的应用[16]等, 促使人工神经网络向深度学习发展。

2006 年, LeCun 和Hinton 等[17,18]在人工神经网络的基础上, 提出深度学习的算法, 用于数据的维度降低和特征提取。深度学习包含大量隐含层, 因此深度学习能够处理大量未经人工深度加工的数据, 通过不断学习从而自动提取特征来进行表征、模拟和分类。

深度学习的参数量巨大, 如果没有方法的改进, 即使使用GPU 也难以训练。

首先是使用ReLU 激活函数, 使梯度反向传播中不会随网络层数的增加而减小, 解决了梯度消失问题[15]; 其次是Mini-Batch 随机梯度下降法每次基于随机选取的小批量样本更新参数, 在收敛稳定性和收敛速度间取得平衡, 节约计算量, 同时解决大数据集无法同时加载到内存的问题; 最后是一系列正则化(regularization) 方法解决过度拟合的问题, 包括Dropout、L1 和L2 范数、数据增强等, 增加模型的泛化能力, 其中, Hinton 等[19]提出的Dropout 方法是神经网络特有的正则化方法, 在深度学习的训练中, 随机丢掉隐含层部分节点的输出, 从而避免前后神经元相互之间过于共适应, 在视觉、语言辨识和文件分类等多种测试场景中, 都达到显著减低过拟合风险的效果[20]。

深度学习需要大量数据作为训练集, 大数据使构建大规模高质量训练集成为可能。

Li 等[21]搭建的海量数据库ImageNet 是标志性事件。就先导化合物的发现与优化而言, 海量化合物数据是关键的大数据集[22]。ChEMBL 数据库[23]持续从已发表文献、公开的数据库和临床试验数据等多个渠道收集化合物信息, 截止ChEMBL_24, 数据库中有180 多万个不同结构的化合物, 1 500 多万个生物学活性数据点, 由100 多万种不同生物学测定方法产生, 覆盖12 000 多个生物学靶标,收集了近7 万篇文献。

除专注于小分子化合物的数据库, RCSB 数据库拥有接近13 万个生物大分子晶体结构, 其中蛋白质晶体结构数目达12 万个, 包含酶、G蛋白偶联受体和离子通道等[24], 其中蛋白和小分子的复合物结构可供深度学习对小分子和蛋白的分子识别模式进行训练。

除普适性的公众数据库, 还有多个专为深度学习而开发搭建的数据库_ENREF_30。

基于深度学习在图像处理上的强大能力, Image Library提供上万的化合物处理细胞后不同图像和形态学数据[25], 以供寻找新的药物作用新机制。

除此之外,工业界也逐渐提供内部的实验数据。阿斯利康的研发人员搭建了Chemistry Connect, 包含4 500 万个结构不同的化合物及对应的生物学或物化性质的数据, 其中1 亿5 千万个数据点都是来自阿斯利康内部的数据[26]。

不过现阶段用于深度学习的数据仍有不少问题。

首先, 已有的可供学习的新药数据有限, 目前只有1 600个左右被FDA批准的新药[27]。

其次, 由于各大制药公司对内部数据的产权保护, 公司之间以及与学术界的资源和数据共享, 仍处于起步阶段[28]。

再次, 不同测试方法产生的数据需要进一步的归纳分类。

最后, 来源于公开发表的文献和专利的数据质量参差不齐, 存在一定的错误信息和结论[29], 可能会误导深度学习。

深度学习擅长的是对已有知识的挖掘, 在海量的数据中寻找已有知识的关联性。

BenevolentAI 公司宣称基于其深度学习技术发现强生公司开发治疗注意缺陷多动障碍而失败的化合物Bavisant 对帕金森症患者的日间极度嗜睡症(EDS) 可能有疗效, 因此开展了Phase IIb 的验证性临床试验[30]_ENREF_30_ENREF_30。

除了基于文献专利等已公开数据的分析外, 来自杨森等公司和学校的研究人员利用传统的高通量筛选针对糖皮质激素受体的细胞模型筛选了50 万个化合物, 获得化合物的细胞表型图像数据, 生成基于图像的分子指纹, 同时结合化合物之前在500 多种不同靶标的筛选模型中测定的生物学活性作为训练集, 利用深度神经网络(deep neural networks, DNN) 进行训练, 然后可以根据化合物在糖皮质激素受体的细胞表型图像数据, 来预测化合物对其他不相关靶标的生物学活性数据, 从而发现新的活性化合物[31]。

这意味着单个高通量细胞表型图像筛选模型可以取代多个耗时耗力构建的特定靶标和通路的筛选模型, 显著降低人力和时间成本。Insilico Medicine 公司利用678 种不同药物分别处理3 种不同细胞系所获得的转录组数据, 与12 种不同治疗领域相关联, 用深度神经网络进行训练, 可以根据化合物的转录组数据来预测其可能的治疗领域,从而发现新的先导化合物或实现药物用途的重定向[32]。

定量构效关系(quantitative structure-activity relationship,QSAR) 从Hansch 等[33]开始, 已有50 多年的历史, 机器学习方法不断发展, 实用价值得到药物化学家的一定认可[34]。

但是QSAR受限于数据集的偏向性、参数选择不当、过拟合和模型缺乏解释等原因, 缺乏预测和指导能力[35,36]。

随着深度学习的兴起, 基于上世纪90 年代末就已运用于QSAR活性预测的神经网络发展而来的深度神经网络开始在药物研发领域发挥作用[37,38]。

默沙东研究组和多伦多大学合作开发的深度学习方法DNN, 与随机森林(random forest, RF) 相比,能更好地预测默沙东公司内部药物研发实践中多样性的化合物活性数据[39]; 基于深度卷积神经网络(deep convolutional neural networks, DCN) 的Chemception 在活性预测方面也表现较好, 无需提供传统QSAR 所需的分子描述符, 仅基于化合物本身自动提取相关特征[40]。

Korotcov 等[41]将深度神经网络与其他多种机器学习方法在药物研发的多个方面进行系统的比较, 所采用的数据集包括了细胞筛选的活性数据(如美洲锥虫病抑制剂筛选和恶性疟原虫抑制剂筛选)、单个蛋白的活性数据(如hERG 的抑制)、化合物物理化学性质(如溶解度) 等, 综合评分上深度神经网络的表现优于支持向量机(support vector machines, SVM), 而支持向量机又优于其他机器学习方法, 如线性回归分析(logistic linear regression, LLR) 和随机森林等。

相反的是, Russo 等[42]对比了深度神经网络与其他多种机器学习方法在预测化合物与雌激素受体结合能力的表现, 发现深度神经网络在非训练集的化合物活性预测能力上与朴素贝叶斯(Naive Bayes)、决策树(decision tree)、支持向量机和随机森林等多个传统的机器学习方法相比, 并无明显优势。

Raquel 等[43]根据高通量筛选的海量数据(53 个不同的靶标, 十万以上不同的化合物)构建了小分子-靶标的活性谱, 根据活性数据标注了活性和非活性化合物, 然后在深度学习和多种传统的机器学习上进行测试, 总体而言, 深度学习的预测准确度并没有优于随机森林和支持向量机等机器学习。

基于目前的研究程度, 虽然深度学习在图像识别上有一定优势, 但在其他多个方面, 譬如化合物活性预测等, 无法断言深度学习一定优于机器学习, 更多的还是依赖于数据集的广度和深度, 而不是算法本身[37]。

而且, 因为深度学习是自动从原始数据中提取特征, 某些特征可能并无明确的物理化学含义, 所以虽然能够避免人工偏向性以及减少人力成本, 但如果无法理解深度学习提取的特征所表征的含义, 就难以在药物研发过程中作出理性可靠的决策。

除了机器学习, 计算机技术运用于药物设计与发现中的还有基于第一性原理(first principle) 的计算化学。

药物与靶标的结合, 其本质是一个自由能驱动的物理学过程。

近年来, 计算能力的提高和新算法的发展, 对基于物理学原理的计算化学领域的发展有较大的推进作用, 譬如自由能微扰(free energy perturbation,FEP) 在某些生物体系能精确到1 kcal ·mol-1, 接近试验测量误差[44]。

因为深度学习本身也是基于计算,所以数据驱动的深度学习与基于物理学原理的计算化学方法或计算机辅助药物分子设计也有相互交叉。就技术成熟度曲线(hype cycle) 而言, 当前可用技术如计算化学已经历低谷, 成熟可用。

深度学习刚经过巅峰,渐渐在滑落去泡沫化低谷, 而深度学习用于药物设计还在促动期, 其与当前可用的其他技术相比, 优势和劣势需要进一步评估[45]。

基于靶标结构的药物设计需要依赖打分函数来预测小分子与蛋白的相互作用强弱。

传统的打分函数主要包括基于力场(force field-based)[46]、基于经验性函数(empirical-based)[47]和基于知识(knowledge-based)[48]。深度学习开始学习三维结构进行活性预测。

目前不同模型的差异主要来自两个方面: 一是训练集, 二是表征方法。

对于训练集, 分为实验获得的和通过传统分子对接预测的蛋白-配体复合体结构, 前者以PDBBind数据库[49]为代表, 数据更可靠, 但是数据量小; 后者可以产生大量结构数据用于训练, 但依赖于分子对接的准确度, 训练集中混入错误的配体结合构象会影响深度学习的表现。

表征方法大体分为两类: 一类是三维格点, 即把蛋白-配体复合体当作三维图像, 用计算机视觉中的三维卷积模型识别蛋白-配体结合模式; 另一类是以原子为中心进行卷积, 把邻接原子环境编码为原子环境向量来表示蛋白-配体结合模式。

前者有现成的计算机视觉领域的软件包可以借用, 方便做早期探索。

后者基于原子生成特征, 更适合表征原子-原子相互作用。以三维格点为表征的研究已较为广泛, 而以原子为中心进行卷积的表征近年来逐渐开展。

2007年, Behler 和Parrinello[50]开创性利用高斯径向函数和高斯角函数作为基组编码原子位置信息, 引入神经网络来表征量化计算密度泛函理论(density functional theory, DFT) 势能面, 比DFT 的计算要快上好几个数量级; 2017 年, ANI-1 更进一步, 使用修改后的2007 年Behler 和Parrinello 的对称函数建立单原子环境矢量(atomic environment vectors, AEV) 来表征分子, 所以深度学习可基于DFT 量化计算结果进行训练, 学习产生的ANI-1 可以计算比训练集所含体系更大的体系,而且和DFT 的量化计算准确程度基本一致, 但是速度要快得多, 有助于快速评估有机小分子的能量[51]。

正如DUD[52]已成为评估分子对接方法的常用测试集,MoleculeNet 也把目前已有的数据集、表征方式、网络模型都放到Github DeepChem上, 以供整个深度学习领域作为基准(Benchmark) 测试使用[53]。

20 世纪90 年代, 基于计算机的全新药物设计(De-novo drug design) 已有相关的文献报道[54], 包括人工神经网络的应用[55]。

全新药物设计已成为新发的重要手段[56], 但因为受限于分子生长和连接方式、成药性、合成难易及计算资源的问题, 全新药物设计能直接成功的案例并不多。

药物设计包括对药物分子结构的识别, 对药物分子合成路线的分析以及构效构性关系分析[57]。深度学习在多个方面的应用都已有相关文献报道。

7.1 新分子的生成及活性预测

循环神经网络(recurrent neural Network, RNN) 能够接受序列数据作为输入特征, 之前用于自然语言处理领域, 现在应用于生成新化合物结构。

Segler 与AstraZeneca 的研究人员合作, 以常见的SMILES 字符串格式表征化合物, RNN首先通过类似学习语言的方式学习大量的SMILES 文本是如何表征分子, 由此拟合出的模型可以生成全新的SMILES 字符串, 即全新的分子且无偏向性, 适用于虚拟筛选等各种用途; 其次再基于迁移学习(transfer learning), 将之前训练出的模型用某个针对性靶标的小分子数据集进行再度训练, 而且这个小分子数据集无需大量的数据; 然后对模型微调, 在针对两种病原菌的全新药物设计中, 产生的分子与真实世界中药物化学家设计的化合物能有部分重合[58]。

Schneider 等[59]搭建与上述原理类似的模型, 同时结合之前开发的靶标预测工具—SPiDER, 针对RXR和PPAR两个蛋白靶标, 实地合成了由深度学习自动设计的5 个排名靠前的全新分子, 发现其中4 个化合物在细胞活性显示纳摩尔到低微摩尔的水平[60]。

Olivecrona 等[61]进一步引入强化学习(reinforcement learning) 用于调整前述的RNN模型来保持整体一致性, 避免生成的分子逐渐偏离方向和重复生成相同分子, 并且具有预先指定的性质, 适用于药物设计中的骨架替换以及定向化合物库的生成。

匹配分子对(matched molecular pairs, MMP)分析是药物设计中重要的方法[62], 化合物同一骨架不同基团的取代时常会导致活性、溶解度、生物利用度和毒性等性质发生显著变化[63-65]。

Turk 等[66]将MMP 与深度学习相结合, 用逆合成分析的规则来判断和提取ChEMBL数据库中匹配分子对作为数据集, 利用DNN训练匹配分子对活性发生变化的模式, 从而根据所得的模型产生新的分子, 并预测其活性变化。

7.2 代谢及毒理预测

定量构性关系早已运用于预测化合物的毒性[67]。而基于经验规则也广泛运用, 如ToxAlerts 数据库收集大量已被文献报道的引起不良反应的分子或分子片段, 提示类似的分子可能引起相同或相似不良反应[68]。

深度学习在预测化合物代谢及毒理学性质方面也陆续展开研究与应用。Fernandez等[69]基于深度学习发展的预测化合物不良反应的方法, 基于化合物的二维结构图, 在Tox21 的数据集上对不良反应预测的准确度比肩目前其他机器学习方法[70]。

由于药物毒性常来自于药物在体内的活性代谢物, 如药物诱导的肝脏毒性[71]等, Hughes 等[72]基于深度学习开发了第一个可用于预测化合物是否会经过一步或两步形成醌从而潜在导致毒性的模型, 以及开发了用于预测化合物是否形成环氧化物从而潜在导致毒性的模型[73], 都整合在XenoSite 模块中(http://swami.wustl.edu/xenosite), 可用于快速筛选化合物潜在毒性。

同时, 深度学习方法也用于预测化合物的其他性质, 如Lusci 等[74]通过改进化合物的表征方式并结合深度学习中的递归神经网络(recursive neural network, RNN),开发了用于预测化合物溶解度的AquaSol, 其准确度与已有的计算方法相当。

7.3 化合物合成路线预测

目前合成路线的设计依赖于化学家的经验和知识, 最常用的策略是E. J. Corey提出的逆向合成[75]。

通过学习海量的专利及文献中的化学反应来预测化学反应, IBM公司将深度学习在语言分析中的算法转移到对化学反应的解构上, 从而把预测化学反应的问题转变为语言翻译的问题[76]。

Segler等[77]采用深度学习结合蒙特卡洛算法, 通过学习大量已经被多次验证过的化学反应后, 可采用逆向合成的策略来设计合成路线, 挑选出合适的起始原料。

更重要的是, 该方法比目前常用的计算机辅助合成路线设计方法要高效, 且在双盲测试中得到专业人员的肯定。

药物设计作为一门综合学科, 需要考虑化合物生物学活性、药代动力学、药效动力学、毒理学和物化性质等各方面的因素, 而有些因素并无清晰的判断标准,不同药物化学家对同一分子的评价也常常存在分歧[78], 这对于目前仍然需要明确数据标识的深度学习而言是较大的障碍。

目前的深度学习依赖于高质量有标识的大数据集, 这就要求数据点是清晰的, 同时是低成本的。

深度学习作为分析数据提出假说的工具, 最适用的领域是缺乏假说, 但同时又能以较低成本验证假说的领域, 因而验证体外活性和化学合成的预测可行性更大。

虽然目前深度学习的进展主要体现在监督学习, 但是发展的方向是不依靠大量标注数据的非监督学习[18]。用于非监督学习的新网络架构逐渐兴起, 如深度自动编码器网络(deep auto-encoder network, DEAN)和生成对抗网络(generative adversarial networks, GANs)等, 已开始应用于药物设计与发现[79]。

Kadurin 等[80]基于GANs 开发的druGAN 用于全新分子设计, 能处理大量数据集, 在生成分子所需特性上可调节性强, 以及更有效地对回归模型进行无监督预训练。

Altae-Tran等开发的迭代求精长短期记忆(iterative refinement long short-term memory) 新构架, 用于迁移学习, 无需大量数据集进行训练, 在Tox21 数据集[69]和SIDER 数据集[81]上表现良好[82]。非监督学习的一大优势即是降低对标注清晰的数据量的要求, 是深度学习的发展方向。

期待不断完善中的深度学习在真实世界的药物研发中发挥更加重要的作用。

详见原文，药学学报，2019年

本公众号发布的文章均为促进制药界同行的交流与学习；内容由小编查阅文献选取，排版与编辑为原创。如转载，请注明来源。

选取的文章已明确注明来源和作者，版权归原作者所有，如涉及作品内容、版权或其他问题，请联系我们进行删除。

文章内容为作者观点，不代表本公众号立场。

本公众号开通往期文章任意搜功能啦

在公众号菜单栏中输入“搜索”，即可搜索往期微信内容