人工智能 (AI) 已迅速普及。它为帮助我们驾驶车辆、校对电子邮件甚至设计新药物分子的模型提供动力。但就像人类一样，我们很难读懂人工智能的想法。可解释人工智能 (XAI) 是该技术的一个子集，它可以通过证明模型决策的合理性来帮助我们做到这一点。现在，研究人员正在使用 XAI 不仅更仔细地审查预测性人工智能模型，而且还更深入地研究化学领域。
研究人员将在美国化学学会 (ACS) 秋季会议上展示他们的研究成果。ACS 2024 秋季会议是一场线上线下混合会议，将于 8 月 18 日至 22 日举行；会议将有大约 10,000 场关于一系列科学主题的演讲。
人工智能的广泛用途使其在当今的技术领域几乎无处不在。然而，许多人工智能模型都是黑匣子，这意味着不清楚产生结果的具体步骤。当结果类似于潜在的药物分子时，不了解这些步骤可能会引起科学家和公众的怀疑。
作为科学家，我们喜欢论证。如果我们能提出一些模型，帮助深入了解人工智能如何做出决策，那么科学家可能会对这些方法更加满意。”
丽贝卡·戴维斯（Rebecca Davis），曼尼托巴大学化学教授
提供这种理由的一种方法是使用 XAI。这些机器学习算法可以帮助我们了解 AI 决策的幕后情况。尽管 XAI 可以应用于各种情况，但 Davis 的研究重点是将其应用于药物发现的 AI 模型，例如用于预测新抗生素候选物的模型。考虑到数千种候选分子可以被筛选并拒绝以批准一种新药 - 而抗生素耐药性对现有药物的疗效构成持续威胁- 准确而有效的预测模型至关重要。“我想使用 XAI 来更好地了解我们需要哪些信息来教计算机化学，” Davis 实验室的化学研究生 Hunter Sturm 在会议上介绍这项工作时说。
研究人员首先将已知药物分子的数据库输入 AI 模型，该模型可以预测某种化合物是否具有生物效应。然后，他们使用德国卡尔斯鲁厄理工学院的合作者 Pascal Friederich 开发的 XAI 模型来检查导致该模型做出预测的药物分子的特定部分。根据该模型，这有助于解释为什么某种分子具有活性或不具有活性，并帮助 Davis 和 Sturm 理解 AI 模型可能认为什么是重要的，以及它在检查了许多不同的化合物后如何创建类别。
研究人员意识到，XAI 能够发现人类可能错过的东西；它可以同时考虑比人脑多得多的变量和数据点。例如，在筛选一组青霉素分子时，XAI 发现了一些有趣的东西。“许多化学家认为青霉素的核心是抗生素活性的关键位点，”戴维斯说。“但这不是 XAI 看到的。”相反，它将附着在该核心上的结构确定为分类的关键因素，而不是核心本身。“这可能是一些具有该核心的青霉素衍生物表现出较差生物活性的原因，”戴维斯解释说。
除了识别重要的分子结构外，研究人员还希望利用 XAI 来改进预测性 AI 模型。“XAI 向我们展示了计算机算法对抗生素活性的重要性，”Sturm 解释道。“然后我们可以利用这些信息来训练 AI 模型，让它知道它应该寻找什么，”Davis 补充道。
接下来，该团队将与一家微生物实验室合作，合成并测试一些经过改进的 AI 模型预测可作为抗生素的化合物。最终，他们希望 XAI 能够帮助化学家创造更好的，或者完全不同的抗生素化合物，从而有助于遏制抗生素耐药性病原体的泛滥。
“人工智能给人们带来了很多不信任和不确定性。但如果我们能让人工智能解释它在做什么，这项技术被接受的可能性就会更大，”戴维斯说。
Sturm 补充说，他认为 AI 在化学和药物研发领域的应用代表了该领域的未来。“有人需要打下基础。这就是我希望做的。”
