Интеллектуальные машины стремительно развиваются, однако их внутренний процесс принятия решений часто остается непрозрачным, представляя собой своего рода "черный ящик". Однако группа ученых из Боннского университета, во главе с профессором доктором Юргеном Байоратом, смогла сделать значительный прорыв в области объяснения работы некоторых систем искусственного интеллекта, используемых в фармацевтических исследованиях.
Исследование выявило, что модели искусственного интеллекта, используемые в фармацевтических исследованиях, в основном оперируют воспроизведением уже существующих данных, а не изучением конкретных химических взаимодействий для прогнозирования эффективности лекарств. Эти результаты были опубликованы в Nature Machine Intelligence.
В поиске эффективных активных веществ для лечения болезней исследователи сталкиваются с задачей выявления молекул лекарств, которые наилучшим образом связываются с целевыми белками в организме. Используя искусственный интеллект, такой как графовые нейронные сети (GNN), ученые стремятся предсказать эффективность соединений на основе их взаимодействий с целевыми белками.
Однако исследование показало, что некоторые GNN в значительной степени ориентируются на воспроизведение уже имеющихся данных, а не на более глубокое изучение химических взаимодействий. Анализ метода EdgeSHAPer, использованного в исследовании, позволяет лучше понять, как GNN формируют свои прогнозы. Ученые призывают к осторожности в отношении предположения о том, что ИИ способен анализировать физические величины на основе молекулярных графов, но считают, что разработка методов объяснения прогнозов сложных моделей ИИ является важным направлением исследований.