На Ð¿Ñ€Ð°Ð²Ð°Ñ Ñ€ÑƒÐºÐ¾Ð¿Ð¸ÑÐ¸

требуется понимание лежащих в их основе физико-химических и биологических
явлений.
Действительно, наборы весовых коэффициентов нейросетей не могут
быть непосредственно использованы для интерпретации нейросетевых моделей,
поскольку их числовые значения, как правило, меняются при перестроении
последних и сильно зависят от особенностей архитектуры нейросетей, например,
от числа скрытых нейронов. Все это препятствует их непосредственному
использованию для описания моделей «структура-свойство» и «структураактивность»
на содержательном уровне.
Следует отметить, что задача интерпретации нейросетевых моделей осознана
специалистами в области искусственного интеллекта и частично решена
для случая бинарных нейросетей (в которых сигналы на входах и выходах принимают
только бинарные значения 0 и 1), для которых разработаны специальные
методики извлечения явных правил (типа если..., то...) из нейросетевых моделей
[16, 345-348], а также технология «вербализации», позволяющая в автоматическом
режиме давать словесное описание таким моделям [349]. Тем не
менее, проблема все еще оставалась неразрешенной для нейросетей с непрерывными
выходами, а именно такие нейросети используются для построения
количественных моделей «структура-свойство» и «структура-активность».
Единственным из применимых для этого случая подходов является т.н. анализ
«чувствительности» (sensitivity analysis), позволяющий определять относительную
важность входов нейросетей путем сравнения ошибок прогнозирования
исходной нейросети с ошибками прогнозирования обученных на этих же данных
других нейросетей, получаемых из исходной путем удаления по одному
каждого из входных нейронов [350]. В этом случае величина возрастания
ошибки при удалении входного нейрона определяет его важность (следовательно,
и важность соответствующего дескриптора при построении нейросетевых
моделей «структура-свойство» и «структура-активность»). Хотя такая характеристика
действительно очень важна, однако ее информативность явно уступает
тому, что дают методы статистического анализа (например, множественная
линейная регрессия, метод частичных наименьших квадратов и др.).
120