Доверие к нейросетям и подотчётность Искусственного Интеллекта

Нейросети в короткие сроки заняли доминирующие позиции среди моделей Искусственного Интеллекта (ИИ). Они выдают самые точные результаты и имеют способность к обучению. Скачок возможностей машинного разума на принципиально новый уровень произошёл благодаря именно нейронным сетям.

Непредсказуемость и сложность интерпретации нейросетей

Наряду с достоинствами, эти системы обладают одним значительным недостатком: объяснить работу глубоких нейросетей крайне сложно. Этот вопрос требует исследований.

Архитектура нейронной сети подобна тому, как это устроено в биологическом мозге. Имея несколько входов для исходных данных, каждый нейрон на выходе даёт только один сигнал, который, в свою очередь, может быть входным для нескольких других нейронов в следующем слое. Образующиеся связи имеют каждая свой вес (важность) и учитываются при обработке. Слоёв может быть множество.

Вот именно в таких глубоких нейросетях трудно отследить происхождение результата и все взаимодействия между элементами в процессе вычислений. Если сеть элементарная, то всё понятно, но если в ней присутствуют тысячи единиц на слой, а слоёв сотни, тогда всё становится совершенно не объяснимо. Поэтому многие боятся делать ставку на загадочные нейросети, предпочитая менее точные методы, но логичные и объяснимые.

Для того, чтоб заглянуть в мышление машины, где переплетается множество математических функций и переменных, применяются разные методики исследования. Но это лишь луч света в тёмном царстве.

Риск использования нейросетей

Математические модели нейронных сетей уже участвуют в различных жизненных сферах: кому выдать кредит, кого взять на работу или досрочно освободить. Неважно финансовое это решение или медицинское, или может быть военное, но рисковать и доверять результату из «чёрного ящика» чревато непредсказуемыми, ошибочными последствиями. Когда невозможно объяснить, проверить и обосновать вывод сети, встаёт вопрос о доверии.

Отчётность за результат

Уже сейчас предпринимаются попытки сделать такие системы подотчётными. Можно допросить Искусственный Интеллект или обязать оставлять краткие комментарии к результатам, обосновывающие их. Например, при анализе текста система выдаст куски, которые, по её мнению, наиболее значимы; при работе с изображениями важнейшие части объектов. Негативный аспект таких способов прояснения состоит в том, что аргументация ИИ всегда будет упрощена, а значит, могут быть потеряны важные сведения. Эти методики не интерпретируют Искусственный Интеллект полностью.

Непостижимость ИИ

Возможно, человечеству никогда не удастся постигнуть разум машины. Если не существует рационального объяснения Искусственного Интеллекта или интеллекта вообще, то остаётся попытаться понять его, как человек понимает животных или другого человека.

Китай: Искусственный Интеллект сдал экзамен на право быть доктором
Технологическая сингулярность: краткий компендиум
Нейросети: как они работают не знают даже учёные