Доверие к нейросетям и подотчётность Искусственного Интеллекта

Нейросети: как они работают не знают даже учёные
Нейросети: как они работают не знают даже учёные
17.12.2017
Биткоин сорвался в крутое пике после пробития отметки 19 тыс. долларов
Биткоин сорвался в крутое пике после пробития отметки 19 тыс. долларов
23.12.2017
Доверие к нейросетям и подотчётность Искусственного Интеллекта

Нейросети в короткие сроки заняли доминирующие позиции среди моделей Искусственного Интеллекта (ИИ). Они выдают самые точные результаты и имеют способность к обучению. Скачок возможностей машинного разума на принципиально новый уровень произошёл благодаря именно нейронным сетям.

Непредсказуемость и сложность интерпретации нейросетей

Наряду с достоинствами, эти системы обладают одним значительным недостатком: объяснить работу глубоких нейросетей крайне сложно. Этот вопрос требует исследований.

Архитектура нейронной сети подобна тому, как это устроено в биологическом мозге. Имея несколько входов для исходных данных, каждый нейрон на выходе даёт только один сигнал, который, в свою очередь, может быть входным для нескольких других нейронов в следующем слое. Образующиеся связи имеют каждая свой вес (важность) и учитываются при обработке. Слоёв может быть множество.

Вот именно в таких глубоких нейросетях трудно отследить происхождение результата и все взаимодействия между элементами в процессе вычислений. Если сеть элементарная, то всё понятно, но если в ней присутствуют тысячи единиц на слой, а слоёв сотни, тогда всё становится совершенно не объяснимо. Поэтому многие боятся делать ставку на загадочные нейросети, предпочитая менее точные методы, но логичные и объяснимые.

Для того, чтоб заглянуть в мышление машины, где переплетается множество математических функций и переменных, применяются разные методики исследования. Но это лишь луч света в тёмном царстве.

Риск использования нейросетей

Математические модели нейронных сетей уже участвуют в различных жизненных сферах: кому выдать кредит, кого взять на работу или досрочно освободить. Неважно финансовое это решение или медицинское, или может быть военное, но рисковать и доверять результату из «чёрного ящика» чревато непредсказуемыми, ошибочными последствиями. Когда невозможно объяснить, проверить и обосновать вывод сети, встаёт вопрос о доверии.

Отчётность за результат

Уже сейчас предпринимаются попытки сделать такие системы подотчётными. Можно допросить Искусственный Интеллект или обязать оставлять краткие комментарии к результатам, обосновывающие их. Например, при анализе текста система выдаст куски, которые, по её мнению, наиболее значимы; при работе с изображениями важнейшие части объектов. Негативный аспект таких способов прояснения состоит в том, что аргументация ИИ всегда будет упрощена, а значит, могут быть потеряны важные сведения. Эти методики не интерпретируют Искусственный Интеллект полностью.

Непостижимость ИИ

Возможно, человечеству никогда не удастся постигнуть разум машины. Если не существует рационального объяснения Искусственного Интеллекта или интеллекта вообще, то остаётся попытаться понять его, как человек понимает животных или другого человека.

Китай: Искусственный Интеллект сдал экзамен на право быть доктором
Технологическая сингулярность: краткий компендиум
Нейросети: как они работают не знают даже учёные

6 Комментарии

  1. adianon:

    Искусственный интеллект с полным пониманием себя ещё не создан, а уже он что то кому то должен, надо для начала поговорить о людях — своей памяти сильно доверяете, а человеку рядом сильно доверяете, а отчёт требовать с вас надо за мысли и действия?

  2. Вацлав:

    Верить искусственному разуму? Человечество еще не готово к этому, не готово использовать искусственный интеллект в своих целях, благородных. В первую очередь. как и все новое и прогрессивное нейросети будут применяться для военных целей.

  3. Андрей:

    С одной стороны — как человечество могло создать то, что не может понять?
    А с другой — я совершенно не волнуюсь за нейросети, так как человек всё ещё на шаг впереди машин. 

  4. Елена:

    У меня не может «уместиться» в голове выражение «искусственный интеллект».
    Серьёзно! Роботы не могут мыслить свободно, они не имеют всего диапазона мыслей. Они могут «выдать» только заданную (запрограммированную) мысль, команду. Какой-то абсурд!

  5. Анастасия:

    Интересная, информативная статья ! Хочется верить, что Искусственный Интелект все же постижим, так как это предоставит огромные возможности современной науке.

  6. Dzmitrij:

    У меня тоже не умещается в голове всё, что говорят о ИИ. Всё кажется, что это шутка. Но так же непонятно и что такое бессознательное, и кто Бог, и что такое рай, ад. Многие говорят легко об этом, как будто знают, а я не понимаю почему у разных религий такие разные описания этих понятий. Или инопланетяне, читал книгу серьёзного военного человека. Он говорит,что военные всех ведущих армий мира контактируют с пришельцами, что это давно общеизвестно в их кругах. Мир странный.

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

Shared By