Нейросети в короткие сроки заняли доминирующие позиции среди моделей Искусственного Интеллекта (ИИ). Они выдают самые точные результаты и имеют способность к обучению. Скачок возможностей машинного разума на принципиально новый уровень произошёл благодаря именно нейронным сетям.
Наряду с достоинствами, эти системы обладают одним значительным недостатком: объяснить работу глубоких нейросетей крайне сложно. Этот вопрос требует исследований.
Архитектура нейронной сети подобна тому, как это устроено в биологическом мозге. Имея несколько входов для исходных данных, каждый нейрон на выходе даёт только один сигнал, который, в свою очередь, может быть входным для нескольких других нейронов в следующем слое. Образующиеся связи имеют каждая свой вес (важность) и учитываются при обработке. Слоёв может быть множество.
Вот именно в таких глубоких нейросетях трудно отследить происхождение результата и все взаимодействия между элементами в процессе вычислений. Если сеть элементарная, то всё понятно, но если в ней присутствуют тысячи единиц на слой, а слоёв сотни, тогда всё становится совершенно не объяснимо. Поэтому многие боятся делать ставку на загадочные нейросети, предпочитая менее точные методы, но логичные и объяснимые.
Для того, чтоб заглянуть в мышление машины, где переплетается множество математических функций и переменных, применяются разные методики исследования. Но это лишь луч света в тёмном царстве.
Математические модели нейронных сетей уже участвуют в различных жизненных сферах: кому выдать кредит, кого взять на работу или досрочно освободить. Неважно финансовое это решение или медицинское, или может быть военное, но рисковать и доверять результату из «чёрного ящика» чревато непредсказуемыми, ошибочными последствиями. Когда невозможно объяснить, проверить и обосновать вывод сети, встаёт вопрос о доверии.
Уже сейчас предпринимаются попытки сделать такие системы подотчётными. Можно допросить Искусственный Интеллект или обязать оставлять краткие комментарии к результатам, обосновывающие их. Например, при анализе текста система выдаст куски, которые, по её мнению, наиболее значимы; при работе с изображениями важнейшие части объектов. Негативный аспект таких способов прояснения состоит в том, что аргументация ИИ всегда будет упрощена, а значит, могут быть потеряны важные сведения. Эти методики не интерпретируют Искусственный Интеллект полностью.
Возможно, человечеству никогда не удастся постигнуть разум машины. Если не существует рационального объяснения Искусственного Интеллекта или интеллекта вообще, то остаётся попытаться понять его, как человек понимает животных или другого человека.
Китай: Искусственный Интеллект сдал экзамен на право быть доктором
Технологическая сингулярность: краткий компендиум
Нейросети: как они работают не знают даже учёные
6 Комментарии
Искусственный интеллект с полным пониманием себя ещё не создан, а уже он что то кому то должен, надо для начала поговорить о людях — своей памяти сильно доверяете, а человеку рядом сильно доверяете, а отчёт требовать с вас надо за мысли и действия?
Верить искусственному разуму? Человечество еще не готово к этому, не готово использовать искусственный интеллект в своих целях, благородных. В первую очередь. как и все новое и прогрессивное нейросети будут применяться для военных целей.
С одной стороны — как человечество могло создать то, что не может понять?
А с другой — я совершенно не волнуюсь за нейросети, так как человек всё ещё на шаг впереди машин.
У меня не может «уместиться» в голове выражение «искусственный интеллект».
Серьёзно! Роботы не могут мыслить свободно, они не имеют всего диапазона мыслей. Они могут «выдать» только заданную (запрограммированную) мысль, команду. Какой-то абсурд!
Интересная, информативная статья ! Хочется верить, что Искусственный Интелект все же постижим, так как это предоставит огромные возможности современной науке.
У меня тоже не умещается в голове всё, что говорят о ИИ. Всё кажется, что это шутка. Но так же непонятно и что такое бессознательное, и кто Бог, и что такое рай, ад. Многие говорят легко об этом, как будто знают, а я не понимаю почему у разных религий такие разные описания этих понятий. Или инопланетяне, читал книгу серьёзного военного человека. Он говорит,что военные всех ведущих армий мира контактируют с пришельцами, что это давно общеизвестно в их кругах. Мир странный.