В Москве состоялась Всероссийская междисциплинарная конференция «Искусственный интеллект и цифровая реальность». В обсуждении темы «Ответственность, риски, регуляция: этика в сфере ИИ и робототехники» приняла участие доцент кафедры клинической психологии и психологии личности Института психологии и образования Казанского федерального университета Инна Кротова. Она выступала с докладом: «Ответственность в обеспечении безопасного взаимодействия человека и искусственного интеллекта».

В центре внимания – выработка практических ориентиров для разработчиков, бизнеса и пользователей. Среди ключевых вопросов, предлагаемых к обсуждению: распределение ответственности за решения ИИ, преодоление алгоритмической предвзятости, границы допустимого использования нейросетей в «человеческих» контекстах и прочее.

Как рассказала Инна Кротова, в конференции приняли участие специалисты по кибербезопасности и человеко-машинному взаимодействию. В первую очередь внимание привлекла возможность порассуждать на темы о том, как происходит распределение ответственности во взаимодействии ИИ и человека – в гибридных человеко-машинных системах, когда проблемы доверия и прозрачности выходят на первое место.

«Поддерживая такое направление исследований в области ИИ, как Explainable Al (ХА) мы с позиции психологии предложили свое видение по прогнозам и обоснованию решений, принимаемых алгоритмами ИИ, чтобы они стали более понятны для человека. Мы стремимся получить ответы на вопросы: возможно ли достичь прозрачных этических рамок, сохранить аутентичность и целостность личности, снизить уязвимость?» – подчеркнула доцент.

Уникальность данной работы заключается в том, что в основе исследования учитывается главный фактор информационно-цифровых трансформаций – ментальное, психологическое благополучие (сфера государственной политики, экономики и бизнеса, личных целей).

«Наше объяснение и понимание четко направлено на решение конкретной задачи – психологическая безопасность человека. В других докладах, например, представлено больше описание опыта взаимодействий с ИИ, выявление проблем, формулировка рисков и так далее. Нас интересует одно – ресурсность человека и его устойчивость», – прокомментировала Инна Кротова.

В конце своей работы психолог приходит к выводу о том, что обеспечение безопасного взаимодействия искусственного интеллекта и человека возможно с позиции распределения их ответственности в координатах «компетентность» и «безопасность» как координат их развития в информационно-цифровой среде (человек нуждается в устойчивой безопасности в условиях информационно-цифровой среде; ИИ как одна из знаковосимвольных систем стремится к собственной безопасности в развитии компетентности; векторы развития человека и ИИ пересекаются в условиях информационно-цифровой среде). Все это закладывает основу возможностей прогнозирования решений и их последствий в человеко-машинном взаимодействии.

При частичной или полной перепечатке материала, а также цитировании необходимо ссылаться на пресс-службу КФУ.

Присоединяйтесь к каналу КФУ в MAX.