В России могут законодательно закрепить норму, согласно которой окончательные решения в социально значимых сферах должны оставаться за человеком, даже если используются технологии искусственного интеллекта. Речь идет о таких областях, как здравоохранение, судопроизводство, образование и общественная безопасность.
Соответствующее положение обсуждается в рамках подготовки законопроекта о регулировании технологий ИИ. Предложения собраны в материалах правительства и будут учтены при доработке документа. Ожидается, что Министерство цифрового развития, связи и массовых коммуникаций Российской Федерации направит согласованный вариант законопроекта в правительство до конца февраля.
По словам источника, знакомого с работой профильных ведомств, одним из ключевых принципов будущего регулирования станет сохранение решающей роли человека при использовании алгоритмов в системах, влияющих на судьбу граждан.
Член комитета по информационной политике Государственной думы Российской Федерации и координатор партийного проекта «Цифровая Россия» Антон Немкин считает, что отсутствие такого требования может создать серьезные риски.
По его мнению, алгоритмы могут воспроизводить дискриминацию или системные ошибки, если они обучены на неполных либо предвзятых данных. Кроме того, при автоматическом принятии решений возникает проблема распределения ответственности: в случае ошибки становится неясно, кто должен отвечать — разработчик технологии, оператор системы или государственные структуры.
Еще одним возможным последствием может стать снижение доверия граждан к цифровым сервисам, если решения, влияющие на их права и судьбу, будут восприниматься как полностью автоматические.
Вопрос надежности технологий ИИ обсуждается и на фоне инцидентов в медицинской сфере. По данным агентства Reuters, как минимум десять пациентов получили травмы в период с конца 2021 по ноябрь 2025 года. Предположительно, причиной стали ошибки навигационной системы TruDi, которая во время операций на головном мозге некорректно определяла положение хирургических инструментов.
Эксперты также предупреждают о рисках использования нейросетей в образовательной сфере. Директор Институт исследований интернета Карен Казарян отметил, что автоматическая проверка заданий в школах и вузах может приводить к многочисленным ошибкам, поскольку современные нейросети пока не обеспечивают достаточную точность и объективность.