Сбер первым в России утвердил принципы этики искусственного интеллекта
Разработка и применение технологий искусственного интеллекта (ИИ) в группе Сбер осуществляется на основе принципов этики. Первыми в России их утвердили в правлении Сбербанка, сообщили в понедельник, 1 марта, в пресс-службе Центрально-Черноземного банка ПАО Сбербанк.
По информации структуры, всего предусмотрено пять принципов – их соблюдение обязательно для всех участников группы Сбера. Они разработаны в соответствии с требованиями Президента РФ в рамках Национальной стратегии развития искусственного интеллекта на период до 2030 г.
Принцип № 1. «Контролируемость и управляемость систем ИИ» (Secure AI) гласит о том, что процесс разработки и применение указанных технологий является безопасным, управляемым и контролируемым в максимальной возможной степени. При этом банк учитывает те возможные риски, которые могут возникнуть по ходу использования ИИ, и не допускает их выхода из-под контроля. Впрочем, ИИ не является самоцелью Сбера, их применение основано на доверии клиентов, сотрудников и общества.
Принцип № 2. «Прозрачность и предсказуемость функционирования технологий ИИ» (Explainable AI) отражает ответственность Сбера за применение систем ИИ за счет обеспечения максимальной прозрачности, внутреннего контроля, предсказуемости процесса и результатов работы. Применение технологий ИИ возможно только при соблюдении законодательства с учетов требований конфиденциальности, уважения к частной жизни человека. Функционирование систем ИИ обеспечено также безопасностью данных, что подкреплено отсутствием незаконной обработки персональной информации граждан и корпоративных клиентов Сбера.
Принцип № 3. «Стабильность и надежность систем ИИ» (Reliable AI) лежит в основе применения ИИ в Сбере. Для реализации этого принципа банком предусмотрен необходимый уровень технического оснащения процесса разработки и внедрения технологий ИИ. Вместе с тем Сбером создан высочайший уровень гарантий всех прав и свобод человека при применении ИИ исключительно на законных основаниях.
Принцип № 4. «Ответственное применение ИИ» (Responsible AI) основывается на потребностях клиентов и сотрудников в применении технологии ИИ, в том числе, для формирования положительного клиентского опыта. Сбер также учитывает все опасения, возникающие при применении систем ИИ.
Принцип № 5. «Непредвзятый ИИ» (Fair AI) регулирует справедливость и объективность применения технологий ИИ на равных для всех участников условиях. Этот принцип отражает стремление Сбера принести применением ИИ пользу для развития человечества.
Добавим, чтобы в Сбере создана специальная рабочая группа по этике разработки и применения технологий ИИ (в качестве подгруппы комитета ESG), в том числе, для рассмотрения спорных этических вопросов, формирования корпоративной этики и реализации указанных принципов в деятельности Сбера, с учетом всех рисков и мониторинга эффективности применения технологии ИИ и их восприятия в обществе.
– Технологии искусственного интеллекта, как и любые другие, несут с собой не только возможности, но и риски. Утверждая этические принципы разработки и применения технологий ИИ и создавая механизмы для их реализации, мы действуем в русле лучших мировых практик и в соответствии с Национальной стратегией развития ИИ. Этот вопрос масштабный и непростой, поэтому наши правила и принципы будут совершенствоваться, конкретизироваться, – отметил президент, председатель Правления Сбербанка Герман Греф.
По его словам, Сбер открыт к мнению экспертного сообщества при обновлении указанных принципов, в том числе, для их совершенствования по мере необходимости. При этом Герман Греф заявил, что в Сбере не собираются навязывать эти принципы за пределами группы и не считают на сегодняшний день их идеальными для применения другими компаниями.
Однако использование этих принципов направлено на обеспечение безопасности технологий ИИ, повышение доверия общества и клиентов Сбера при осуществлении большинства процессов и использовании продуктов и услуг банка.
Татьяна Соловьева