Цифровая этика - стр. 1

Новейшие прорывные технологии, внедрению которых во многом посвящен этот учебник, открывают перед компаниями огромные возможности. Но, применяя эти технологии, руководители, как правило, не имеют навыков и инструментов прогнозирования целого ряда рисков и возможных последствий их использования. ИТ-компании собирают персональные данные пользователей̆ и передают сторонним организациям, социальные сети манипулируют пользователями, даже крупные игроки не способны защитить данные клиентов, а алгоритмы, используя непрозрачные системы метрик, повышают статус одних социальных групп и дискриминируют другие. Также, что более важно, и руководители, и разработчики часто оказываются в ситуации выбора, часто неосознаваемого: между заботой о пользователе и соблюдением его интересов в части приватности и объективного к нему отношения – и интересами бизнеса по массированному сбору данных, управлению пользовательским поведением и т.д. Следует ли упоминать, что побеждают чаще последние?

Все эти вопросы, проблемы и риски сейчас принято относить к области Digital Ethics – цифровой этике (по другой терминологии Ethical Tech – этики технологий)1. Множатся истории организаций, столкнувшихся с такими проблемами, как нарушение конфиденциальности, утечки данных, алгоритмическая предвзятость, масштабные технологические ошибки, ошибки систем искусственного интеллекта (ИИ) и т. д. Эти ситуации приносят компаниям репутационные и финансовые риски. Распространение новых технологий не только дало новые возможности для бизнеса, но и возложило дополнительную ответственность на людей, которые создают и внедряют технические решения.

Но компании и госорганизации редко разрабатывают общий подход к оценке этических последствий использования технологий, и эти вопросы остаются на «обочине» процесса цифровой трансформации компании. В ряде случаев организация вынуждена соблюдать определенные этические нормы; например, еще недавно компания, продающая свою продукцию в Европе, вынуждена была соответствовать нормам европейского акта GDPR (General Data Protection Regulation2), довольно жестко регулирующего защиту персональных данных в Евросоюзе. Сейчас подобную роль в России выполняют некоторые требования Роскомнадзора. Однако такие случаи – пока лишь исключения, которые только подчеркивают общее правило. В любом случае, в 2022 году руководитель организации не может считать себя высокопрофессиональным, если он не задумывается об этических последствиях использования технологии в его компании, независимо от того, относится ли компания к области ИТ или нет.

Руководители в целом и CDTO в частности должны видеть и понимать потенциальные этические дилеммы и риски, которые могут возникнуть при разработке или использовании цифровых технологий, и закладывать ответственное отношение к этике в свою стратегию и основные принципы создания цифровых продуктов и сервисов. Компании, использующие этически неоднозначные решения при разработке продуктов, ставят под удар репутацию своего бренда. Организаций, имеющих собственный этический подход, пока не так много, но именно их можно назвать наиболее технологически зрелыми.

Рис. 1. 57% лидеров компаний на продвинутой стадии цифровой зрелости уделяют внимание этике технологий.3

Согласно ряду исследований Deloitte4, существует связь между цифровым прогрессом компании и ее вниманием к различным этическим вопросам, связанным с технологиями (Рис. 1 и Рис. 2). Более продвинутые в цифровом отношении компании, как правило, больше озабочены этикой, связанной с технологиями, и уделяют ей больше внимания, чем компании, которые еще только начинают свой путь к цифровым технологиям.

Рис. 2. В 47% компаний, уделяющих внимание этике технологий в индустрии 4.0, прозрачный процесс принятия решений.5

Кроме того, критически важным как для брендов, так и для госорганизаций и государств в целом является вопрос доверия, который сейчас очень часто напрямую зависит от не только качества, но и от этичности предоставляемых компанией (или госорганизацией) цифровых сервисов. Доверие означает уже не просто хорошую репутацию и общественную поддержку, а возможность в перспективе остаться на рынке, и это актуально не только для компаний, но и для целых стран. Примечательно, что именно технологические компании с началом пандемии COVID-19 теряют доверие быстрее других (Рис. 3).

Рис. 3. Изменение уровня доверия к технологическим компаниям в 2012–2021 годах.6

Когда мы рассматриваем вопрос этики, очень важно проводить различие между корпоративной и профессиональной этикой (этикой, относящейся к вопросам бизнеса, профессионального поведения, гуманного обращения с работниками и социальной ответственности) – и этикой технологий. Что же такое этика технологий?

Этика технологий – это разговор о том, как взаимодействуют технологии и ценности, о решениях, которые мы принимаем в связи с появлением новых технологий, и о том, как они могут повлиять на общество. Это комплекс ценностей, определяющих подход организации к использованию технологий в целом, а также принципы, которыми руководствуются работники всех уровней при внедрении этих технологий в бизнес-стратегию и операционную деятельность. Этика технологий охватывает широкий спектр вопросов – от защиты приватности до предвзятости алгоритмов, от замены труда человека на труд робота до запрета на манипуляцию поведением человека