Unconscious Bias, или "неосознанное
предвзятость", относится к автоматическим и зачастую неосознанным мнениям
и стереотипам, которые влияют на наше восприятие, поведение и принятие решений.
Эти предвзятости могут касаться различных аспектов, таких как раса, пол,
возраст, религия и другие характеристики.
О том, как возникает Unconscious Bias, нам расскажет в своей
статье Антье Кёниг. Наша справка:
Antje König занимает
должность COO в Retail AI GmbH (компания Markant Group), где отвечает за операционное управление и стратегическую реализацию
бизнес-процессов с фокусом на генеративный ИИ для ритейла и FMCG.
Ранее
она была CIO и членом
правления в Dirk Rossmann GmbH, где курировала IT,
организацию, процессы и корпоративную безопасность; получила CIO Executive Award 2025.
Кёниг
также является CEO и основательницей
HoValorem GmbH (с мая 2024), работает fractional CIO в F.ECTIVES и продвигает этичный ИИ, цифровую трансформацию
и lean agile leadership. Она подчеркивает роль ИИ как фактора конкуренции в ритейле.
ОРИГИНАЛЬНЫЙ ТЕКСТ НАХОДИТСЯ ЗДЕСЬ.
Да,
мы снова поднимаем тему предрассудков и сейчас вы прочитаете о том, что большие
проблемы фирм часто обусловлены не техническими, а человеческими факторами. Unconscious
Bias влияет на то, как мы, например, подбираем команду, расставляем приоритеты
в проектах и используем ИИ.
Существуют
незаметные предрассудки, которые мы часто не воспринимаем всерьёз, но они
каждый день наносят вред народному хозяйству. Прежде всего, значительно
снижается мотивация людей: согласно докладу Гэллапа за 2024 год, сотрудники,
которые считают, что с ними обошлись несправедливо, теряют мотивацию в 2,6 раз
чаще, что обходится мировой экономике примерно в 8,9 миллиардов долларов. Комментарий
блоггера. Откуда они вывели эту цифру, мне непонятно. Но за что купил, за то и продаю.
Конец комментария.
Другой
пример – мастеркарты: в январе 2025 года поставщик платежных услуг был вынужден
выплатить 26 миллионов долларов для урегулирования коллективного иска, в
котором утверждалось о дискриминации в оплате труда.
Unconscious
Bias – это как фильтр для наших решений. Он решает, когда шансы есть, а когда
нет. Он влияет не только на наши команды, но и на технологии. Из опыта
руководящей работы я усвоила: если мы воспринимаем разнообразие всерьёз и хотим
избежать дискриминации, мы должны разглядеть эти «белые пятна» и
поинтересоваться как нашими собственными жизненными ценностями, так и таковыми
у коллег.
ЧТО ЖЕ ИМЕЕТСЯ В ВИДУ?
Согласно
American Psychological Association (APA), скрытые предрассудки – это автоматически
возникающие ментальные ассоциации, обусловленные нашим опытом, культурными
ценностями и стереотипами, которые мы не осознаём.
Думаю,
большинство с этим знакомо. Наша деятельность основана на аналитическом подходе
к имеющимся данным, но при этом далека от того, чтобы быть свободной от
неосознанных решений. Ниже мы рассмотрим четыре примера из нашей повседневной
деятельности:
- Карьерный путь: отпуск по уходу за ребенком, непонятные
моменты в работе и жизни воспринимаются как «красные лампочки», а не как
возможность или потенциал.
- Социальное происхождение и
манера речи: здесь Unconscious
Bias действует исподволь: кто говорит не так, как мы, будет недооценен или
вообще не принят всерьёз, каким бы он ни был хорошим. Результат: таланты
остаются нераскрытыми, шансы на повышение блокированы, однообразие рулит!
- Поведение на встречах: в технических дискуссиях верх берут самые
горластые. Интроверты, сотрудники других отделов и работники других отраслей
остаются неуслышанными – хотя, может, их идеи и будут плодотворными.
- Возрастные факторы. Сегодня во многих командах наблюдается такая
картина: кто молод, рассматривается как «рождённый для цифровых технологий» -
способный к адаптации, быстрый, восприимчивый к новому. Тот же, кто старше, тот
отстаёт в техническом плане и неспособен к обучению. Это приводит к тому, что
опытные специалисты редко рассматриваются как сторонники внедрения новых
технологий, повышения квалификации или инновационных проектов, хотя часто они
приносят с собой ценные знания, опыт и стратегическое мышление. В дальнейшем не
будем забывать, что всегда приходится работать дольше обычного.
БУДЕМ ОБЪЕКТИВНЫ. Всё это случается ненарочно – но
это случается. Мы продолжаем усиливать эти искажения, когда настраиваем под них
систему. Учёные из Университета Падеборн эмпирически вывели, что алгоритмы
искусственного интеллекта могут перенимать и даже усиливать социальные предрассудки.
Это особенно часто происходит, когда внесенная информация содержат стереотипный
или дискриминационный контент. Известный пример: Система подбора персонала Amazon, работающая на основе искусственного
интеллекта, научилась недооценивать женские кандидатуры, поскольку обучающие
данные были почти исключительно мужскими.
ИИ считается объективным и непредвзятым – но это
не является чем-то само собой разумеющимся. Модели для анализа клиентов,
выявления мошенничества или проверки производительности легко наследуют пробелы
информации, на которой учились. Там, где заложен дискриминационный алгоритм,
там и результаты будут такими же. Иногда говорят даже о «предвзятость как
диагноз»: вместо того, чтобы предоставить правильный результат, методы, при
которой модели ИИ имитируют ответы людей на опросы, могут усиливать старые
предрассудки — только на этот раз под видом кажущейся объективности ИИ.
В
итоге можно утверждать: дискриминирующие системы – проблема не только
этическая, но и хозяйственная. Они могут довести до суда, подорвать доверие
клиентов и снизить качество принимаемых решений.
А ТЕПЕРЬ СОВЕТЫ, КАК ВСЕГО ЭТОГО ИЗБЕЖАТЬ.
Что кто может сделать – высшее руководство,
команда и организация в целом?
Обеспечить осознание
проблемы.
Первый шаг — добиться того, чтобы вопрос был
доведен до личного состава, был понятен и находился в центре внимания.
Инструменты типа Implicit Association Test помогут вам
определиться с вашим подсознанием. А предприятия должны обеспечить регулярные
тренинги не только для руководителей, но и для всего персонала.
Поощрять разнообразные
мнения.
Кросс-функциональные
команды, коучинг, инициативные группы сотрудников помогают расширить кругозор и
изменить взгляды - те, кто работает только с единомышленниками, часто упускают
из виду важные реалии.
Unconscious Bias изжить нельзя, но структурно
обезвредить можно. Например, так:
- Анонимные опросы.
- Разнообразные отборочные комиссии.
- Ясная обратная связь и прозрачные механизмы продвижения по службе.
Не доверять слепо ИИ.
Каждая
система, опирающаяся на базу данных, должна быть проверена на предмет Unconscious
Bias – прежде всего, когда она касается людей.
Сегодня стандартной практикой в качественной разработке ИИ должно быть проектирование, основанное на функционально-стоимостном анализе, обеспечение справедливости на этапе проектирования и использование разнообразных механизмов тестирования.
Активно работать над языком
и культурой.
На собраниях обеспечьте пространство для диалога и формируйте культуру, в которой разнообразие не только терпимо, но и признается как преимущество.
Unconscious Bias – не
случайное событие, а системное, и поэтому ответы тоже должны быть системными.
Речь идёт не о том, чтобы быть идеальным, а о том, чтобы совершенствоваться и
обеспечить профилактику дискриминации – посредством знаний, структур и
технологий, которые не подавляют разнообразие, а усиливают его.
ЧТОБЫ БЫТЬ В КУРСЕ ПОСЛЕДНИХ НОВОСТЕЙ,
ПОДПИСЫВАЙТЕСЬ НА Telegram-канал «КАРЬЕРА МЕНЕДЖЕРА И Информационные Технологии».