PwC: Лидеры должны взять на себя ответственность и действовать в соответствии с ответственными практиками ИИ

Теоретический экономический потенциал искусственного интеллекта (ИИ) в размере 15,7 трлн. долл. США можно раскрыть лишь только в том случае, если в различных организациях, компаниях и правительственных органах будет проведена интеграция ответственных практик ИИ до принятия ключевых решений и реализации значимых действий. Такое утверждение высказывают аналитики PricewaterhouseCoopers в отчёте об ИИ, опубликованном в начале июля.

Разработка и интеграция ИИ требует постепенного и поступательного подхода, поскольку в данном процессе организации подвергаются потенциальным рискам. Необходимо внедрение сквозного понимания всех процессов, разработка и интеграция ответственных практик ИИ с помощью нового инструментария.

Эксперты PwC выделили пять ключевых аспектов, на которые организациям необходимо обратить повышенное внимание, адаптировать и применить в своей конкретной стратегии, дизайна, разработки и развёртывания ИИ: управление, этика и регулирование, интерпретируемость и объяснимость, надежность и безопасность, а также предвзятость и справедливость.

Грядущие измерения должны базироваться на внедрении стратегического планирования и управления в развитие ИИ, что поможет преодолеть обеспокоенность общества по поводу справедливости, доверия и подотчетности ИИ и связанных с ним деятельности и процессов.

Ранее в этом году 85% опрошенных PwC генеральных директоров различных компаний заявили, что в ближайшие 5 лет ИИ существенно изменит их бизнес, а 84% признали, что решения, основанные на ИИ, должны быть объяснимыми, понятными и прозрачными, чтобы им можно было доверять.

Выступая на Всемирном экономическом форуме в Даляне, Ананд Рао, главный управляющий по вопросам ИИ американского подразделения PwC, сказал:

«Вопрос этики и ответственности в области ИИ, несомненно, волнует большинство лидеров бизнеса. Компании должны активно продвигать и участвовать в сквозной интеграции ответственной и этически ориентированной стратегии развития ИИ для того, чтобы сбалансировать прирост экономического потенциала с преобразованиями, которые они могут совершать один раз в поколение, поскольку эти процессы влияют на бизнес и общество. Одно без другого представляет фундаментальные репутационные, операционные и финансовые риски».

PwC в настоящее время продвигает разработку единых стандартов и правил, которые можно было бы использовать в качестве набора инструментов для диагностического обследования организаций, и помогут оценить понимание и применение ответственных и этических методов искусственного интеллекта. В мае – июне 2019 года около 250 респондентов, участвовавших в разработке и внедрении ИИ, прошли такую оценку.

Результаты показали незрелость и непоследовательность в понимании и применении ответственных и этических методов ИИ:

Лишь 25% респондентов заявили, что они будут уделять первостепенное внимание рассмотрению этических последствий внедрения ИИ до его реализации.

Каждый пятый (20%) имеет чётко определенные процессы выявления рисков, связанных с ИИ. Более 60% полагаются на разработчиков, неформальные процессы или же вообще не имеют документированных процедур.

У большинства компаний существуют определённые этические рамки и соображения по ИИ, однако, применение таких принципов непоследовательно.

56% сказали, что в случае, если в компании произойдёт негативная ситуация из-за использования ИИ, им будет трудно выявить и объяснить причины произошедшего.

Более половины респондентов не формализовали свой подход к оценке искусственного интеллекта на предмет предвзятости, ссылаясь на недостаток знаний, инструментов и специальных оценок.

39% респондентов заявили, что лишь «несколько» уверены в том, что знают, как остановить ИИ, если что-то пойдёт не так, как планировалось.

Ананд Рао по этому поводу заявил:

«ИИ создает как возможности, так и проблемы, в первую очередь, связанные с доверием и подотчетностью. Чтобы реализовать возможности ИИ в плане повышения производительности и достижения новых результатов, для успеха требуются интегрированные организационные и кадровые стратегии и планирование. Существует явная необходимость пересмотреть текущие и будущие практики ИИ в рамках своей организации, задавая вопросы, чтобы не только справиться с потенциальными рисками, но и определить, имеются ли адекватные стратегии, средства контроля и сопутствующие процессы. Решения ИИ мало чем отличаются от решений, принимаемых людьми. В каждом случае необходимо уметь объяснять свой выбор и понимать связанные с этим издержки и последствия. Это не только технические решения для обнаружения, исправления, объяснения и создания безопасных бизнес-процессов и безопасных систем. Необходим новый уровень целостного лидерства, учитывающего этические и ответственные аспекты влияния технологий на бизнес».

PwC призывает участников рынка совместными усилиями выработать методологию и гибкий и масштабируемый инструментарий с набором глобальных возможностей для обеспечения и поддержки оценки и развития ИИ в организациях с учётом уникальных бизнес-требований и уровня зрелости ИИ.

На Всемирном экономическом форуме в Даляне Уилсон Чоу, глава отдела технологий, средств массовой информации и телекоммуникаций китайского подразделения PwC, добавил:

«Основой "ответственного" ИИ является комплексное управление предприятием. Способность организаций отвечать на вопросы по подотчетности, согласованности и контролю будет определяющим фактором для достижения амбициозной стратегии роста ИИ в Китае».