Skip to main content
19 июля, 2024
$ 87.88
96.10

Более 100 компаний могут подписать Кодекс этики искусственного интеллекта до конца 2021 года

27 октября, 2021, 9:56
Более 100 компаний могут подписать Кодекс этики искусственного интеллекта до конца 2021 года
© pexels.com
Пока что свои подписи поставили примерно два десятка организаций.

Крупные отечественные компании накануне подписали первый в России Кодекс этики ИИ. Его разработка предусмотрена стратегией развития искусственного интеллекта на ближайшие 10 лет и федеральным проектом «Искусственный интеллект». Пока что соблюдение норм этого документа носит исключительно добровольный характер. Свои подписи поставили Mail.ru, Сбербанк, «Газпром нефть», ЦИАН, «Яндекс», МТС, «Ростелеком», а также Infowatch и «Росатом». Кроме того, к кодексу присоединились МФТИ, НИУ-ВШЭ, Институт системного программирования им. В. П. Иванникова, «Сколтех», ИТМО, Иннополис и РФПИ. Вице-премьер РФ Дмитрий Чернышенко отметил, что до конца года к кодексу могут присоединиться порядка 100 компаний.

Разработкой занимались компания Альянс ИИ (в том числе Сбербанк, являющийся «ответственным» за развитие данной технологии) и Аналитический центр при правительстве РФ. Подобные документы сейчас есть в 20 странах, а у 35 крупных компаний в мире разработаны собственные кодексы (в России — Сбербанк, «Яндекс» и ABBY).

На 12 страницах Кодекса этики ИИ в краткой форме перечислены принципы человекоориентированности систем искусственного интеллекта, сохранения автономии и свободы воли в обществе, а также отсутствия дискриминации и непричинения вреда.

Также в документе рекомендуется применение «риск-ориентированного подхода» — соотнесения жесткости регулирования с потенциальным влиянием создаваемых систем. При этом методику оценки рисков должны разработать отдельно. Ответственность за применение ИИ всегда будет оставаться за человеком. В своде отмечается, что применение технологий «сильного» (схожего с человеческим) искусственного интеллекта должно находиться под государственным контролем.

Если рассматривать практические аспекты кодекса, то там обозначено требование об идентификации искусственного интеллекта при общении с человеком в том случае, когда это затрагивает вопросы прав человека, а также критических сфер его жизни и об обеспечении безопасности в работе с массивом данных. Кроме того, документ закрепляет условия конкуренции между компаниями, которая не должна причинять вред развитию ИИ, поэтому потребуется обеспечивать доступность данных, а также совместимость систем везде, где это возможно. К тому же необходимо предоставлять проверенную информацию о применяемом искусственном интеллекте. Контролировать исполнение кодекса будет специально созданная комиссия по этике искусственного интеллекта на базе Альянса ИИ.

Сейчас нормативное регулирование в этой области является одной из самых обсуждаемых тем. Китайский опыт активного использования искусственного интеллекта для распознавания лиц и в инструментах скоринга не нашел всеобщей поддержки. При этом отсутствие норм регулирования может повлечь за собой риски, которые снизят общее благосостояние, на также в негативном ключе скажутся на ценовой конкуренции и рынке труда.

На данный момент уровень доверия к ИИ среди россиян составляет 48%. Он выше среднемирового (28%). При этом участники рынка признают, что статистика является следствием не слишком глубокого проникновения технологий. То есть не было ситуаций, когда выбор ИИ испугал бы пользователей.

Пока что российские компании не рискуют оставлять последнее слово в принятии решений за ИИ. Например, беспилотные автомобили «Яндекса» не могут сдвинуться с места, так как в их алгоритмах заложено соблюдение всех правил. В Сбербанке, у которого 99% решений по кредитам физическим лицам и 30% — юридическим лицам принимаются в автоматическом режиме, обещают называть причины отказов и проводить повторную оценку уже с привлечением человеческого труда в случае неоднозначных ситуаций.

Ранее глава компании Apple Тим Кук заявил, что сейчас ИИ используется в тех сферах, в которых люди не ожидают его встретить. По его словам, технические возможности таких систем в будущем облегчат жизнь.


Лента новостей
";