Cisco присоединяется к Rome Call по мере расширения дебатов по этике искусственного интеллекта

Cisco присоединилась к другим технологическим лидерам в Римском призыве к этике искусственного интеллекта на фоне растущего осознания необходимости соблюдения этических принципов в искусственном интеллекте.

Призыв - это документ, опубликованный Ватиканом в феврале 2020 года с целью продвижения развития технологий искусственного интеллекта, которые являются прозрачными, подотчетными и социально полезными.

Его первыми подписали Папская академия жизни Ватикана, Microsoft, IBM, Министерство инноваций Италии и Продовольственная и сельскохозяйственная организация Объединенных Наций.

В апреле 2021 года папа Франциск учредил некоммерческую организацию под названием Фонд Возрождения при Папской академии жизни в Ватикане для защиты и продвижения Призыва, поддерживая более широкие этические дебаты о цифровых технологиях в обществе.

“Искусственный интеллект - это лишь последнее звено в преобразовании автоматизации, которое произвела промышленная революция”, - говорит отец Паоло Бенанти, научный директор фонда "Возрождение". “Промышленная революция дала власть и благополучие некоторым людям, но породила дискомфорт, неравенство и экологические проблемы для многих других”.

Интерес к этичному развитию искусственного интеллекта также очень беспокоит нынешнего главу Римско-католической церкви Папу Франциска, который “всегда выдвигал церковь на передний край таких проблем, как мигранты, окружающая среда, а теперь и искусственный интеллект”, - говорит Бенанти.

Однако о широком характере дебатов по искусственному интеллекту и этике свидетельствует тот факт, что Призыв был подписан еврейскими и мусульманскими лидерами в январе 2023 года на встрече с участием Форума мира Абу-Даби Объединенных Арабских Эмиратов и Комиссии Главного раввината Израиля по межконфессиональным отношениям.

Призыв также получил поддержку со стороны частного сектора, включая такие различные организации, как медицинские учреждения Providence и Somos, орган по защите прав потребителей Euroconsumers, компания по машинному обучению ML cube и Центр перспективных исследований искусственного интеллекта в Италии.

Бенанти говорит, что Cisco станет важным дополнением к списку. “Искусственный интеллект - это не просто информация и данные”, - говорит он. “Это также вопрос вычислительной мощности и связи - элементов, в которых Cisco играет ключевую роль”.

Разработка искусственного интеллекта в Cisco руководствуется шестью принципами: прозрачность, справедливость, подотчетность, конфиденциальность, безопасность и надежность. Они в значительной степени соответствуют шести этическим принципам, перечисленным в Призыве, которые являются:

• Прозрачность означает, что системы искусственного интеллекта должны быть понятны всем.
• Инклюзивность, требующая от систем, чтобы они никого не дискриминировали, потому что каждый человек обладает равным достоинством.
• Подотчетность, поскольку всегда должен быть кто-то, кто берет на себя ответственность за то, что делает машина.
• Беспристрастность, стремление к тому, чтобы системы искусственного интеллекта не следовали предвзятости и не создавали ее.
• Надежность - гарантировать, что ИИ можно доверять в жизненно важных приложениях.
• Безопасность и конфиденциальность требуют, чтобы системы были безопасными и уважали конфиденциальность пользователей.
• Ранняя разработка искусственного интеллекта уже выявила проблемы в некоторых из этих областей, таких как беспристрастность. Было обнаружено, что системы искусственного интеллекта предвзяты в широком диапазоне областей, от дискриминации цветных людей до демонстрации предпочтения мужчин женщинам в рекламе о найме.

Возможно, таких проблем следовало ожидать в зарождающейся области, такой как искусственный интеллект. Но мощь технологии, которая привела к растущему беспокойству потребителей, означает, что корпорациям, правительствам и гражданскому обществу становится все более важно прислушаться к Призыву.

Исследование Cisco показало, что большинство потребителей обеспокоены тем, как организации используют их персональные данные для искусственного интеллекта, при этом 60% заявили, что они уже потеряли доверие к организациям из-за использования ими искусственного интеллекта.

Бенанти говорит, что создание этической основы для искусственного интеллекта может иметь преимущества, которые намного перевешивают те, которых можно достичь, просто руководствуясь мотивом получения прибыли.

Для сравнения, по его словам, рассмотрим Центральный парк в Нью-Йорке: это земля, которая была приобретена муниципалитетом и, таким образом, отобрана у разработчиков, но теперь значительно повышает ценность его окрестностей и города в целом.

“Римский призыв к ИИ не связан с оценкой или соблюдением требований”, - говорит Бенанти. “Это ценное предложение для отдельных лиц, для компаний, для общества в добровольной форме”.

Есть надежда, что это станет все более очевидным по мере того, как такие компании, как Cisco, наряду с государственными учреждениями и лидерами гражданского общества, присоединят свои голоса к Призыву — до такой степени, что этические принципы станут неотъемлемой частью разработки искусственного интеллекта.

“Парадоксально, но наилучший результат будет тогда, когда Вызов больше не нужен, когда он может исчезнуть и никто этого не заметит”, - говорит Бенанти. “Это будет означать, что это сработало”.

Получить подробную информацию или проконсультироваться можно на сайте официального поставщика Cisco в России.

Оригинал: https://newsroom.cisco.com/c/r/newsroom/en/us/a/y2024/m04/cisco-joins-rome-call-as-ai-ethics-debate-widens.html