Tехнологическая отрасль отреагировала на манифест Папы об ИИ

П Лев XIV в своем первом крупном вероучительном послании потребовал усилить регулирование искусственного интеллекта (ИИ) и замедлить развитие систем, управляемых ИИ. В опубликованной в понедельник энциклике «Magnifica Humanitas», что переводится как «возвышенная» или «великая человечность», П предупреждает, что технология ИИ распространяет дезинформацию и может ввергнуть мир в бесконечные войны.

Необходимо более активное политическое участие, чтобы замедлить ход событий, когда все ускоряется, говорит он. Лев XIV также требует установления строгих этических границ для использования ИИ в военных целях и особенно в дистанционной войне. Он подчеркнул, что недопустимо позволять машинам принимать решения о жизни и смерти. Этой позицией Лев XIV, родившийся в США, отличается от администрации Трампа. Последняя выступает за дерегулирование в развитии ИИ, но имеет с Папой и другие разногласия.

«Искусственный интеллект должен быть обезоружен, освобожден от логик, которые превращают его в инструмент господства, исключения и смерти», — заявил Лев XIV во время презентации энциклики в Ватикане.

В своем труде П неоднократно осуждает концентрацию власти и данных в руках немногих людей в частном секторе как опасность. Он потребовал внешнего регулирования их работы. «Недостаточно абстрактно ссылаться на этику. Необходимы прочные правовые рамки, независимый надзор, информированные пользователи и политическая система, которая не отказывается от своей ответственности», — заявил Лев XIV. «Более моральный ИИ недостаточен, если эта мораль определяется немногими».

К разработчикам ИИ и ответственным за регулирование ИИ политическим лицам, принимающим решения, П обращается с призывом сбавить темп и подумать о своих действиях. Он настоятельно призывает их ориентироваться на этические и духовные принципы и работать не ради собственной прибыли или власти, а на благо человечества.

На презентации энциклики также выступил Кристофер Ола. Он является соучредителем ИИ-компании Anthropic, которая в настоящее время находится в правовом споре с администрацией Трампа о доступе к ее ИИ-технологии и ее использовании для массовой слежки или для полностью автономного оружия.

Ола приветствовал критику и обеспокоенность Папы, а также его призыв к внешнему контролю, особенно учитывая, что существует «реальная возможность» того, что «ИИ вытеснит человеческую рабочую силу в очень большом масштабе». Технологические концерны находятся под сильным коммерческим и геополитическим давлением. Оно может противоречить интересам общества. Поэтому внешний контроль абсолютно необходим.

Продолжение после рекламы

Медицинский курорт VERBA
Премиальный отдых и полное медицинское обследование ЖКТ за 3 дня!

Реклама
16+
«Нам нужно больше действующих лиц по всему миру — религиозные сообщества, гражданское общество, ученые, правительства — которые делают то, что Его Святейшество сделал здесь: серьезно относятся к ситуации, внимательно смотрят и направляют события в лучшую сторону», — сказал Ола. «Нам нужны моральные голоса, которые не поддаются стимулам».

Соучредитель Anthropic назвал три области, требующие срочного внимания: риск массовой потери рабочих мест, справедливое распределение преимуществ ИИ по всему миру, а также нерешенный вопрос о том, как интерпретировать все более сложное поведение систем.

Ола — один из семи соучредителей Anthropic, американской ИИ-компании, которая сделала тему безопасности центральной частью своего публичного профиля. Все семеро ранее работали в OpenAI и покинули компанию, в том числе из-за опасений по поводу слишком быстрого развития ИИ с недостаточным тестированием.

На мероприятии в Ватикане Ола был единственным представителем крупных технологических концернов. Как сообщает «Politico», П Лев XIV уже встречался в конце апреля, то есть перед публикацией энциклики, с представителями Amazon, Meta* и Google. OpenAI, компания, стоящая за ChatGPT, не была упомянута. Как и некоторые другие технологические руководители, глава OpenAI Сэм Альтман пока не высказался публично о вероучительном послании Папы.

Некоторые эксперты заявили, что «Magnifica Humanitas» может служить ориентиром для политических деятелей, исследователей и широкой общественности. «Я убежден, что этот документ окажется путеводным для нашего времени, как глубокий и пророческий документ», — сказал Паоло Кароцца, профессор права в юридической школе Нотр-Дама и председатель наблюдательного совета Meta. «П Лев говорит ясным, всеобъемлющим и последовательным голосом и призывает нас взять на себя ответственность за формирование мира, в котором технология служит человеку, а не унижает его», — сказал он.

Тейлор Блэк, менеджер по ИИ в Microsoft и директор Института ИИ Католического университета Америки, сказал, что документ заставит людей «на вершине этих технологий» задавать себе такие вопросы, как: «Что значит быть человеком?»

Первое вероучительное послание в период правления нового Папы во многом считается своего рода правительственной декларацией его понтификата, оно должно дать верующим во всем мире моральный компас.

Влияние ИИ на человечество является центральной темой для Льва XIV. Он выбрал свое папское имя в связи с промышленной революцией, в ходе которой его предшественник по имени, П Лев XIII, опубликовал энциклику «Rerum novarum» о защите рабочих перед лицом технологического прогресса. Ровно 135 лет спустя, 15 мая, П Лев XIV подписал свою первую энциклику.