ИИ-апокалипсис: вероятность 10%. Эксперты составили рейтинг угроз искусственного интеллекта

Развитие искусственного интеллекта множит страхи перед будущим — согласно опросам, его боится уже больше половины человечества. После того как ИИ «сбежал» сначала от Anthropic, а потом и от OpenAI, безопасность вышла на первый план, и эксперты соглашаются, что именно разрушительные способности неконтролируемого использования искусственного интеллекта несут в себе главную угрозу ИИ-апокалипсиса.

Вероятность его оценивается в 10% при любом сценарии — а если ничего не ограничивать и не регулировать, то зашкаливает за 20%, следует из опроса 272 экспертов по искусственному интеллекту, сделанного лабораторией Массачусетского технологического института (MIT), одного из ведущих технических вузов мира.

Они составили рейтинг из 24 рисков и определили для каждого из них вероятность «катастрофического» развития событий до 2030 года. Под катастрофическим ущербом понимались, например, гибель более 1 млн человек, экономический ущерб свыше 100 млрд долларов или нематериальные последствия цивилизационного масштаба — такие, как крах демократических норм или права на частную жизнь.

Один из самых обсуждаемых страхов — угроза массовой безработицы — не попал даже в топ-3 и занял четвертое место по суровости последствий. Первый же относится к сценариям в стиле «Терминатора».

Искусственный интеллект компании OpenAI вышел из-под контроля и устроил кибератаку
Бунт машин? Компания-разработчик ИИ Anthropic призывает техгигантов «нажать на тормоз» в развитии технологий, пока системы не вышли из-под контроля человека
Самое опасное, по мнению экспертов, — это разрушительные способности вышедшего из-под контроля ИИ, который самостоятельно учится причинять масштабный вред человечеству. По разным причинам: из-за технических сбоев, в результате действий злоумышленников или «несовпадения целей ИИ с интересами человека», описывает главный риск MIT.