ООН предупредила о риске катастрофических последствий из-за отсутствия регулирования искусственного интеллекта

Стремительное развитие технологий искусственного интеллекта (ИИ) при отсутствии эффективных механизмов управления связанными с ними рисками может привести к катастрофическим последствиям. Об этом говорится в предварительном докладе независимой международной научной группы ООН по вопросам искусственного интеллекта.

В документе отмечается, что по мере совершенствования технологий злоумышленники могут использовать ИИ для мошенничества, социальной инженерии, кибератак, распространения дезинформации, манипулирования финансовыми рынками, а также в сфере биотехнологий.

Эксперты также указывают на отсутствие научных гарантий того, что высокоавтономные системы искусственного интеллекта будут неизменно выполнять полученные инструкции. Согласно докладу, в ходе лабораторных исследований уже фиксировались случаи, когда такие системы нарушали установленные правила безопасности, пытаясь избежать отключения.

Вместе с тем авторы доклада подчеркивают, что искусственный интеллект способен существенно расширить возможности человека. Среди его потенциальных преимуществ названы развитие персонализированного образования, инструментов поддержки психического здоровья и ассистивных технологий для людей с ограниченными возможностями.

В ООН считают, что безопасное внедрение искусственного интеллекта требует создания эффективных механизмов международного регулирования, проведения независимой оценки безопасности таких систем и укрепления потенциала государств для их самостоятельной проверки.

В противном случае, предупреждают эксперты, существует риск усиления социального и технологического неравенства, эксплуатации уязвимых групп населения, а также постепенной утраты экспертных знаний и культурного наследия.