На прошлой неделе сбой в авиасообщении по всей территории США и перебои в работе Microsoft, JPMorgan Chase и United Airlines вызвали вопросы о возможной роли недавно внедренных систем искусственного интеллекта. Глава Министерства внутренней безопасности США допустил такую связь в телеинтервью, однако не привел подтверждений. Пока причины не установлены, нельзя определить, вызваны ли инциденты внедрением ИИ, устаревшей инфраструктурой или не связанными между собой проблемами.
Доказательств связи сбоев с ИИ нет
Министр сказал, что эту версию высказал человек, которого он считает сведущим в технологиях, и что она показалась ему правдоподобной. При этом он признал, что не уверен в ее точности. В открытом доступе нет данных, подтверждающих общую причину сбоя в авиасообщении и недавних перебоев в работе Microsoft, JPMorgan Chase и United Airlines или участие в них нового программного обеспечения на базе ИИ.
По словам министра, растущая зависимость общества от технологий может создавать нагрузку на старые резервные системы: им становится сложнее справляться с усложнением цифровой инфраструктуры. Он оценил вероятность того, что США не подверглись кибератаке, примерно в 98%. Однако эта оценка не объясняет причины сбоев в авиации и других организациях.
Для авиакомпаний, финансовых организаций и поставщиков облачных услуг установление первопричины важно для восстановления сервисов, обеспечения непрерывности бизнеса и оценки рисков. Предположения не заменяют технического расследования.
Устаревшая инфраструктура осложняет расследования
Вопросы устойчивости цифровых систем возникли задолго до нынешнего бума ИИ. Специалисты по технологиям давно предупреждают, что часть цифровой и физической инфраструктуры США поддерживается в неудовлетворительном состоянии, а локальная неисправность в связанных между собой системах может привести к более масштабным последствиям.
Часто приводимый пример — масштабное отключение электроэнергии на северо-востоке США в 2003 году. Сбой программного обеспечения в штате Огайо стал одним из факторов цепной реакции, в результате которой электричество пропало на большой территории, включая Нью-Йорк.
ИИ добавляет к расследованиям еще один уровень сложности. Разработчики продолжают изучать поведение моделей и способы контроля над ними. Подключение нового ПО к действующим ИТ-средам может сделать взаимодействие систем менее предсказуемым. Но сама по себе сложность не доказывает, что ИИ стал причиной конкретного перебоя. Были ли связаны отключение авиасообщения и корпоративные сбои, должны установить расследователи.
Подтвержденные факты важно отделять от версий
Общественность и СМИ вправе спрашивать о причинах крупных перебоев, однако расплывчатые объяснения, появившиеся после инцидента, не следует принимать за выводы расследования. В то же время поспешное объяснение каждого сбоя кибератакой или ИИ может поддерживать постоянную тревогу и притупить внимание к реальным предупреждениям. Но если ждать полного понимания всех рисков, времени на подготовку может не остаться. В сообщениях важно четко разделять установленные факты, открытые вопросы и предположения.
Путаница возникала и в соцсетях. Некоторые пользователи называли 17 ноября датой общенационального отключения электричества, однако фактических оснований у этого утверждения нет: подтверждений так называемого «блэкаута 17 ноября» не существует. Даже опровержение непроверенной информации может привлечь к ней дополнительное внимание и заставить часть аудитории поверить в нее.
Пока связь между этими инцидентами не подтверждена, у обычных пользователей нет конкретных действий, которые следовало бы предпринять именно из-за этой версии. Практически значимые вопросы — восстановлены ли отдельные сервисы, сколько людей затронули перебои и когда операторы и расследователи обнародуют результаты. Участие ИИ в сбое авиасообщения или перебоях в работе Microsoft, JPMorgan Chase и United Airlines не доказано.