Опытный авиадиспетчер бьет тревогу из-за плана правительства США передать контроль над воздушным пространством Америки системе SMART на искусственном интеллекте (ИИ), - сообщает Slaynews.
Тодд Шеридан Йери, ветеран авиадиспетчерской службы с 13-летним стажем, заявил, что у авиационного сообщества нет полного понимания о том, как будет работать нейросеть в системе управления воздушным движением.
Авиационные эксперты предупреждают, что SMART не готова разрешать опасные конфликты между воздушными судами без участия диспетчеров.
Однако власти наделяют ИИ правом принятия решений, от которых зависит жизнь и смерть
"Нельзя просто загрузить данные и ожидать, что они останутся актуальными, потому что условия управления воздушным движением постоянно меняются. Положение самолета, состояние взлетно-посадочной полосы, погодные условия и чрезвычайные ситуации могут измениться за считаные секунды".
Информация, которая была точной на момент ввода в систему, может оказаться устаревшей к тому моменту, когда ИИ выдаст свою рекомендацию.
В суровом мире управления воздушным движением одно ложное указание может подвергнуть опасности сотни жизней.
Ветеран также предупреждает о "галлюцинациях" ИИ.
Известно, что модели искусственного интеллекта генерируют неточные и непроверенные данные, а также ложную информацию, выдавая её за достоверный факт.
По мнению Йери, обязательно должен присутствовать контроль и возможность .ручного управления, которое должно осуществляться дежурным диспетчером.
Дело в том, что система искусственного интеллекта может передавать сфабрикованную или устаревшую информацию в диспетчерскую, отвечающую за безопасное разделение воздушных судов, летящих со скоростью сотни миль в час.
Без немедленного вмешательства человека технологическая "галлюцинация" может обернуться реальной авиакатастрофой.
Несмотря на всё это, первый "мягкий запуск" системы SMART запланирован в сильно перегруженном воздушном пространстве вокруг Вашингтона, округ Колумбия.
Йери предупредил, что правительство не должно экспериментировать с системой, пока в воздухе находятся настоящие самолеты и пассажиры.
"Пока у нас не будет возможности протестировать систему в реальных условиях, очень сложно сказать, сможем ли мы полагаться на эту информацию в режиме реального времени", - считает Йери.
Таким образом, федеральное правительство готовится внедрить систему SMART в одном из самых важных и загруженных авиационных регионов Америки, в то время как опытные диспетчеры все ещё задаются вопросом, что именно будет разрешено делать этой системе.
Эта новость появилась после того, как Пентагон сообщил, что чат-бот с искусственным интеллектом, которым пользовались американские аналитики разведки, едва не спровоцировал войну с Китаем.
Тогда нейросеть сгенерировала ложные данные о компонентах ядерного оружия на борту китайского судна, направлявшегося в Иран, что привело к подготовке операции спецназа США, которая, как предупредил один из чиновников, "едва не привела к войне" с Китаем.
Военные США были приведены в состояние повышенной готовности, а элитные подразделения США уже были в воздухе и готовились к высадке на борт китайского корабля. Операция захвата была своевременно отменена.
Вместе с тем, инфраструктура воздушного движения США уже не справляется. Тревожные события происходят на фоне серьезных сбоев в работе существующей авиационной инфраструктуры Америки.
В понедельник одновременно вышли из строя основная телекоммуникационная линия недалеко от Филадельфии и резервная линия.
Из-за сбоя на Восточном побережье возник хаос, и сотни самолётов были задержаны на несколько часов.
Сбой произошел из-за устаревшей инфраструктуры и перегруженности персонала.
Теперь федеральные власти готовятся внедрить в эту хрупкую систему экспериментальную платформу искусственного интеллекта, способную генерировать ложную информацию.
Предупреждение Йери предельно ясно: правительство не должно экспериментировать с работой SMART, когда пассажирские самолеты летают в воздушном пространстве США.
Интересный канал "Вместо блумберга"
Забавный канал "Смешные картинки"
Комментарии