Фермер остался опустошен после того, как фермерский бот с искусственным интеллектом (ИИ), которому он доверял принимать важнейшие сельскохозяйственные решения, уничтожил 10 Га посевов, - пишет Slaynews.
Катастрофа произошла в китайском Чучжоу, где 67-летний фермер, известный только по фамилии У, почти год использовал большую языковую модель, которая помогала ему вести хозяйство.
Поначалу, казалось, что ИИ работает.
Сообщается, что У использовал чат-бота для получения советов по внесению удобрений, планирования и принятия других фермерских решений.
Однако после нескольких месяцев успешных рекомендаций он доверил системе нечто гораздо более важное.
ИИ предложил У план обработки пестицидами и убедил его, что это повысит урожайность. Вместе с тем, рекомендации нейросети уничтожили целое поле с рассадой кунжута.
Фермер в точности следовал плану по использованию пестицидов, разработанному искусственным интеллектом.
По данным тайваньского издания CTWANT, фермер У изначально скептически относился к идее позволить искусственному интеллекту влиять на его решения в сфере сельского хозяйства.
Первые успехи изменили его мнение и в итоге он стал полагаться на чат-бот во всем - от рекомендаций по внесению удобрений до планирования ежедневной сельскохозяйственной работы.
Затем ИИ-фермер разработал новый метод обработки пестицидами примерно 10 Га молодых посевов кунжута.
Замеледелец в точности следовал инструкциям и не консультировался со специалистом по сельскому хозяйству, а также не проверял самостоятельно состав смеси.
Он просто доверился "фермеру" с искусственным интеллектом.
Чат-бот дал У указание смешать несколько сельскохозяйственных химикатов, в том числе флупиридин, флуфеназат, тиаметоксам и эмамектин бензоат.
Предполагалось, что обработка уничтожит сорняки и вредителей.
Вместо этого она уничтожила урожай.
Через день после опрыскивания молодые растения кунжута начали увядать и погибать вместе с сорняками.
Химическая обработка сделала именно то, чего Ву хотел избежать.
Этот инцидент превратил месяцы успешного применения ИИ в сельском хозяйстве в дорогостоящее предупреждение о том, что может произойти, когда чат-боту доверяют принятие решений в реальной жизни, а человек-эксперт не проверяет его работу.
Катастрофа, произошедшая с У, не единственный пример того, как решения, принятые с помощью ИИ, приводят к серьезным последствиям за пределами компьютерного экрана.
Большие языковые модели уже не раз обвиняли в предоставлении неточных или сфабрикованных результатов в юриспруденции, медицине, финансах, образовании и СМИ. Теперь к этому списку добавилось сельское хозяйство.
Этот случай показывает, насколько опасно относиться к системам искусственного интеллекта как к автономным экспертам, а не как к инструментам.
Чат-бот мог генерировать правдоподобные рекомендации по ведению сельского хозяйства, но он не мог гарантировать, что эти рекомендации безопасны.
Интересный канал "Вместо блумберга"
Забавный канал "Смешные картинки"
Комментарии