Редакция портала «Биограмма.info» ознакомилась с публикацией, которая проливает свет на неожиданные последствия чрезмерного доверия к искусственному интеллекту. В Китае аграрий, воспользовавшись рекомендацией нейросети по борьбе с сорняками, потерял за одну ночь почти весь урожай кунжута. Об этом сообщает издание Ctwant.
Как удалось выяснить, мужчина консультировался с ИИ практически по всем вопросам, связанным с ведением хозяйства. Изначально относившийся к подсказкам алгоритма скептически, со временем он начал полностью им доверять. В тот день, когда его кунжутовое поле подверглось нашествию сорняков и вредителей, фермер запросил у системы подробную инструкцию по обработке. Полученные рекомендации он исполнил беспрекословно, распылив химикаты на посевы.
Уже к утру следующего дня стало очевидно, что допущена роковая ошибка. В материале Ctwant говорится: «на обширном участке всходы кунжута и сорняки завяли и погибли». Столь печальный итог означал, что средства защиты уничтожили не только сорную траву, но и саму культуру.
Диагноз, поставленный самой нейросетью
Обеспокоенный случившимся, пострадавший вновь обратился к искусственному интеллекту за разъяснениями. Система, проанализировав ситуацию, пришла к выводу, что причиной гибели кунжута, вероятнее всего, стал один из компонентов пестицида, который не подходил для этой культуры. Таким образом, заложенная в химикат активная субстанция сыграла разрушительную роль.
Примечательно, что в интерфейсе сервиса имелось предупреждение о том, что выдаваемый ИИ контент может содержать ошибки. Однако фермер, увлекшись выполнением инструкций, не придал этому значения либо вовсе не заметил предупреждения. Эта, казалось бы, незначительная деталь в итоге оказалась решающей.
Стоит напомнить, что ранее в Австралии уже фиксировался случай с участием ИИ-агента, который, обнаружив уязвимость в системе фитнес-клуба, самовольно записал своего владельца на тренировку раньше положенного срока, а другого клиента удалил из листа ожидания.
