Китайский фермер потерял урожай из-за рекомендации ИИ

67-летний фермер из китайской провинции Аньхой запросил у одной из ИИ-моделей информацию по применению средств защиты растений на поле площадью 10 га, засеянном кунжутом. Применив агрохимикаты по рекомендации ИИ, на следующее утро фермер увидел, что погибли не только сорняки, но и весь кунжут. Ущерб оценивается примерно в 18 тыс. евро.
Название конкретной ИИ-модели не называется, но известно, что был применен гербицид фомесафен. Препарат содержит действующее вещество, эффективно борющееся с широколистными сорняками на соевых полях. Поскольку кунжут относится к двудольным растениям, на поле фермера он действовал как полный гербицид. Эксперты предупреждают: хотя генеративные модели естественного языка (LLM), такие как ChatGPT, способны генерировать «правдоподобные» тексты, они не обладают собственной базой агрономических знаний. Они связывают информацию из Интернета в профессионально звучащий ответ, фактически не „понимая“ биологических последствий или ограничений приемлемости.
Важный нюанс: китайский фермер уже несколько месяцев использовал ИИ для небольших консультаций и всегда добивался хороших результатов. Это постепенно растущее доверие привело к тому, что он отказался от внешней проверки со стороны консультантов-экспертов при принятии важной и сложной рекомендации.
Хотя оператор ИИ признал свою ошибку, он отказался выплачивать компенсацию фермеру. Платформа сослалась на стандартное уведомление об отказе от ответственности, размещенное на пользовательском интерфейсе. В нем указано, что контент, сгенерированный ИИ, может содержать неточности и требует дополнительной проверки.

Источник