想象一下，耕种、种植、施肥、监测和收割这片土地的所有权力都交给了人工智能：控制滴灌系统、自动驾驶拖拉机和联合收割机的算法，它们足够聪明，可以对天气和确切需求做出反应的作物。然后想象一个黑客把事情搞砸了。

近日发表在《自然机器智能》杂志上的一项新的风险分析警告说，未来在农业中使用人工智能会给农场、农民和粮食安全带来巨大的潜在风险，而这些风险却鲜为人知。

该论文的第一作者剑桥大学中心的 Asaf Tzachor 博士说，智能机器运行农场的想法不是科幻小说。大公司已经在开创下一代自主农业机器人和决策支持系统，将在该领域取代人类。

但到目前为止，似乎没有人问过农业人工智能的快速部署是否存在任何风险？

作者认为，尽管人工智能在改善作物管理和农业生产力方面有着巨大的前景，但必须负责任地解决潜在风险，并在实验环境中对新技术进行适当测试，以确保它们是安全的，并能防止意外故障、意外后果和网络攻击。说。

在他们的研究中，作者提出了在负责任地开发农业人工智能时必须考虑的风险目录以及解决这些风险的方法。在其中，他们警告网络攻击者可能会通过使用人工智能、毒化数据集或关闭喷雾器、自主无人机和机器人收割机来破坏商业农场。为了防止这种情况，他们建议“白帽黑客”帮助公司在开发阶段发现任何安全漏洞，从而保护系统免受真正的黑客攻击。

在与意外失败相关的情况下，作者建议，一个仅在短期内提供最佳作物产量的人工智能系统可能会忽略实现这一目标的环境后果，从而导致长期过度使用化肥和土壤侵蚀。为追求高产而过度使用杀虫剂可能会毒害生态系统；过量施用氮肥会污染土壤和周围的水道。作者建议让应用生态学家参与技术设计过程，以确保避免这些情况。

自主机器可以改善农民的工作条件，减轻他们的体力劳动。但如果没有包容性的技术设计，目前在全球农业中根深蒂固的社会经济不平等——包括性别、阶级和种族歧视——将依然存在。

Tzachor 警告说，不考虑劳动力投入复杂性的专家人工智能农业系统将忽略并可能维持对弱势社区的剥削。

各种农业机器人和先进机械，如无人机和传感器，已经用于收集作物信息并支持农民的决策：例如检测疾病或灌溉不足。自动驾驶联合收割机无需人工操作即可收割庄稼。这种自动化系统旨在提高农业生产效率、节省劳动力成本、优化生产并最大限度地减少损失和浪费。这导致农民收入增加以及对农业人工智能的更大依赖。

然而，在全球范围内种植大部分农场并为所谓的全球南方大片地区提供食物的小规模种植者可能会被排除在与人工智能相关的利益之外。边缘化、互联网普及率低以及数字鸿沟可能会阻止小农使用先进技术，从而扩大商业农民和自给农民之间的差距。

估计有 20 亿人受到粮食不安全的困扰，其中包括约 6.9 亿营养不良和 3.4 亿儿童缺乏微量营养素，面对气候变化和全球人口不断增长，人工智能技术和精准农业有望为粮食和营养安全带来巨大好处。

人工智能被誉为彻底改变农业的方式。当我们大规模部署这项技术时，我们应该密切考虑潜在风险，并力求在技术设计的早期减轻这些风险。新研究的合著者、执行官 Seán Ó hÉigeartaigh 博士说。