麦畑に農薬を散布するドローン。
人工知能 (AI) は、農業革命を推進しようとしており、増加する世界人口に持続可能な方法で食料を供給するという課題に立ち向かうのに役立っています。しかし研究者は、新しい AI テクノロジーを大規模に使用することには、考慮されていない大きなリスクがあると警告しています。
地平線まで広がる小麦畑を想像してみてください。小麦粉は、都市の価値のある人々を養うためのパンになります。この畑の耕作、植え付け、施肥、監視、収穫のすべての権限が人工知能に委任されていると想像してください。点滴灌漑システム、自動運転トラクター、コンバイン収穫機を制御するアルゴリズムは、天候や天候に対応するのに十分なほど賢いです。作物の正確なニーズ。次に、ハッカーが物事をめちゃくちゃにすることを想像してみてください。
最近ジャーナル Nature Machine Intelligence に掲載された新しいリスク分析 、農業における人工知能の将来の使用には、十分に理解されておらず、十分に評価されていない、農場、農家、および食料安全保障に対する実質的な潜在的リスクが伴うと警告しています.
「農場を運営するインテリジェントなマシンのアイデアは、サイエンス フィクションではありません。大企業はすでに、現場で人間に取って代わる次世代の自律型アグボットと意思決定支援システムの先駆者となっています」
「しかし、これまでのところ、『農業用 AI の急速な展開に関連するリスクはありますか?』という質問をした人は誰もいないようです」と彼は付け加えました。
作物管理と農業生産性を改善するための AI の大きな期待にもかかわらず、潜在的なリスクに責任を持って対処し、実験環境で新しい技術を適切にテストして、偶発的な失敗、意図しない結果、およびサイバー攻撃に対して安全であることを確認する必要があります、と著者は述べています。いう。
彼らの研究では、著者は、農業用 AI の責任ある開発において考慮しなければならないリスクのカタログと、それらに対処する方法を考え出しました。その中で彼らは、サイバー攻撃者が AI を使用して、データセットを汚染したり、噴霧器、自律型ドローン、ロボット収穫機をシャットダウンしたりして、商業農場に混乱を引き起こす可能性があることについて警告を発しています。これを防ぐために、彼らは「ホワイト ハット ハッカー」が企業が開発段階でセキュリティ上の欠陥を発見するのを支援し、システムを実際のハッカーから保護できるようにすることを提案しています。
偶発的な失敗に関連するシナリオでは、短期的に最高の収穫量を達成するためだけにプログラムされた AI システムは、これを達成することによる環境への影響を無視し、長期的には肥料の過剰使用と土壌浸食につながる可能性があることを著者は示唆しています。高収量を求めて殺虫剤を過剰に使用すると、生態系が汚染される可能性があります。窒素肥料の過剰施用は、土壌と周囲の水路を汚染します。著者らは、これらのシナリオを確実に回避するために、技術設計プロセスに応用生態学者を関与させることを提案しています。
自律型機械は、農家の労働条件を改善し、手作業から解放することができます。しかし、包括的な技術設計がなければ、ジェンダー、階級、民族差別など、現在世界の農業に定着している社会経済的不平等は残るでしょう。
「労働投入の複雑さを考慮しない専門家の AI 農業システムは、不利な立場に置かれたコミュニティの搾取を無視し、潜在的に維持するでしょう」と Tzachor は警告しました。
ドローンやセンサーなどのさまざまなアグボットや高度な機械は、作物に関する情報を収集し、農家の意思決定を支援するためにすでに使用されています。たとえば、病気や不十分な灌漑の検出などです。また、自動運転のコンバイン収穫機は、人間のオペレーターを必要とせずに作物を収穫できます。このような自動化されたシステムは、農業をより効率化し、人件費を節約し、生産を最適化し、損失と廃棄を最小限に抑えることを目的としています。これにより、農家の収益が増加し、農業 AI への依存度が高まります。
しかし、世界中の大部分の農場を耕作し、いわゆるグローバル サウスの大部分を養う小規模生産者は、AI 関連の利益から除外される可能性があります。周辺化、インターネット普及率の低さ、デジタル格差により、小規模農家は高度な技術を使用できなくなり、商業農家と自給自足農家の間の格差が拡大する可能性があります。
約 6 億 9000 万人の栄養失調と微量栄養素欠乏症に苦しむ 3 億 4000 万人の子供を含む、推定 20 億人が食糧不安に苦しんでおり、人工知能技術と精密農業は、気候変動と世界人口の増加に直面して、食糧と栄養の安全保障に大きな利益を約束します。 .
「AI は農業に革命を起こす方法として歓迎されています。この技術を大規模に展開する際には、潜在的なリスクを綿密に検討し、技術設計の早い段階でそれらを軽減することを目指す必要があります」と、CSER のエグゼクティブ ディレクターであり、新しい研究の共著者である Dr. Seán Ó hÉigeartaigh は述べています。
参照:「農業における責任ある人工知能には、リスクと外部性の体系的な理解が必要です」、Asaf Tzachor、Medha Devare、Brian King、Shahar Avin、Seán Ó hÉigeartaigh 著、2022 年 2 月 23 日、Nature Machine Intelligence .
DOI:10.1038/s42256-022-00440-4
この研究は、Templeton World Charity Foundation, Inc. によって資金提供されました。
