中国で広がるAIの悪用（第2回）パクチーを合成して脅迫 信頼を崩壊させる返品詐欺とは
このシリーズではAI技術の発展が著しい中国における、AIを悪用した社会問題の数々を紹介している。今回お伝えする内容は、ネット通販で活発化しているAIを利用した返品詐欺である。
中国における「独身の日」。これは毎年11月11日に開催される世界最大級の巨大セールイベントである。
これは日付に「1」が4つ並ぶことに由来しており、大手ECサイトを中心に、家電や日用品まで、大規模な割引が実施される。
しかし、去年の「独身の日」は少し様相が違った。AIで偽造した不良品画像を用い、商品を実質タダで手に入れる、不当なクレームが多発したのである。
制度の欠点とAI技術の融合
この問題の原点となったのが、2021年以降に中国のネット通販で定着した「返品なし返金」制度である。元々はEC大手の拼多多（日本でTemuを運営する事業者）が消費者保護の目玉として導入したもので、その利便性の高さから競合他社も追随した。
この仕組みでは、届いた商品が不良品だった場合、プラットフォームが販売者の同意なしに返金処理を行う。さらに、購入者は商品を返送する義務も負わない。
消費者にとって極めて手厚い保護制度である一方、販売者にとっては大きなリスクを抱える制度だった。
この隙を突いたのが生成AIを悪用した不当返金である。この手口は、物販から飲食デリバリーまで瞬く間に拡大した。
ある購入者は、購入した鼻洗浄器のノズル部分が破損しているかのような画像をAIで合成し、返金を申請した。しかし、画像の端にAI生成の証拠が残ったままになっていたため、販売者にあっさりと見破られた。
また、靴の傷をAIで生成して申請したケースもある。
こうした明らかなAI生成の証拠を根拠に販売者がプラットフォームへ異議を申し立てても、事態が好転するとは限らない。
多くのプラットフォームは顧客第一主義に偏りがちであり、明確な証拠があっても当事者間で話し合って解決するように促すケースが大半を占める。
そして、このプラットフォーム側の不作為が、結果として悪質ユーザーを増長させる原因となっている。
さらに悪質なのは、食品領域への悪用である。 生鮮市場では、手元にある新鮮な果物の画像にAIでカビを合成し、全額返金を要求する手口が横行している。
悪質なユーザーは顧客第一主義の制度の特性に加え、法の不備も突いている。
顧客第一主義の制度では、商品を返品する際の費用も販売者側の負担となる。そのため、これら単価の低い日用品や食料品の場合、販売側は配送費の自己負担分を考慮せざるを得ない。
本当に不良品であるならば、わざわざコストをかけて送り返してもらうより、そのまま返金に応じた方が合理的で痛手が少ないという判断を下しがちになる。
詐欺行為で「手軽に得をする」
また、これらは単発の被害額が1000元未満であることが多く、刑法の「詐欺罪」の立件基準に達しない。そのため、警察への通報による刑事責任の追及が極めて困難である。
悪質なユーザーはこの販売側の割り切りと法の不備を逆手に取り、AIで偽造した欠陥画像を送りつけることで、返金を承諾させ、商品を実質タダでせしめているのである。
これらAIを利用した詐欺は、デリバリーアプリでも盛んにおこなわれている。
あらかじめ「パクチー抜き」で注文し、店舗側が要望通りパクチーを入れずに配達したにもかかわらず、届いた料理の画像の上にAIでパクチーを合成。
「約束が違う、食べられない」と店舗を脅し、返金を迫るのである。現在、こうした飲食店をターゲットにした詐欺的な返金スキームは、SNS上で「手軽に得をするノウハウ」として平然と拡散されており、社会問題化している。
こうした問題は、顧客第一主義を採用しているプラットフォームの不備と、悪意ある購入者のAIの乱用によって発生した。
今後の対応としては、プラットフォームによる返品ルールの見直しや、AI加工を検知する技術の導入、少額詐欺の厳罰化など、多角的な対応が不可欠であるが、実態として道半ばである。
繰り返しになるが、AI技術自体は間違いなく未来の技術であり、優れたツールである。悪いのはAIではなく、それを使ってルールや法の抜け穴を突こうとする人間の倫理観だ。
中国のネット通販におけるAIを使った返品詐欺は、技術が悪意のコストを極限まで下げた結果であり、その結果、売り手と買い手の信頼関係は崩壊の危機に瀕（ひん）している。
次回も引き続き、AIが悪用された社会問題について紹介を行っていく。
