対話型生成AIが「偽サイト」案内の可能性、セキュリティ専門家が注意喚起

対話型生成AIの誤回答で偽サイト誘導の懸念

生成AI技術の進化と普及が進む中、その利便性の裏で新たな問題が浮上している。NHKの報道によると、対話型生成AIがユーザーの質問に応じる際、誤った情報を提供し、偽のショッピングサイトや詐欺サイトへのリンクを含む回答を提示していたケースが複数確認されたという。セキュリティ専門家は、AIの誤回答が悪意のあるサイトへのアクセスを招くリスクがあるとして注意を呼びかけている。

AIの「幻覚（ハルシネーション）」が引き起こす問題

生成AIは、大量のデータを学習して自然な文章を生成する技術だが、その回答は必ずしも正確であるとは限らない。特に、AIがデータ不足や文脈の誤解などにより事実と異なる回答を生成する現象、いわゆる「幻覚（ハルシネーション）」が問題視されている。この現象が原因で、AIが存在しないリンクや偽情報を含むサイトをユーザーに提示することがある。

今回報告されたケースでは、ユーザーが商品購入に関する問い合わせを行った際に、生成AIが信頼性の低いリンクを回答に含めたことが明らかになった。このような誤回答が悪意のある詐欺サイトへの誘導につながり、個人情報の流出や金銭的被害を引き起こす可能性がある。

セキュリティ専門家の警鐘

この問題について調査を行ったセキュリティ会社は、「生成AIはインターネット上の膨大なデータを基に回答を生成するが、そのデータの信頼性を完全に保証するものではない」と指摘。特に、AIが回答を生成する過程で、あたかも実在するかのように架空の情報を提示することがある点を強調した。

また、一部の詐欺グループが生成AIの特性を悪用し、AIが回答に含むリンクを人為的に操作する手口も懸念されている。例えば、検索エンジン最適化（SEO）を利用して偽サイトを上位に表示させ、AIがそれを正規の情報源と誤認するよう仕向ける手法が確認されている。

ユーザーが取るべき対策

生成AIを活用するユーザーにとって、情報の信頼性を自ら確認する姿勢が重要だ。以下のポイントが推奨されている：

1. 提供されたリンクを安易にクリックしない：特に、商品購入や個人情報入力が必要なサイトでは、URLの正当性を確認する。
2. 信頼できる複数の情報源で裏付けを取る：AIの回答がすべて正確であるとは限らないため、他の情報源と比較することが重要。
3. セキュリティソフトの活用：フィッシングや詐欺サイトを検出するソフトウェアを導入することで、リスクを軽減できる。

今後の課題と展望

生成AIの安全性を高めるためには、開発者側にも改善が求められる。具体的には、AIが参照するデータの信頼性を高める仕組みや、誤った回答を未然に防ぐアルゴリズムの改良が必要だ。さらに、政府や業界団体が連携し、詐欺サイト対策の強化や、ユーザー教育を進めることが急務だろう。

生成AIは、私たちの生活を便利にする一方で、新たなリスクももたらしている。技術の進化に伴う課題を正しく理解し、安全な利用方法を模索することが、今後の大きなテーマとなるだろう。