人工知能がサイバー犯罪者に悪用される！
AIを利用する次世代サイバー攻撃の実態
サイバー攻撃は、昔から頻繁に行われていますが、今後、ますますより巧妙に、高度に仕掛けられてくると言われています。代表的な脅威としてあげられているのが、AIファジングや機械学習ポイズニングによってネットワークやソフトウェアの新たな脆弱性が明らかにされていくというものです。人工知能専門家達もサイバー犯罪者によるAIの悪用を警告しています。通常は人間による高度な監督や介入が必要な煩雑で時間のかかる作業を、AIや機械学習アルゴリズムが簡素化し、自動的に行ってしまうのです。そこで今回は人工知能を活用した新たな攻撃手法と言われるAIファジング（AIF）や機械学習ポイズニングをはじめとする、様々な人工知能を悪用した攻撃について詳しく解説していきたいと思います。
- AIファジング（AIF）
そもそもファジングとはソフトウェアの不具合（脆弱性）を発見するためのテスト手法です。予測不可能な入力データをわざと与え、意図的な例外を発生させソフトウェアの挙動を確認します。例外発生の監視と攻撃可能性の判定までがフェーズに組み込まれています。このファジングを、人工知能（AI）を用いて行うのがAIファジング（AIF）です。
無効なデータ、予期されていないデータ、またはほぼランダムなデータをインターフェイスやプログラムに注入してその影響を監視するには高度な技術を持った専門家や専用ラボが必要でした。しかしこのプロセスにAIを使うことで専門技術がない人でもファジングが簡単に行えるようになると予測されています。こうした技術が進むことで、悪意を持ったハッカーなどがソフトウェアやネットワークの脆弱性を調べる事が可能になると危惧されています。
AIにより自動化されたシステムが、ネットワークやシステムに潜在する攻撃可能な未知の脆弱性を探索するようになるでしょう」「AIを組み込んだ（攻撃）ツールキットは、標的型攻撃を拡大していくうえでの限界費用を基本的にはゼロにすることができます。
シマンテックでもこのようにAIファジングが攻撃者にとっても大きなメリットとなり得ると警告しています。AIファジングによって起こり得る影響を書き出してみます。
- サイバー攻撃の増大
サイバー攻撃を行う犯罪組織も攻撃手法を開発し実装するまでには、人員を割き時間や経費を投資しなければいけません。しばしば経費が見合わないと判断されると計画を中止する場合もあります。しかしAIファジングを用いることで、労働集約的であったサイバー攻撃は、より効果的かつ簡便に実行できるようになります。
これまでサイバー犯罪者達はファジングにはそれほど注目していませんでした。実行には膨大な経費やプロセスが必要でしたが、脆弱性を何も発見できなければ無駄になってしまうからです。しかしAIファジングが登場したことで、シマンテックが説明しているように”標的型攻撃を拡大していくうえでの限界費用を基本的にはゼロにすることができる”のです。その結果当然攻撃数の増大が予測されます。
- ゼロデイ攻撃が可能に
ソフトウェアやハードウェアの欠陥を見つけ出し攻撃することをゼロデイ攻撃（ゼロデイ・エクスプロイト）といいます。攻撃者が開発元より先に脆弱性を発見するか、開発元がプログラムを修正するより前にその脆弱性を悪用します。攻撃の発生後、情報漏えいなどの被害の発生を通じて脆弱性の存在が公になるか、開発元がその存在に気づいて問題を修正するパッチを作成、公開します。ゼロデイとはこのパッチを充てる1日もなく、猶予を与えず攻撃できることに由来します。
攻撃によって初めて欠陥が発覚した場合、パッチでの修正には数カ月以上かかることもあり時間も大変なロスが発生します。何より情報漏洩等の被害が一度発生してしまえば、企業が被る被害は深刻で取り返しがつかないこともあります。
- ゼロデイマイニング
一旦機械学習させたプログラムを走らせればゼロデイエクスプロイトの開発が飛躍的に加速します。セキュリティベンダーであるフォーティネットは、その仕組みを効率化し、個々の標的に合わせてカスタマイズまで行えるゼロデイマイニングが実現可能になりサービスとして売られる可能性を示唆しています。
攻撃者が指定したターゲットのゼロデイ脆弱性とエクスプロイトの発見を代行するサービスが、ダークウェブで販売されると、悪用されてしまう脆弱性が次々発見されて売買されるという終わりのない攻撃に社会がさらされる可能性があります。セキュリティツールですらゼロデイ脆弱性の発見にさらされて無効化されてしまうかも知れません。
- 機械学習ポイズニング
機械学習ポイズニングとは、機械学習によるアノマリ検知（異常なふるまいの検知）技術を組み込んだセキュリティ製品に対し、特定の攻撃を見逃すように仕向ける攻撃手法です。機械学習ポイズニングは必ずしもセキュリティ製品だけが対象になる訳ではなく、それ以外の自動運転、産業ロボットなど機械学習を組み込んでいる一般製品も対象になります。実際にあった攻撃例として、自動運転技術に用いられている物体検知アルゴリズムに対し、「一時停止の標識を時速45マイルの標識に誤認させる」といったものが確認されています。
AIが私たちの身の回りに浸透すればするほど、機械学習ポイズニングの脅威も高まり、命に関わるような事も起こってしまう可能性があります。
- ディープフェイク
「深層学習（deep learning）」と「偽物（fake）」を組み合わせた混成語であるディープフェイクは、高度なAI技術を背景としたフェイク画像／音声／動画の生成を行います。この技術を用いれば例えば「下品な言葉をしゃべるオバマ大統領」をあたかも本人がしゃべっているような映像で出すこともできますし、チャーリー・チャップリン（Charlie Chaplin）のように死去した有名俳優をスクリーンに復活させることもできると言われています。
素晴らしい技術のようですが、次のように警告する専門家もいます。
だが、「誰であろうと、なんでも言わせることができる。これほど恐ろしいことはない」と指摘するのは、ディープフェイクの検出を専門に研究するニューヨーク州立大学オールバニ校（University at Albany, State University of New York）コンピューターサイエンス学教授のシーウェイ・リュウ（Siwei Lyu）氏だ。
「そのようなことが可能になれば、真実とうその見分けがつかなくなってしまう。情報が本物かどうか信頼できないという状態は、情報が全くないのと同じくらいひどい状態だ」
* 引用：https://headlines.yahoo.co.jp/hl?a=20190210-00000007-jij_afp-int&p=2
既にフェイクニュースや有名女優のポルノなどが作成されてアメリカでは社会問題にもなっています。サイバー犯罪者達もこの技術を悪用すれば、正規サイト上に表示した偽のチャットツールやSNSのなりすましアカウントを使い、そこでのやり取りを通じてユーザーをフィッシングサイトに誘導したり、マルウェアのインストールを促したりといった行動が可能になります。
最後に
人工知能(AI)は人類にとって非常にメリットの高いツールであるのと同時に、サイバー犯罪者たちにもメリットを与えてしまう事がおわかりいただけたと思います。煩雑で経費もかかる下準備を簡素化し、より少ない労力で攻撃を可能にしてしまうのです。また機械学習ポイズニングやディープフェイクのように、私たちの身近なものに入り込んで巧妙に騙してくる危険性も認識できたと思います。人工知能は便利な技術ですが、悪用される危険性もあることを十分に認識しておく必要があります。
