セキュリティ最新ニュース SECURITY NEWS

  • このエントリーをはてなブックマークに追加

Security

AIはサイバーセキュリティーの「銀の弾丸」となるか?

Check Point社Head of Threat Prevention ProductsのOrli Gan氏が、AIとサイバーセキュリティーをテーマとした基調講演を行いました。
非常に示唆に富む内容でしたので、ここでその一部を抄訳してご紹介します。
各項目の見出しは基調講演のスライドから引用したもの、及び筆者が独自に付記したものです。

AIは魔法か?

AIは次の産業革命です。第一次産業革命において腕力が機械に置き換わったように、AI革命では頭脳が機械に置き換わります。
ストレージや処理能力、更にアルゴリズムの向上により、ショッピングサイトでのレコメンド、画像検索、音声認識技術など、身の回りでもAIが利用される機会は急増しています。では、果たしてAIは魔法でしょうか?
最近のいくつかの例を見てみましょう。MicrosoftのチャットボットであるTayは、短時間で差別的思想に汚染され、とんでもない投稿をするようになりました。Microsoftは謝罪の上Tayを「シャットダウン」しました。
また、表現に性差の無いトルコ語をGoogle翻訳で英語に翻訳すると、「She is a cook(彼女は料理人)」「He is an engineer(彼はエンジニア)」「He is happy(彼は幸せ)」「She is unhappy(彼女は不幸)」というように、明らかなジェンダーギャップが見られます。これはGoogleのエンジニアが性差別主義者だからでしょうか?無論そうではありません。彼らのAIが言語を学んだ膨大なテキストが、私たちの文化に存在するジェンダーバイアスを抱えていたのです。

AIは魔法ではない

AIは魔法ではありません。魔法のような知性からはまだまだ程遠いのが現状です。しかし決して、使い物にならないような代物でもありません。
最良の結果を得られるAIソリューションには2つの要素が重要です。1つはデータで、量が多いだけではなく豊富な情報量が必要です。
そしてもう1つは専門知識です。ここで求められる専門知識にも2つあり、1つはAIの基礎を構築・微調整するための数学の専門知識、そしてもう1つは特定領域に関する専門知識です。
これは本来のAIの概念に反するかもしれません。しかし現在の技術ではAIによる自己調整・自己学習が可能な状況には程遠いのです。この問題を解決するには、その領域の専門知識が必要となります。例えばスピーチ認識をさせたければ人間のスピーチパターンに関する専門家が、画像認識をしたければデジタル画像の専門家が、そしてサイバーセキュリティーに使いたければサイバー環境の専門家が必要なのです。

サイバーセキュリティーにおけるAI

サイバーセキュリティーにおけるAIの誇大広告については、枚挙に暇がありません。「AIを使用している」と全てのベンダーが言い、「AIが製品の中核である」と言う者もいれば、「AIは、我々が描こうとしている巨大な絵のほんの一部に過ぎない」と言う者もいます。
ここで、その能力の程について先程と同様の疑問が生じます。即ち、「サイバーセキュリティーにおけるAIは魔法か?」「我々の業界が探し求める銀の弾丸となるのか?」と。
「サイバーセキュリティーでAIを利用することで顧客の抱える課題を根本的に解決できるか」という質問に対する私の答えは、当然ながら「いいえ」です。サイバーセキュリティーのAIは、他の分野と同様の根本的な問題を抱えています。つまり「不十分なデータ」と「不十分な専門知識」です。
サイバーセキュリティーのトレーニングデータへのアクセスは極めて困難です。あなたが小さな新興企業ならそもそもそうしたデータにアクセスできませんし、パブリックドメインで関連データを見つけることも望めません。ベンダーであったとしても同様です。顧客はデータをベンダーと共有することを渋るでしょうし、仮に共有しても難読化・曖昧化されるためにAIの訓練には役立たないでしょう。
十分なデータにアクセスするには、多くの顧客を抱える大手ベンダーになるしかありません。

AIの信頼性

私たちが解決しようとしている別の問題は、AIの導き出した評決をAI自身が解説しようとはしないことです。
AIの評決を手作業で検証するという道はありますが、言うまでも無く実用的とは言えません。
あるいはAIに全幅の信頼を置いて「これは正しい評決なのだ」と判断することも一つです。しかしこの方法は、「AIシステムは誤検知率が高い」という事実さえ無ければ良い方法と言えたかもしれません。AIシステムと正確性を重視した他のエンジンとを比べると、AIは常にと言わないまでも高い頻度で誤った結論を導き出します。
例えば画像認識のような領域ならば、AIがケーキを「アイスクリームだ」と誤検知しても大した害はありません。しかしサイバーセキュリティーの領域においては、誤検出、検知漏れ、フォースポジティブは、組織に著しい不利益をもたらすことがあります。
ですから、AIはサイバーセキュリティーの魔法ではありません。数年後にはそうなっていてほしいと思っていますが、少なくとも今は違います。

「AIは魔法ではない。しかし有能だ。」

しかし、AIが使い物にならないというわけではありません。アルゴリズム、機械学習、深層学習、ビッグデータ分析などこれら全ては、確かにサイバーセキュリティーへ革命をもたらしています。
AIにより、以前なら手作業で処理していたタスクが自動化され、私たちははるかに大きな規模の問題に対処することができるようになりました。実際に「Smart-1」ではこの技術を利用し、膨大な量のログデータを二度と見ずとも、それが何を意味するのか理解できるようになりました。私たちは、AIには現代の抱える課題に取り組むだけの可能性があると認めています。

コメント

「AI」、「機械学習」、「深層学習」などの言葉が耳目に入る機会はグンと増えましたが、スピーチ内にもあるように「AI」という言葉が安易な使われ方をされることもあります。この基調講演はそのような安直さには背を向けた、AIと堅実に向き合った内容でした。
今回ご紹介したのは基調講演の冒頭から13分頃までの内容です。下記リンクから元の基調講演をご覧いただけます。

関連リンク(外部リンク)

Is AI a Silver Bullet in Cyber Security – Check Point Software Technologies. Ltd. | YouTube

記事一覧に戻る