生成AIはサイバーセキュリティに何をもたらすのか：リスクとメリット

近年、生成AI、特にChatGPTをはじめとする大規模言語モデル(LLM)が、AIと自然言語処理に革命をもたらしています。カスタマーサポートの自動化から、チャットボットによる自然な会話まで、AIは多くの人が思っている以上に社会に深く浸透しています。

この数カ月の間に、以下のものを含むさまざまなAIツールが公開され、AI開発の盛り上がりは最高潮に達しています。中でも特に、サイバーセキュリティのユースケース開発の動きは活発です。

• Stable Diffusion 
• Midjourney 
• DALL-E 
• ChatGPT / GPT-3.5 / GPT-4 

一方で、AIについてはマイナス面ばかりが強調され、組織のネットワーク保護に役立つ有益なユースケースは無視されがちです。一般的に、かわいい子犬よりも大惨事の方がトップニュースとしての需要が高く、ショッキングな事件ほど人々は興味をかきたてられるからです。しかし、盛んに取り上げられるマイナス面に正当な根拠はあるのでしょうか？

生成AIとは？

GPT-4に「生成AI」の定義を尋ねたところ、次のように返されました。

「生成AIは人工知能の一種で、既存の事例を学習し、学習した内容に基づいて独自の創作物を生み出すことにより、新しいもの、たとえば文章、画像、音楽などを作り出せるのが特徴です。巧みな技法を駆使してリアルなオリジナル作品を作ります」

妥当な回答です！SplunkのSURGeは、こうした新しいAIツールが防御(ブルー)チームにもたらす可能性を非常に有望視しています。そこで、サイバーセキュリティに関する新しいメリットと潜在的なリスクを考察すべく、この記事を執筆しました。この記事では、サイバーセキュリティにおける生成AIの現在の立ち位置をご紹介します。

(生成AIを活用したSplunk AIについては、こちらのブログ記事をご覧ください)

サイバーセキュリティにおけるAIのトレンドと課題

前述のとおり、この話題についてはすでに多くの議論がなされています。まずは、サイバーセキュリティにおけるAIについて人々がどのように考え、何を心配し、(ときとして)どのような行動を起こしているかをご紹介しましょう。

仕事を奪われる

今後1年間で一部の職種が生成AIの影響を大きく受けるという話題はさまざまなレポートで取り上げられています。ヨハネス・グーテンベルクが活版印刷技術を発明したとき(畢昇はこの説に異議を申し立てるかもしれませんが)、写本筆写者は恐れを抱きました。数カ月かけて手書きで本を書き写すという仕事がなくなるかもしれないのです！

ChatGPTは、活版印刷技術が何千人もの修道士の仕事を奪ったように、セキュリティの啓発に努めるライターを廃業に追い込むのでしょうか？かつてジャカード織機が多数の織物職人を失業させたように、検出担当のエンジニアを無用の長物にしてしまうのでしょうか？どちらとも言えません。

サイバー犯罪者と防御チームの攻防はよく軍拡競争になぞらえられ、競争で優位を保つにはイノベーションが必要です。AIは、既存の機能を強化、自動化、拡大するためには大いに役立ちますが、まったく新しい技法を生み出せるわけではありません(少なくとも今は)。サイバーセキュリティに関する一部の仕事はAIによって縮小あるいは排除されるかもしれませんが、強力なセキュリティの推進力となるのは今後も人間であり続けるでしょう。この業界がどれだけ人材不足にあえいでいるかを考えてもそれは明らかです。

ただし、ブログ執筆者は気を付けた方がよいかもしれません。ChatGPTは、800～1200語程度の辛辣な内容の記事をかなり上手に書くことができます。とはいえ、人々に読んでもらえるかどうかは怪しいところですが。

マルウェアを作成する

新しいテクノロジーが登場すると多くの場合、あらゆる分野の人々がその応用方法を探求しますが、そうした人々が皆善人なわけではありません。ChatGPTでも状況は同じです。

すでにいくつかの調査で、ChatGPTの内蔵のセキュリティ機構を回避してマルウェアを作成できることが確認されています。たとえばCyberArk社は、防御回避機能を持つポリモーフィック型マルウェアをChatGPTで作成することに成功したと報告しています。ChatGPTは、マルウェアの作成を当初拒否しましたが、プロンプトを工夫することで、指示に従ってマルウェアを作り始めたといいます。

AIで新しいマルウェアを生成できることは大いに懸念されますが、留意すべき重要な点がいくつかあります。

プログラミング経験がなくてもAIを使わずに新しいマルウェアは作れる。サイバー犯罪者はすでにマルウェアの大量生産体制を確立しており、日々何千というサンプルが新たに登場しています。AIで生成されたマルウェアの数が既存のマルウェアに追いつけるかどうかは定かではありません。  それでも、サイバー犯罪者が今後AIツールを悪用するのは確実であり、防御チームはその手口を理解し、攻撃に対抗できるだけのAI活用スキルを身に付けておく必要があります。

そもそも、コンピューターにマルウェアを作らせるという発想は新しいものではありません。20年ほど前、RATの師「Poison Ivy」は、サイバー犯罪をもくろむ未熟な弟子たちに、内蔵のジェネレーターを通じて、ポイント＆クリックでクライアント/サーバー型マルウェアを簡単にカスタマイズできる技を授けました。

AIが作成したマルウェアだからと言って高品質とは限らない。マルウェアの質を判断するときに考慮すべき要素はたくさんあります。AIが作成するマルウェアで特に重要なのは以下の点でしょう。

• コードが動作するかどうか。AIが生成したコードは最初から正しくコンパイル/構文解析できないことがよくあります。
• コードが設計どおりに動作するかどうか。AIが生成したコードでも、異なるOSバージョンやユーザー環境でコードが正しく動作することを確認するには相当量のテストが必要です。
• ターゲットに導入されているウイルス対策プログラムなどのセキュリティ機能を回避できるか。

AIにマルウェアを作らせることができたとしても、それを実際の攻撃に利用できるかどうかはまた別の問題です。

より高度なスピアフィッシングで人をだます

サイバー犯罪者は、よりだまされやすいフィッシングメールを作成するために生成AIを利用し始めています。AIツールを使って精巧なディープフェイク音声や動画を作成し、金銭を盗んだり採用面接を受けたりする攻撃も報告されています。Verizon社の2022年度データ漏洩/侵害調査報告書(DBIR)によると、フィッシングはネットワークに侵入するための足掛かりとして今日でもよく使われているため、この攻撃でのAI活用の動向を十分に注視していく必要があります。

これまで、フィッシングメールの内容といえば、言葉づかいや文法がでたらめで、5歳の子供が書いた文章の方がピューリッツァー賞候補にふさわしいと思うほどお粗末なものがほとんどでした。しかし今後は、そう簡単にフィッシングメールを見破ることはできなくなるでしょう。フィッシングはどんどん精巧になり、メールの文章は不自然な点がまったくないこともよくあります。

さらに、一部の攻撃者がわざと言葉づかいや文法を間違えて、不注意でだまされやすい受信者をあぶり出そうとしている証拠も見つかっています。この場合、攻撃者はそもそも、AIが生成する完璧な文章を必要としません。

全体として、フィッシング攻撃はすでに十分洗練されているため、AIによって精度が急に上がることはないでしょう。一方で、攻撃者にとってAIの使い道はほかにもあります。たとえば、AIベースの検索エンジンを使えば、ターゲットに関する詳細を瞬時に調べ上げて、攻撃全体を「パーソナライズ」できます。しかも、ChatGPTなどのツールにより、従来のフィッシングメールに見られたような不自然な文章は淘汰されるでしょう。

AIを悪用したフィッシングを心配するのは当然ですが、AIが思わぬ形で使われる可能性があることにも注意が必要です。

Rise of the Machines (機械たちの反乱)：生成AIの実験

生成AIが世界に旋風を巻き起こしていることは確かです。しかし、機械たちは反乱を起こしているのでしょうか？  サラ・コナーに助けを求めるべきでしょうか？その必要はないでしょう。では、攻撃と防御の両方の面でこのテクノロジーの使い方についてもっと深く学ぶべきでしょうか？その答えは、「もちろん！」です。

そこでぜひともご紹介したいのが、新しいブログシリーズ「Rise of the Machines」です。このシリーズでは、さまざまな実験を行って、サイバーセキュリティチームがより正確かつ効率的に仕事ができるようにするための生成AIツールの活用法を探ります。実験で得られた知見は、商標付きで(冗談です)、楽しく実用的な、いたずらに不安をあおることのない文書にまとめて公開する予定です。

強調したいのは、これらがあくまでも実験であり、完璧な解決策ではない点です。うまくいくこともあれば、見事に失敗することもあるでしょう。どう転ぶかはわかりません。ですので、ぜひこのシリーズをお読みになって結果を見届けてください！成功と失敗のどちらに終わっても、最終的には、ネットワークを安全に保つための新しいツールの最適な活用法を学べるはずです。念のため申し上げておくと、実験はすべて安全な環境で行い、機密情報は一切用いませんのでご安心ください。

私たちのAI探検の様子を楽しむだけでなく、そこから何らかのインスピレーションを得て、機械たちを敵に回すのではなく味方につける方法を見出していただけたら幸いです。

Splunkのセキュリティはいつでもファミリービジネスです。この記事はShannon Davis、David Bianco、Ryan Kovarの協力のもと執筆されました。

このブログはこちらの英語ブログの翻訳、横田 聡によるレビューです。