生成AI (GenAI) とは

生成AI（GenAIとも呼ばれます）は、既存のデータに基づいて新しいデータを生成することに特化した、人工知能の一分野です。この高度な技術によって、ますます多くのアプリケーションが、データの取得と分析、コンテンツ生成、要約などのさまざまなユースケースを実現しています。

生成AIは、脅威ハンターが継続的な調査のためにデータを取得できるようにサポートすることから、脆弱性管理ワークフローに通知されるリアルタイムのインサイトを提供することまで、サイバーセキュリティのコンテキストにおいても活用されています。この記事では、堅牢なサイバーセキュリティポスチャを実現するうえで、生成AIが果たす必要不可欠な役割について見ていきます。

生成AIの仕組み：概要

生成AIは、機械学習 (ML) と呼ばれるAIの一分野から生まれました。MLは、膨大な量のデータからパターンを学習して、自動的に改善されるアルゴリズムを使用します。MLのさまざまな分野の一つに深層学習があります。これは、人間の脳におけるニューロンの機能を模倣した、階層型のアルゴリズム（ニューラルネットワークと呼ばれます）を使用します。これを利用してシステムは、自律的に学習し、決定を下すことができます。

深層学習の中に、Transformerと呼ばれるニューラルネットワークの設計のタイプがあります。Transformerモデルは、入力データを並行して分析する人工ニューロンの階層を使用して、プロセスの効率を驚異的に高めます。このようなモデルの中で最も有名なのが、Generative Pre-Trained Transformerモデルです。一般にGPTと呼ばれます。これらのモデルは大量のデータを基に事前トレーニングされ、不気味なほど人間そっくりのテキストを生成できます。

簡潔にまとめると、生成AIでは次の手順が行われます。

• モデルが非常に大規模なデータセットを基にトレーニングを開始する
• モデルがデータ内の基盤となるパターンと構造を学習して理解する
• 生成プロセスによって、学習されたパターンと構造を模倣する新しいデータの作成が可能になる

ここまでに理解した内容を踏まえて、次は生成AIがサイバーセキュリティの領域で果たす役割について考えていきましょう。

サイバーセキュリティにおける生成AI

生成AIがサイバーセキュリティ分野に及ぼす影響の可能性は無数にあります。テキスト内のパターンを学習して再現できるのと同様に、サイバー脅威や脆弱性で検出されたパターンから学習したり、セキュリティ製品のドキュメントを学習して、アナリストがセキュリティツールに迅速にクエリを実行できるようにすることができます。

膨大な量の過去のサイバーセキュリティデータを基にトレーニングされた生成AIモデルは、パターンと傾向を特定できるため、将来の脅威を予測することができます。サイバーセキュリティの専門家は、脅威が発生したときに対応するのではなく、生成AIを利用して脅威が顕在化する前に予測し、既存のセキュリティツールの価値を最大限に高めることができます。生成AIを利用することで、企業はサイバーセキュリティに対し、プロアクティブなアプローチを取ることができるようになります。

生成AIは、チームがシステムをセキュリティで保護するのにも役立ちます。例えば、推測や解読が極めて困難な、複雑な一意のパスワードや暗号化キーを生成するために使用できます。脆弱な認証情報や侵害された認証情報は、セキュリティ侵害の入口として利用されることが多いため、生成AIによってセキュリティを強化することができます。

サイバーセキュリティにおける生成AIの長所と短所

サイバーセキュリティにおける生成AIは、サイバーセキュリティの専門家が現在直面している多くの課題に対する解決策を提供するため、多大な利点をもたらします。

• 効率性：生成AIを利用すると、サイバー脅威の検知と対応の効率を高めることができます。AIネイティブのシステムは特定のタスクの実行方法を学習することで、セキュリティアナリストが迅速に意思決定を下すのに必要な情報を解明できるようにします。これにより、アナリストのワークフローの処理時間が短縮され、追加のタスクに取り組むことができるようになり、チームの成果が増大します。
• 詳細な分析と要約：生成AIを利用することで、チームはさまざまなソースやモジュールからのデータを分析できるため、従来の時間がかかる、面倒なデータ分析を短時間で正確に実施することができます。また、生成AIを使用して、インシデントや脅威の評価の自然言語による要約を作成することで、チームが成果を出すまでの時間を短縮し、成果を倍増させることもできます。
• プロアクティブな脅威検知：生成AIの最も大きな利点は、おそらく、リアクティブなサイバーセキュリティからプロアクティブなサイバーセキュリティへの転換でしょう。生成AIは、学習したパターンに基づいて潜在的な脅威をチームに通知することで、侵害が発生する前に先手を打って対応できるようにします。

生成AIの使用は魅力的ですが、それに伴う課題を考慮することが重要です。生成AIを使用する際には、あらゆる技術と同様に、リスクと誤使用の可能性が少なくなるような方法を正しく判断する必要があります。

• 計算リソースの高さ：生成AIモデルのトレーニングには、非常に多くの計算能力とストレージが必要です。小規模な組織にとっては、これが制限要因となる可能性があります。
• AIが攻撃者に利用されるリスク：生成AIモデルと関連ツールは、オープンソースで安価な、クラウドベースの方法を利用して、より手軽にアクセスできるようになっています。企業がサイバーセキュリティに生成AIを利用できるのと同様に、サイバー犯罪者も生成AIを使用して、サイバーセキュリティ対策を回避することに長けた高度な攻撃を開発することができます。GPTベースのツールのエコシステムの拡大によって、生成AIは新たな脅威アクターが極めて巧妙な攻撃を実施する際の障壁を下げています。
• 倫理的な考慮事項：現在の生成AIに関する議論からは、プライバシーとデータの制御に関する倫理的な課題が提起されています。特に、AIモデルのトレーニングデータセットで使用されるデータの種類が課題となります。

Charlotte AIの紹介：AIネイティブのセキュリティアナリスト

クラウドストライクは、サイバーセキュリティにおける生成AIのユースケースとして、CrowdStrike® Charlotte AIを導入しました。これは、あらゆるスキルレベルのユーザーに対し、セキュリティ運用の複雑さを軽減する生成AIセキュリティアナリストです。ユーザーが（数十の言語で）Charlotte AIに質問をすると、Charlotte AIエンジンがCrowdStrike Falcon®プラットフォームと対話し、直感的な回答で応答します。

Charlotte AIは、組織のセキュリティポスチャに関するリアルタイムのインサイトを提供することができるため、企業のインテリジェントなセキュリティアナリストとして機能します。Charlotte AIは、サイバーセキュリティの専門家の能力を向上させ、Falconプラットフォームの豊富なリアルタイムデータを使用して、適切な意思決定を迅速に下すことができるようにします。また、Charlotte AIはセキュリティアナリスト専用に作られており、ユーザーのプライバシーを確保するための機密データの非表示機能、正確性を確保し、AIのハルシネーションを最小限に抑えるための監査可能性、権限のあるユーザーのみにデータが表示されるようにするための組み込みのロールベースのアクセス制御が備わっています。

生成AIは、サイバーセキュリティ分野に驚異的な可能性をもたらします。過去のサイバーセキュリティデータのパターンを学習するために、非常に大規模なデータセットを基にトレーニングされたモデルにより、予測型でプロアクティブな脅威検知で生成AIを効果的に使用することができます。ただし、生成AIの使用に伴う課題や懸念事項が存在することから、生成AIの使用をどのように抑制する必要があるかも見てきました。

最先端のAI技術を活用してセキュリティポスチャを強化しようとする企業は、Falconプラットフォームを選んでいます。AIネイティブの攻撃の痕跡 (IOA) とCharlotte AI（招待制のベータ版で使用できます）を利用することで、Falconプラットフォームユーザーは何時間分もの作業を数分や数秒で行えるようになり、最終的に、現代の攻撃者より優位に立つことができます。