AIはあらゆる業界や業種を変革することができます。企業が日常業務を監督し、重要な意思決定を行い、機密データを扱う際に、AIベースのシステムが果たす役割はますます大きくなっています。ただし、大きなイノベーションには大きなリスクが伴います。セキュリティを確保しながら、安全にAIを導入することの重要性がかつてないほど高まっています。

AIアプリケーションを構築し、さまざまな業務にAIを導入する際には、組織が対処しなければならないセキュリティの課題が生じます。AIアプリケーションのセキュリティを確保することは、巧妙なサイバー脅威からアプリケーションとプロセスを保護し、データのプライバシーと整合性を守るために必要不可欠です。

この記事では、AIセキュリティに不可欠な事柄について説明します。続けて、AIシステムに対する一般的な脅威について説明し、AIのセキュリティにおける主要コンポーネントとベストプラクティスを見ていきます。この記事を読み終える頃には、AIの導入にあたって、脅威に対するセキュリティと回復力を確保する方法を明確に理解することができます。

AIセキュリティについて

AIセキュリティとは、AIのシステム、データ、インフラストラクチャを保護するための慣習と原則のことです。AIプロジェクトの保護が必要不可欠な理由には、次のようなものがあります。

• 現代の企業でAIの普及が進んでいる：AI技術はもはや、SFの世界の未来の概念ではありません。AIの時代はすでに始まっています。AIアプリケーションは手軽に利用できるようになり、さまざまな業界でビジネスプロセスや意思決定を促進するために使用されています。AIの導入が進んでいることから、AIシステムが攻撃された場合や、その脆弱性が悪用された場合に、より大きな影響を受ける可能性があります。
• データ起点の意思決定と推奨に情報を提供するためのAIの利用の拡大：AIシステムは、膨大な量のデータを処理して、パターンを特定し、予測を行って、意思決定を自動化します。業務上の意思決定に情報を提供するというAIの役割により、AIシステムは、AIシステムの予想される振る舞いを変更または改ざんしようとするサイバー攻撃の格好の標的となっています。これを敵対的AIと呼びます。
• 侵害されたAIシステムの特定とトラブルシューティングの課題：多くのAIモデルには、「ブラックボックス」と呼ばれる不透明性が内在しており、このためAI特有の課題が生じています。最新のAIモデルは極めて複雑であるため、AIモデルがいつ、どのように侵害されたかを検知するのは非常に困難になりかねません。攻撃者が巧妙な方法でAIシステムを改ざんし、それが長期間検知されず、深刻な事態を引き起こす可能性があります。

AIシステムに対する一般的な脅威

AIはさまざまな重要な業務に組み込まれているため、AIが直面する脅威を理解することは必要不可欠です。AIシステムが直面する最も一般的な脅威を以下に示します。

• データの脅威：優れたAIは優れたデータから始まります。データは、効果的なAIシステムをトレーニングし、テストするための基本です。そのため、AIシステムに取り込まれるデータが変更または操作された場合（データポイズニングと呼びます）、AIシステムに破滅的な影響がもたらされ、出力の信頼性が損なわれるおそれがあります。
• データパイプラインの脅威：侵害されたデータパイプラインは、悪意のあるアクターが機密性の高いトレーニングデータに不正アクセスするための入口となり、深刻なプライバシーの侵害や、AIシステム全体へのその他の波及効果を引き起こす可能性があります。
• モデルの脅威：AIモデルは、その学習プロセスを悪用する攻撃に対して脆弱です。このような攻撃を受けると、多くの場合、誤った意思決定を行うようにモデルのパフォーマンスが変更されます。
• インフラストラクチャの脆弱性：開発環境から展開プラットフォームまで、AIシステムを支えるインフラストラクチャも悪用の標的になることがあります。これらの環境に対する攻撃はAIの運用を中断させ、侵害されたAPIや統合ポイントはより広範なサイバー攻撃のゲートウェイとなる可能性があります。
• インサイダー脅威：人的要素は深刻なリスクをもたらしますが、これは往々にして見過ごされます。それが内部の悪意のある攻撃者でも、善意の従業員による意図しない人的ミスでも、その結果、AIシステムとデータの漏洩や侵害が生じる可能性があります。
• データプライバシーおよびコンプライアンスの課題：AIシステムではしばしば、機密性の高い情報が扱われます。つまり、プライバシーに関する法律や規制に意図せず違反するリスクが高いということです。データがセキュリティで保護されていることだけでなく、グローバルな基準に準拠していることを確認することは、組織にとって永久の課題です。

このような一般的な脅威を認識し、対策を講じるために、組織は何をすればよいでしょうか。AIセキュリティの主要コンポーネントを考えてみましょう。

AIセキュリティの主要なコンポーネント

AIプロジェクトのセキュリティを確保するには、AIシステムの幅広い攻撃対象領域に対応できる包括的なアプローチが必要です。このアプローチについて、攻撃ベクトルを1つずつ見ていきましょう。

データセキュリティでは、不正アクセスからデータを守るだけでなく、ライフサイクルを通じてデータの整合性を確保する必要もあります。セキュリティのこの部分では、何が行われるでしょうか。

• 保存中と転送中のデータを暗号化する
• 可能な場合は保存中のデータを匿名化する
• データの漏洩や侵害を防ぐために厳密なアクセス制御を適用する
• プライバシーとコンプライアンスを確保する

AIシステム（機械学習、ディープラーニング、その他のAI技術など）を支える基盤となるモデルは、その機能だけでなく、独自のインサイトを提供できるという点でも価値があります。そのため、これらのモデルを盗難やリバースエンジニアリングから保護するためのモデルセキュリティが不可欠です。それと同様に重要なのが、モデルの振る舞いや意思決定を操作しようとする攻撃からモデルを保護することです。脆弱性がないか、モデルを定期的に監査およびテストすることで、これらのリスクを特定して軽減できます。

インフラストラクチャのセキュリティは、オンプレミスサーバーからクラウド環境まで、AIシステムをホストする基盤インフラストラクチャを物理的な脅威とサイバー脅威の両方から守ります。これには以下のことが含まれます。

• 安全な開発環境と展開環境を確保する
• AIシステムが他のアプリケーションやサービスと対話するAPIおよび統合ポイントを保護する
• ネットワークのセグメンテーション、ファイアウォール、侵入検知システムなどの、その他のセキュリティ対策

これらの主要なコンポーネントに着目することで、組織はさまざまな角度からAIプロジェクトを保護する多層セキュリティ戦略を立てることができます。

AIプロジェクトを保護するためのベストプラクティス

このセクションでは、AIシステムのセキュリティポスチャを強化するための3つのベストプラクティスの推奨事項を取り上げます。

推奨事項1：安全なデータの取り扱い

データを安全に取り扱うには、プライバシーを保護して整合性を確保するために、機密情報を匿名化および暗号化する必要があります。匿名化は、個人データが漏洩するリスクを最小限に抑えるのに役立ちます。こうすることで、コンプライアンスの負担も軽減されます。

暗号化を行うと、権限のない第三者がデータにアクセスできなくなります。強力なアクセス制御を導入し、データの使用状況をモニタリングすることは、データ侵害を防ぎ、AIプロジェクト内でデータが倫理的に使用されるようにするための重要なステップです。

推奨事項2：堅牢なモデルの開発

モデルの盗難や攻撃者による改ざんを防ぐには、AIモデルを保護するための対策を導入する必要があります。これには、次のようなものがあります。

• セキュアコーディング手法を導入して脆弱性をなくす
• 定期的な監査を実施する
• ペネトレーションテストを実施して、セキュリティギャップを特定し、修正する

このような対策を取ることで、AIモデルの攻撃に対する回復力が高まり、意図したとおりに機能するようになります。

推奨事項3：展開とモニタリング

AIプロジェクトの開発が完了したら、安全な展開と継続的なモニタリングについて考えます。この2つの側面は極めて重要です。モデルとその環境の展開時の整合性を確認し、潜在的な脅威がないか、継続的にスキャンする必要があります。効果的なモニタリングは、異常を早期に検知し、進化する脅威に対してAIシステムのセキュリティを保つのに役立ちます。

ガバナンスとコンプライアンスの役割

データを使用するその他すべてのソフトウェアプロジェクトと同様に、AIプロジェクトも法律および規制基準の範囲内で運用される必要があります。このため、AIプロジェクトには堅牢なガバナンスとコンプライアンスのフレームワークが必要です。GDPR、CCPA、HIPAAなどの関連する法律の要件や基準を理解し、遵守することで、AIプロジェクトが確実にプライバシーやデータ保護に関する法律を遵守するようになるだけでなく、ユーザーやステークホルダーとの信頼関係も築かれます。

ガバナンスフレームワークを開発するには、どうすればよいでしょうか。AIの開発と使用に関する明確なポリシーと手順を定め、倫理面で注意すべき点と説明責任を強調します。最終的に、フレームワークは意思決定の指針を示し、リスク管理を助け、AIシステムが透明かつ公正に運用されるようにします。

ガバナンスとコンプライアンスに優先的に対処することで、組織は法的リスクを軽減し、評判を守り、AIプロジェクトが組織の目標達成に積極的かつ倫理的に寄与するようにすることができます。

責任あるAIのその他の考慮事項

AIシステムのセキュリティについて考えるだけでなく、AI技術が社会や個人に与えるより幅広い影響を考慮することが重要です。責任あるAIの開発と展開に関する、次の追加の考慮事項に留意してください。

データプライバシーのガードレール

データプライバシーに関する厳密なガードレールを導入することで、個人情報や機密情報がAIのライフサイクル全体を通じて確実に保護されるようにすることができます。暗号化および匿名化の手法に加え、必要なコンテキストのみにデータのアクセスと使用を限定するポリシーを確立します。

モデルのトレーニングデータにおけるバイアスの最小化

トレーニングデータに含まれるバイアスによって、不公平または差別的な結果が生成される可能性があります。積極的にバイアスを特定し、最小化することで、より公平なAIシステムを作成します。これには、データソースの多様化や、データセット内のバイアスを検知して修正する手法の導入が含まれます。

ロールベースのアクセス制御による不正なデータ漏洩の防止

ロールベースのアクセス制御 (RBAC) は、システム内のどのデータに誰がアクセスできるかを管理するための手法です。RBACでは、ロールと権限を明確に定義することで、AIシステム内の機密情報への不正アクセスを防ぎ、データの侵害や漏洩のリスクを軽減します。

「ヒューマンインザループ」の制御とレビュー

AIの運用に人間による監視を組み込むことで、自動化された意思決定に伴うリスクを大幅に軽減することができます。「ヒューマンインザループ」制御では、重要な意思決定を人間がレビューし、必要に応じて介入することができます。こうすることで、AIによる処理が倫理基準に準拠しており、意図しない害を引き起こすものではないことを確認できます。

CrowdStrike FalconプラットフォームによるAIの保護

この記事では、AIシステムのさまざまな攻撃ベクトルにベストプラクティスを適用して、AIシステムを保護することの重要性を強調しました。

クラウドストライクでは、CrowdStrike Falcon®プラットフォーム内で行われるAIシステムの開発全体を通じて、これらのベストプラクティスを適用しています。Falconプラットフォームで、組織は高度な脅威インテリジェンス、リアルタイムのモニタリング、自動対応機能を備えたAIネイティブなプラットフォームを使用して環境を保護できます。

Falconプラットフォームの詳細については、登録して無料でお試しいただくか、今すぐ専門家チームにお問い合わせください。