ダークAIの概要

AIが普及し、大勢の人々に利用されるようになるにつれ、悪意のある目的にも使用されるようになったことは驚くべきことではありません。イノベーションは諸刃の剣です。生産性向上の機会を表す画期的なマイルストーンであると同時に、武器として利用されることもあります。ダークAIとは、AI技術、特に最近の生成AI (GenAI) のイノベーションを利用して、サイバー攻撃の効果を高める、あるいは可能にすることです。ダークAIは、セキュリティシステムを侵害するために技術を学習し、適応させることを得意とします。

この記事では、ダークAIの詳細と、ダークAIが現代のサイバーセキュリティにもたらす課題について説明します。また、サイバー犯罪におけるダークAIの具体例としてFraudGPTを取り上げ、このような脅威に対する保護戦略を見ていきます。

ダークAIとは

効率の向上、意思決定の改善、タスクの自動化に利用できる従来のAIとは異なり、ダークAIは、このようなAIの利点を活かしてサイバー攻撃を仕掛け、システムに侵入して、データを操作することを目的として作られています。ダークAIの中核となる機能は、デジタルインフラストラクチャの脆弱性を悪用することです。多くの場合、ダークAIの影響に気付いたときには、すでに深刻な被害が加えられてしまっています。

従来のAIとの違い

従来のAIシステムは、一般に、倫理的なガイドラインに従い、有益な目的で構築されています。一方、ダークAIにはこのような制約はなく、悪意のある目的と利用法で運用されます。ダークAIは、生成AI技術を利用して人間の振る舞いを模倣しつつ、相手を騙すためのコンテンツを作成したり、目標を達成するために自己学習したりします。既存のサイバーセキュリティ対策の回避法を学んだダークAIは、特に危険度が高まります。

サイバーセキュリティの課題

ダークAIは、進化し続けるという性質によって従来のセキュリティ防御を出し抜くことができるため、サイバー脅威の検知と軽減を困難にします。また、多数の巧妙な攻撃をまとめて自動化することもできます。これは、個人データから重要なインフラストラクチャまで、さまざまな情報やデジタルシステムに対する脅威となります。

脅威アクターに対する参入障壁の低下

生成AIの登場により、悪意のある攻撃者に対する参入障壁は大幅に低下しました。生成AIを活用したツールを利用すれば、脅威アクターは非常に高度な攻撃を迅速に行うことができます。もはや、高度な技術的専門知識は必要ありません。

FraudGPT：ダークAIの例

ダークAIの実例に、FraudGPTがあります。これはサイバー犯罪用に作られたツールで、ダークウェブで販売されています。FraudGPTは、ChatGPTに似たインターフェースを持つ生成AIツールです。脅威アクターはこれを利用して、次のことを行えます。

• 悪意のあるコードを書く
• 検知不可能なマルウェアを作成する
• フィッシングページを作成する
• ハッキングツールを作成する
• 漏洩と脆弱性を見つける
• 詐欺のページやメッセージを作成する

FraudGPTは、2023年7月にNetenrichのサイバーセキュリティ研究者によって発見されました。当時、研究者は、TelegramのチャンネルやダークウェブのフォーラムでFraudGPTの出現を目撃しました。ダークウェブにあったFraudGPTの広告には、実際のツールの動作を示す動画が含まれていました。Netenrichの研究者はその広告のスクリーンショットを取り、投稿しました。

ソース

ChatGPTが、ユーザーがより質の高い調査、要約、執筆を行う際のハードルを下げたように、FraudGPTは、サイバー攻撃を組織しようとする個人やグループのハードルを下げました。有害な目的でAIの高度な機能を活用するFraudGPTは、ダークAIがいかにサイバー脅威の状況を一変させているかを体現するものです。

組織とコンシューマーへの影響

FraudGPTのようなツールの出現は、組織とコンシューマーの両方に重大な影響を及ぼします。ダークAIツールは、AIツールをトレーニングすることで、マルウェアによってネットワークに侵入し、企業のシステムを人質に取るためのランサムウェアを作成し、相手を騙したり、恐喝したりするためにディープフェイクを生成できる、新たな時代を体現するものです。これは、企業ネットワークと個人のデータセキュリティにとって深刻な脅威となります。

組織のサイバーセキュリティ対策に、ダークAIはどのような影響をもたらすでしょうか。ダークAIの使用が拡大していることから、AIを活用した脅威を検知し、特定するためのより高度なツールが必要であることは明らかです。さらに、組織はこのような脅威を軽減するための専門知識を身に付け、体制を整える必要があるほか、これまでにない大量の攻撃を迎え撃つ準備もしなければなりません。FraudGPTのようなツールは適応能力が高いことから、今日のサイバーセキュリティアプローチを転換する必要があります。特に、AI/機械学習 (ML) を利用してそのような脅威を予測し、対抗することが重要です。

ダークAIに対する保護方法

FraudGPTのようなダークAIツールから保護するには、意識の向上、高度な技術、高精度の脅威インテリジェンス、そして協力的な取り組みを組み合わせて行っていく必要があります。

第一歩として、組織はこのような脅威について従業員を教育する研修を実施する必要があります。個人に十分な知識があれば、フィッシング攻撃などの疑わしい活動をより的確に認識し、報告することができます。この人的要素は、組織の総合的な防御戦略にとって必要不可欠です。

次に、現代の組織は、ダークAIから生まれる脅威の巧妙さと速度に対応できる、AIネイティブなサイバーセキュリティツールを導入する必要があります。AIネイティブなツールは、ダークAIの活動を示す異常なパターンを検知して、敵である脅威と同様に、有効性を保つために進化し続けることができます。

生成AIやその他のAI/ML技術によって、サイバー犯罪者の攻撃速度はますますマシンの速度に近づいています。そのため、防御側が攻撃者に対する速度の優位性を取り戻すために、AIネイティブなツールを利用することが重要です。

最後に、組織はサイバーセキュリティコミュニティと密接に協力し合う必要があります。情報を交換することで、新たな知識や技術に関する業界の理解度を高め、ダークAIの発展に先んじて守りを固めることができます。

ダークAIとの戦いにおけるクラウドストライクの役割

ダークAIの台頭は、現代のサイバーセキュリティにおける深刻で激化する脅威の現れです。FraudGPTのような悪意のあるツールが含まれるダークAIは、進化し、適応することができるため、脅威の検知と対処は日を追うごとに困難になっていきます。ダークAIは、多数の複雑なサイバー攻撃をまとめて自動化することもできるため、あらゆる組織に甚大なリスクをもたらします。

クラウドストライクは、ダークAIの脅威との戦いにおいて非常に重要な役割を果たします。CrowdStrike Falcon^® Adversary Intelligenceは、ダークウェブの監視専用に作られており、サイバー犯罪者の活動に関する重要なインサイトを提供します。リアルタイムのダークウェブのモニタリングによってサイバー犯罪活動を検出し、犯罪フォーラム、犯罪マーケットプレイス、アンダーグラウンドコミュニティにおける悪意のある活動を追跡します。Falcon Adversary IntelligenceおよびFalconプラットフォームは、自動インテリジェンスオーケストレーション、コンテキストエンリッチメント、AIネイティブな調査ツールによってセキュリティスタック全体を最適化することで、セキュリティチームを支援します。