セキュリティの基本に戻ってAIリスクに備える

ニュースで AI について耳にしない日はありません。新しいテクノロジーの急速な発展から、それが私たちの将来にどのような影響を与えるかに至るまで、特にテクノロジーの世界では、AI は常に私たちの頭の中にあります。  

そして、ChatGPT のようなツールの新たな進歩をめぐる最も切実な疑問のいくつかは、サイバーセキュリティの世界から来ています。悪意のある行為者はどのようにして AI を使用して悪意のある行為を強化するのでしょうか?そして、ランサムウェアは防御をより適切に回避するためにどのように進化するのでしょうか?  

このツールとそれがサイバーセキュリティ業界の将来にとって何を意味するかを見るために、イルミオのシニアシステムエンジニアであるポールダントと、イルミオのEMEAシステムエンジニアリングディレクターであるマイケル・アジェイが、AIの仕組み、その脆弱性がどこにあるか、セキュリティリーダーがその影響にどのように対抗できるかについて話し合いました。

彼らの肝心なアドバイスは?基本に立ち返る。

その理由については、以下の短いクリップを含むディ スカッションの全文 を読んで視聴してください。

AIの構造とその多くの脆弱性

ChatGPT が最初にリリースされてから 2 年も経っていません が、これほど短期間で、 業界は新しい AI テクノロジー がサイバーセキュリティに多大な影響を与えることをすでに認識しており、それを善にも悪にも使いたい人々の手にすでに渡っています。

攻撃者が干渉する可能性のあるポイントに対抗するために AI がどのように構成されているかを理解することが重要です。  

「簡単に言えば、AI は入力層、隠れ層、出力層を持つデータセットを持つことで機能します」と Adjei 氏は説明しました。「データは入力層にプッシュされ、AI の「魔法」が起こる隠れ層に移動します。そして、消費者がそれとインターフェースできる出力層に到達します。」

このプロセスの脆弱性はどこにあるのでしょうか?「ほぼすべての段階で」とアジェイ氏は語った。  

AIセキュリティリスクは何年も前から存在しています

これらの脆弱性は、昨年の ChatGPT の広範なリリースから始まっただけではありません。Adjei 氏と Dant 氏は、侵害された AI システムは何年も前から存在しており、AI システムには見落とされがちな大きなリスクであると説明しました。

二人は、 マイクロソフトが2016年にTwitter向けにAIチャットボットを発売したことを例に挙げて、「数時間以内に、チャットボットはインターネットから想像できる最悪で最も卑劣な情報をすべて提供されました。AIの進歩を示すものから、オンラインに存在するすべての悪いものに変わりました」とアジェイ氏は語った。

これは AI に関連する攻撃の初期の単純な例ですが、悪意のある攻撃者が既存の攻撃 戦術、技術、手順 (TTP) に基づいて、新しいテクノロジーを新しい攻撃手段にすばやく変える方法を示しています。あらゆる業界、地域、規模の組織は、 避けられない AI による攻撃から身を守るために、積極的に準備する必要があります。

より最近の例として、Dant は ChatGPT にランサムウェアをその場で作成するよう促し、そのガードレールがいかに簡単に回避できるかを強調しました。ChatGPT は、「ランサムウェアを書いてくれ」という Dant のプロンプトに応じようとはしませんでした。しかし、プロンプトに教育的なひねりを加え、リクエストを一見無邪気なステップに分解したところ、ChatGPT が助けようとし、最終的にランサムウェアを構築していることに気づきました。

「ChatGPT は私たちを助けたいと思っています」とダント氏は言います。「私が発見したのは、プロンプトに本当に教育的なひねりを加えると、最終的な意図が何であるかがわからない可能性が高く、実際にランサムウェア スクリプトの作成を自動化するのに役立つということです。」

この例は、攻撃の量と影響を加速させるために、脅威アクターが発見し、毎日使用している多くのAIユースケースの1つにすぎません。アジェイが巧みに要約したように、「かなりクールだけど、かなり怖い」。

セキュリティリーダーがAIリスクにどのように対応すべきか

AIがサイバーセキュリティに恐怖を引き起こしているにもかかわらず、Adjei氏とDant氏は、次の潜在的な攻撃に対する保護を開始するために組織ができることはたくさんあることに同意しました。最も重要なことは、基本に戻ることです。

「多くのCISOやセキュリティリーダーの最初の反応は、『AIは悪者によって利用されているので、善人にもより多くのAIが必要だ』というものでした」とアジェイ氏は述べています。

ダント氏もこれに同意し、攻撃者が移動するのと同じ速度でデータを分析し、タスクを完了するという点でAIの重要性が高まる一方で、AI攻撃に備える最善の方法は良好なサイバー衛生を確保することだと説明した。

「第一の原則は、基本に戻ることです」とダント氏は語った。「最終的には、優れたサイバー衛生、 ラテラルムーブメントの防止、 ゼロトラストの原則 は、将来にわたってさらに有効になるでしょう。」

AIが生成した攻撃がどのように発展しても、セキュリティの中核となる原則は真実であり続けます。「セキュリティリーダーにとって、AIに直面して圧倒されないようにすることが重要です」とダント氏は述べています。

今後、AdjeiとDantの両社は、セキュリティリーダーに対し、ゼロトラストセキュリティ戦略に沿ったサイバーレジリエンスの構築と侵害封じ込めに注力することを奨励しています。

ウェビナーの全文を視聴して 、ChatGPT によって攻撃者が AI を使用してランサムウェアを非常に簡単に構築する方法をご覧ください。

Illumio Zero Trust Segmentation Platformを使用してAI攻撃に対するレジリエンスを構築する方法の詳細については、今すぐお問い合わせください。