生成AIが悪用される主な脅威は、「フィッシングメールやマルウェアの巧妙化」「ディープフェイクによるなりすまし」「脆弱性の自動探索」の3点です。生成AIの高度な文章生成やコード分析能力により、従来よりも低コストで大規模かつ巧妙なサイバー攻撃が可能になっています。
- フィッシングメール・マルウェアの巧妙化
自然な文章で偽メールを大量生成し、受信者を欺く。また、既存ウイルスの亜種の生成を支援することで、対策ソフトの検知を回避する手口も指摘されている。 - ディープフェイクによるなりすまし
生成AIで合成した本物に近い顔や声を利用し、本人になりすます。経営者を装った不正送金指示や、偽情報の拡散による企業価値の毀損が深刻なリスクとなっている。 - 脆弱性の自動探索と攻撃プログラムの作成
システムの弱点（脆弱性）をAIが自動で発見し、攻撃用プログラムの生成も支援する。高度な知識を持たない攻撃者でも、標的型攻撃を仕掛けやすくなる懸念がある。
生成AIによる攻撃の自動化が進む現代では、従来の対策を上回るスピード感のある対応が求められます。
3つの脅威に対する具体的な内容については「生成AIが悪用されるセキュリティ脅威」で解説しています。
