AIとサイバーセキュリティ

　こんにちは。「サイバーセキュリティフォローアップ事務局」です。

　皆さんは日々の業務や生活の中で、AIを活用していますか？特に最近では、生成AIの進化が著しく、様々な分野でその活用が進んでいます。しかしその一方で、AIの利用によるセキュリティリスクも増大していることをご存知でしょうか。

AI利用時の注意点

生成AIのサービス（ツール）を使う時には、個人情報や機密情報を含めないようにと言われています。この注意点は、実は生成AIに限ったことではありません。利用時に入力した情報をサービス提供者が利活用できる規約がある場合、その情報は漏えいしてしまう危険があります。特に生成AIでは、サービス提供者に加えて、他の利用者もあなたが入力した情報を利用できてしまうのです。プレゼン資料などを作成するツールやサービスは便利ですが、なおさら利用規約を詳細に確認することが重要です。そして、規約を守っているとはいえ、サービスを提供している事業者にも注意を払う必要があります。
生成AIのサービス（ツール）を使う時には、個人情報や機密情報を含めないようにと言われています。この注意点は、実は生成AIに限ったことではありません。利用時に入力した情報をサービス提供者が利活用できる規約がある場合、その情報は漏えいしてしまう危険があります。特に生成AIでは、サービス提供者に加えて、他の利用者もあなたが入力した情報を利用できてしまうのです。プレゼン資料などを作成するツールやサービスは便利ですが、なおさら利用規約を詳細に確認することが重要です。そして、規約を守っているとはいえ、サービスを提供している事業者にも注意を払う必要があります。

　AIを使う時の注意事項はこれくらいにしておいて、ここからは、AI技術がサイバーセキュリティにもたらす脅威についてお話しします。

サイバーセキュリティへのAIの影響

皆さんは、翻訳サービスを使ったことはありますか？少し前までは翻訳サービスを使って翻訳された日本語はかなり不自然でした。しかし最近は技術の進化により、以前よりも自然な日本語が生成されるようになりました。生成AIを使って作成された文章もそうですよね。これは今まで、不審なメールを見分けるのに「不自然な日本語かどうか」で判断するようにと言われていましたが、こういった判断ができなくなることを意味しています。

さらに標的型メール攻撃の場合、攻撃者は普段のメールのやり取りから、その人の癖に合わせた、より自然な文章を生成し、メールを送ってくるようになるでしょう。そうすると、メールの文面だけでは見分けがつかなくなる可能性が高まります。

コード生成AIとマルウェアのリスク

最近では、「コード生成AI」という言葉も耳にするようになりました。コード生成AIというのは、プログラムを作るときにこんなふうに作ればいいよと教えてくれるとても便利な機能です。この技術を使えば、プログラムの作成が容易になり便利ですが、同時に攻撃者もマルウェア（※マルウェアとは、悪意あるプログラムの総称で、コンピュータウイルスなどのことです。）と呼ばれる悪意のあるプログラムを容易に作成できてしまうのです。2024年5月には、全国で初とみられる生成AIによるウイルス作成容疑での摘発が実際に起きています。（出典：生成ＡＩでウイルス作成容疑　男逮捕「楽に稼ぎたかった」―遠回しの質問で回答引き出す・警視庁：時事ドットコム (jiji.com)）

また、有名人の声や画像を悪用したフェイクニュースも話題となっていますが、これらの技術を使えば、社内や取引先の人になりすますことだって可能です。音声のみのオンライン会議では、攻撃者がなりすましていても見抜くのは難しいでしょう。将来的には、画像や動画でもなりすますことができるようになるでしょう。

サイバー攻撃の低コスト化と中小企業の脆弱性

AIの進化により、サイバー攻撃のハードルが下がったとも言えるでしょう。言い換えると、攻撃を低コストで行えるようになってきたということです。

身代金を要求するランサムウェア攻撃を仕掛ける際、少額の要求でも割に合うようになりますし、情報搾取を目的とした攻撃では、少量の情報で目的を達成できるようになってしまいます。このような状況は、中小企業がより狙われやすくなるということだと考えられます。

最後に、今回の話でサイバーセキュリティへの取り組みが以前にも増して重要であることをご理解いただけましたでしょうか。東京都では、中小企業向けにサイバーセキュリティに関する様々な支援策を実施しています。

東京都の取り組み：(https://www.cybersecurity.metro.tokyo.lg.jp/torikumi/#page1）

ぜひ、これらの施策を有効に活用して、安心・安全な事業環境を構築してください。