【鼎談】明治大学とラック、AIを駆使した最先端のサイバーセキュリティ対策で金融犯罪ゼロを目指す

ラックでは、AIのセキュリティ活用に取り組んでおり、その1つとして、金融犯罪対策センター（Financial Crime Control Center：以下、FC3）とAIプロダクト開発グループが連携して、金融犯罪対策ソリューションの開発・提供をしています。この活動は、最先端のAI技術を研究している明治大学理工学部の高木研究室と共同で行っています。

最近ChatGPTにより大きく話題となっているAI技術ですが、今回はChatGPT等の生成系AIを含め、AI技術のセキュリティへの活用における課題や直近の取り組みについて三者で鼎談しました。

メンバーは、明治大学の高木教授と、ラックの金融犯罪対策センター長を務める小森美武、AIチームリーダーのザナシル・アマルです。

本格化する生成系AIによるセキュリティの構築

──フィッシングによるインターネットバンキングでの不正送金やシステムへの不正アクセス等、デジタル分野の金融サービスを狙った犯罪が増加しています。ChatGPTに代表される生成系AIも話題ですが、金融犯罪とはどのような関係があるのでしょうか。

ザナシル

ラックは金融機関等のお客様に対して、これまでサイバーセキュリティの面でサービスを提供してきました。サービスやシステムの動きを監視し、通常と異なる傾向や反応を被害が起きる前に検知してきたのです。20年以上にわたって取り組んできましたが、現在はAIの活用による高度化を図っています。

AIを活用して異常や不正を検知する方法として、統計学や機械学習、深層学習を活用することが考えられますが、目下、取り組んでいるのは生成系AIの活用です。この分野は、ものすごいスピードで研究が進められており、話題となっているChatGPTのような新しいサービスが、今後次々と登場してくることが見込まれています。しかし、これは金融犯罪の手法においても同様です。こうした点から、ラックとしては金融取引の異常や不正の検知に、生成系AIを活用していかなければと考えています。

──生成系AIとはどのようなもので、セキュリティ面にどのような影響があるのでしょうか。

ザナシル

生成系AIの大きな特徴は、新たなデータを生み出すことができる点です。ここがこれまでのAIと異なります。今までのAIは、統計等を用いて数値的な予測をさせ、物事を分類することなどは得意でした。生成系AIは、膨大なデータを学習し予測・分類することに加え、新しいデータを生み出すことが可能になりました。これにより、AIの活用シーンは大きく広がりました。

サイバーセキュリティの世界でも同じことが言えます。この分野は今でも従来の機械学習が用いられていますが、攻撃側は生成系AIを活用して大量の攻撃を半自動的に行ってくることが考えられます。金融機関では攻撃を受けた際の対処ルールを策定していますが、従来の手法では、次々と生成される攻撃に対して当然追いつくことができません。防御側も本格的に生成系AIを活用することで、対処ルールを策定するスピードを速めていく必要があります。

現在、こうした点をさらに研究するため、ラックでは高木先生と様々な取組みを行っています。

従来のセキュリティ対策では最新AIによる攻撃は防げない

──明治大学高木研究室では、ChatGPTのような生成系AIを活用したセキュリティ対策をラックと協働して研究しているとのことですが、どのような取組みが行われているのでしょうか。

高木

社会的にChatGPTのインパクトは大きいですが、生成系AIは突然出てきたものではありません。何年も前から続いていた研究が着実に進歩してきて、それがある閾値を超えたことで一気に認知されたと言えます。

私たちは以前からのその能力が分かっていたので、生成系AIの能力でパラダイムシフトが起こることは十分に予測できました。私の研究室では、従来の機械学習と生成系AIの性能を比較し、従来の機械学習では生成系AIに勝てないことを確認した上で、既に基盤技術を生成系にシフトし終わっています。こうした結果をラックと共有し、金融機関のセキュリティにおいてどのように利用していくかを議論しています。

──生成系AIは金融機関のセキュリティ対策において、具体的にどのようなかたちで活かせるのでしょうか。

高木

生成系AIを活用した攻撃は半自動的に行われるので、防御側もAIで武装し、既にAI対AIの敵対的枠組みの中で防御システムを強化する研究をしています。また、従来と比較すると攻撃の頻度も種類も格段に異なります。

防御側は攻撃を受けた際のログを解釈する必要がありますが、そのログは人間には非常に読みにくいものです。ログから異常を自動検出したり、人間が読みやすい状態に要約したりする等の作業をAI化しています。この時攻撃を受けた際に残るログの変化は微小で、人間の言語で言うところの「微細な言い回し」の変化に気付くことが必要です。従来の機械学習ではこれらへの対応は不十分で、生成系AIでなければ対応ができません。ラックとは、生成系AIを使ったログ解析に積極的に取り組んでいます。

生成系AIが金融機関のセキュリティに有用なケースは他にもあります。金融分野での不正取引件数には極端なインバランス性があります。膨大な金融取引の中で不正取引データは圧倒的に少ないので、これらを学習しても不正検知にはデータが少なすぎるのです。その上、プライバシー性の高さという観点から、実際に攻撃を受けた金融機関はそのデータを提供したがりませんし、データの提供を受ける側もその取扱いに注意を払わなければなりません。

生成系AIは、本当のデータと見間違えるほどのクオリティで不正取引等の疑似異常データを作れます。これにより不正検知のための学習量を拡大させ、インバランス性を解消して、結果的に金融機関のセキュリティを高められるのです。

「AIゼロフラウド」は最新鋭のAIセキュリティを常時実現

──インバランス性の話がありました。金融犯罪が激増している昨今でも、正常取引の方が多いのでしょうか。

小森

被害件数は確かにここ数年で大幅に増加しています。しかし、様々な決済サービスやインターネットバンキングといった金融取引全体の件数が増加の一途を辿る中では、被害件数が増加したといっても、99.99%以上が正常取引で、不正取引は0.01%に満たない状況は変わりません。このようなインバランス性の中でAIを機能させることは、従来の技術や知識では不可能です。

高木先生のような最先端のAI技術を有する人が、金融犯罪の実務に関する知見者と協働しない限り、AIで金融取引の不正を見破ることはできない状態なのです。FC3では、高木先生と協働することで画期的なAI不正取引検知ソリューションを開発しました。

──FC3ではどのような取組みを進めているのでしょうか。

小森

様々な金融サービス・決済サービスがデジタル化され、私たちの生活にとって不可欠なインフラとなりました。これを狙ったサイバー金融犯罪による被害が急拡大し、社会問題化してきました。

こうしたサイバー金融犯罪にお悩みの金融機関（金融サービス・決済サービス事業者を含む）を支援することを目的として、FC3は2021年5月に設立しました。「金融犯罪対策の駆け込み寺」をキャッチフレーズに活動しています。特徴としては、複数の金融機関出身メンバーが金融機関での金融犯罪対策の実務を通じて得た知見を活かして支援することと、金融機関の「顧客保護」の視点に立って、なりすまし対策や認証高度化等のご支援やコンサルティングを行うことです。

また、FC3ではAIを活用した金融犯罪対策ソリューションの研究開発も行っています。具体的には、ザナシルが率いるAIプロダクト開発グループと連携して、AIを活用した不正取引検知ソリューション「AIゼロフラウド」を開発リリースしました。犯罪者は正常な金融・決済サービス利用者に成り済まして不正な送金等により資金を窃取しようとしますが、AIゼロフラウドはこうした不正取引や不正口座を検知します。

最大の特徴は、非常に高い検知精度を誇ることです。これまで複数の銀行と概念実証実験（PoC）を実施しましたが、どの実証実験においても90%以上という高い不正検知率を実現しました。従来のAIを活用しないルールベースの不正検知システムの検知率が約60%であることを勘案すると、AIゼロフラウドの検知率が飛躍的に高いことが分かります。

高い検知率の背景には二つの要因があります。一つは、高木先生やザナシルと連携しながらAIモデルの開発をしたことで、AIの最先端技術や産業転用技術がソリューションに反映されている点です。もう一つは、金融犯罪対策センターが保有する金融犯罪対策の専門的な知見がソリューションに反映されていることです。この二つの融合によりAIゼロフラウドの高検知率が実現しました。

AIゼロフラウドはインターネットバンキング不正送金、ATM不正取引、不正口座の検知と、対応領域を徐々に拡大しており、金融犯罪の抑止力を継続的に向上させています。

──明治大学とラックの今後の取組みを教えてください。

高木

生成系AIは現在進行形でものすごい速さで進化しており、攻撃側もそれを利用することから、企業側もそれを上回る機敏さで最先端技術を取り入れることが必要です。しかし、日本の多くの企業はその変化のスピードについていけていません。昔ながらの組織体制で、従来の対策を取っていたら、世界標準以上の速度で変化する攻撃側の餌食になってしまいます。

サイバーセキュリティの現場は、専門知識が飛び交う職人技の世界でもあります。ラックが私に声をかけてくれたのは、AIがセキュリティ分野での実用化の黎明期だった頃にまで遡ります。私もラックも、当時から「AIをきちんと使っていかなくては」という思いがありましたが、相当に早い段階から協力姿勢を確立できていました。それはラックの先見性と姿勢によるものです。専門家から見て、AIを活用したサイバーセキュリティの分野で、ラックは日本でトップランナーであり、またトップクラスの技術力を保持していると思います。

ザナシル

当社のパーパス（存在意義）は、「たしかなテクノロジーで『信じられる社会』を築く。」です。社会の安心・安全に貢献していきたいということが当社の想いですし、これは日本の経済活動を守ることにもつながります。こうした想いを胸に、今後も当社は技術力で金融犯罪をなくしていく活動を行います。

※ 本記事は、「週刊金融財政事情」2023年10月3日号に掲載された内容を基にしたものです。

※ 撮影：蓮尾哲也

関連情報

• 「週刊金融財政事情」2023年10月3日号 掲載記事(PDF 950.9KB)
• AI不正取引検知サービス：AIゼロフラウド
• ホワイトペーパー：金融犯罪の実態と、AIを活用した対策の可能性
• 金融犯罪対策センター（FC3：FINANCIAL CRIME CONTROL CENTER）