研究概要
超スマート社会の「悪」の研究
本研究は、セコム科学技術振興財団が、研究者の自由な発想に基づく独創的なアイディアに期待し、安全安心の確保や災害防止等、国民生活に密着する研究課題を助成することで、国民生活の安全安心に寄与する科学技術の発展をより積極的に推進することを目的とした特定領域研究助成における令和4年度の採択プロジェクト『超スマート社会の「悪」の研究』の一つです。
新しい社会でどのような「悪」が企てられているのか、そのありかや動機や目的を探り、来たるべき攻撃を予知することが重要です。これによって、どのような攻撃が誰に対していつ仕掛けられるのかが高い蓋然性をもって予測でき、防御や回復のための手段を講じることができるようになります。
そこから先は、技術と法律の世界です。本研究では、文理融合によって、超スマート社会の安全・安心を飛躍的に高める研究を目指します。また、研究の中で、 近未来に企てられるであろう攻撃を検討した上で具体的に設定し、これの対策となる技術やマネジメント法をパイロットシステムとして示すことを目標とします。
研究概要資料
フォーラム
現場から考えるサイバー攻撃リスクの低減
― 医療現場に学ぶプライバシ、法、AIと社会科学の視点 ―
大阪大学大学院工学研究科サイバーセキュリティ領域・宮地研究室では、医療機関に対するサイバー攻撃を未然に防ぐことを目的として、攻撃の予兆検知や「攻撃対象から外される仕組み」の構築に関する研究を進めております。その一環として、2023年度から2025年度にかけて、医療機関の皆様にご協力をいただき、「脆弱性対策に関するアンケート調査」を実施いたしました。
このたび、アンケート結果の分析をもとに、医療現場の実情を踏まえてサイバー攻撃リスクの低減を考えるフォーラムを開催いたします。本フォーラムでは、医療、プライバシ、法、AI、社会科学の各分野の専門家が、それぞれの立場から課題を共有し、現場から得られた知見をもとに社会全体としてどのようにリスクを低減していけるかを議論します。
ハイブリッド開催ですが、講演者は全員現地で講演します。現地でのご参加により、講演者の皆様や各機関の皆様との意見交換・情報共有の機会としてもご活用いただければ幸いです。参加費は無料です。ぜひご参加ください。参加申込フォームは下記よりアクセスいただけます。
開催概要
- フォーラム「現場から考えるサイバー攻撃リスクの低減 ― 医療現場に学ぶプライバシ、法、AIと社会科学の視点 ―」
- 日時：2025年11月17日（月）14:00～16:15
- 会場：大阪大学中之島センター10F（ハイブリッド開催）
プログラム
- サイバーセキュリティリスクの定式化と社会科学からのアプローチ 大阪大学 データビリティセンター 教授 岸本 充生
- 情報の不完全性に打ち勝つ攻撃検知手法の開拓 関西大学 ビジネスデータサイエンス学部 准教授 Matthew J. Holland
- 医療機関の脆弱性アンケート結果から求められる次の対策について 大阪大学大学院 工学研究科 牧野 美咲
- サイバー攻撃リスクを軽減するデータ管理について 大阪大学大学院 工学研究科 教授 宮地 充子
- 内部者による情報漏えいはなぜ起こるか？ ― 医療現場の判例を中心に ― 弁護士法人苗村法律事務所 弁護士 苗村 博子
- 情報交換会（16:00～）
参加申込
背景と目的
背景
近年、サイバー攻撃の目的が愉快犯から金銭目的、さらには国家支援の目的などに移行している。コロナ禍における、医療・製薬業界へのサイバー攻撃の急激な増加は創薬にかかわる機械学習の手法などの知的財産や詳細な個人情報を含む患者記録などの高価な情報の存在も重要な要素と考えられる。また、サイバー攻撃による医療機関の業務停止はサイバー攻撃が国民生活に直結することの現れともいえる。
一方、医療・製薬業界の全企業が攻撃被害を受けたわけではなく、攻撃者は攻撃対象を選択しているとも考えられる。つまり、近未来に企てられる攻撃への対策には、サイバー攻撃の予知とともに、攻撃対象から外されるような仕組みの構築が必要である。
プロジェクトの目的
サイバー攻撃が多様化し、様々な業種が対象となっている。中には内部不正が原因となっている場合もある。一方、脅威は、攻撃利得と脆弱性から脅威は決定される。攻撃利得として、個人情報は価値が高く、個人情報以外を狙った攻撃でも、有効な個人情報があれば入手されるので、個人情報の保護は不可欠である。脆弱性は機器に加えて、内部不正の場合もある。さらに、サプライチェーン攻撃が現実的になっている。
研究課題1. 脅威予測シミュレーションの構築
攻撃の動機や目的を探り、脆弱性と攻撃利得による脅威分析を実施し、近未来の攻撃の予知シミュレーションを構築。
- 攻撃利得と脆弱性を鑑みて、脅威は決定する
- 脆弱性、攻撃利得を現状の分析により再構築
- 次に、脅威を再定義された脆弱性、攻撃利得から再構築
- 脅威 = G(新脆弱性、新攻撃利得）
研究課題2．攻撃利得軽減枠組みの構築
主観的攻撃利得を劣化させるデータ保管技術の構築。
- 攻撃利得軽減データの枠組みと機械学習の効果のバイデザインの構築
- 絶対なる安全はないという前提で、攻撃利得を下げるアプローチ
近未来の攻撃
近年、問題になっているサプライチェーン型攻撃のように近未来の攻撃としては、単一組織から複数組織の攻撃による攻撃利得の最大化を考え、サプライチェーン型攻撃の脆弱性と攻撃利得から評価し、脅威シミュレーョンを実現する。
サプライチェーンとは、製品の原材料・部品の調達から販売に至るまでの一連の流れを指す。企業間の繋がりは、製造現場だけではなく、地方公共団体、総合病院なども様々な業種が互いに関連して事業を継続している。
サプライチェーン攻撃は、組織間の業務上の繋がりを悪用し、比較的セキュリティレベルの低い取引先や子会社などを経由することで、ターゲット組織へと侵入する。取引先や子会社などへ侵入しているため、最終標的の組織は侵入に気づかない間に攻撃を受ける危険性がある。
研究課題
研究課題1の脅威予測シミュレーションおよび、研究課題2の主観的攻撃利得劣化技術を適用することで、近未来のサプライチェーン攻撃を回避する。
研究実施体制
研究者紹介
大阪大学 大学院 工学研究科 教授/博士(理学)/情報処理学会フェロー。
パナソニック株式会社、UC Davis研究員、北陸先端科学技術大学院大学 教授を経て、2015年より現職。2016年より独立行政法人情報処理推進機構 監事。
ISO/IEC 国際標準化機構/国際電気標準会議の編集者を2000年から務め、情報セキュリティに関する国際規格を多数策定。
坂井記念特別賞(情報処理学会)、国際規格開発賞(情報処理学会)、情報セキュリティ文化賞、国際標準化奨励者表彰(産業技術環境局長表彰)、ドコモ・モバイル・サイエンス賞、科学技術分野の文部科学大臣表彰科学技術賞、TrustCom 2017ベスト論文賞、電子情報通信学会電子情報通信学会マイルストーン認定証、電子情報通信学会教育優秀賞他受賞。
情報社会の安全・安心を支える情報セキュリティに関する研究と実践に従事。
共同研究者
大阪大学産業科学研究所 助教
2021年からJSTさきがけ研究者を兼任（「信頼されるAI」領域）。 機械学習アルゴリズムの基礎的な研究開発に従事し、特に「理論と実践の乖離を埋める機械学習の方法論」を目指している。
大阪大学データビリティフロンティア機(IDS) 教授 / 博士(経済学)
専門はリスク学、規制評価。産業技術総合研究所、東京大学を経て、2017年から現職。2020年から社会技術共創研究センター長を兼任、新規科学技術の倫理的・法的・社会的課題（ELSI）に関する研究と実践に従事。
弁護士
1995年シカゴ大学ＬL.M.を修了。ＮＹ州の弁護士資格も持つ。内部者の内通による、9万枚物設計図の不正取得、エディオン対上新の営業秘密不正取得の事件で勝訴。国際的なカルテル対応等含め幅広く国際法務、知財法務などで活動。
研究成果
2023年度
研究課題1
- Matthew J. Holland, "Criterion Collapse and Loss Distribution Control", ICML 2024 (to appear)
- Toma Hamada and Matthew J. Holland,"更新方向の異常性を考慮した確率的勾配降下法のロバスト化", 人工知能学会全国大会論文集 (JSAI2024)
- Toma Hamada and Matthew J. Holland, "データ劣化による分布シフトを想定した学習法の提案", 人工知能学会全国大会論文集 (JSAI2024)
研究課題2
- Bingchang He and Atsuko Miyaji. "Balanced Privacy Budget Allocation for Privacy-Preserving Machine Learning" ,International Conference on Information Security,Springer, 42-56, 2023.
- A Miyaji, T Yamatsuki, B He, S Yamashita, and T Mimoto "Re-visited privacy-preserving machine learning", IEEE PST, 2023.
2024年度
研究課題2
- Atsuko MIYAJI, Tatsuhiro YAMATSUKI, Tomoka TAKAHASHI, Ping-Lun WANG, and Tomoaki MIMOTO "Scalable Unified Privacy-Preserving Machine Learning Framework (SUPM)", Volume and Number: Vol.E108-A,No.3,pp423-434, 2025.
- Tomoshi Yagishita, Atsuko Miyaji, "Privacy-preserving Machine Learning for Generic Data", The International Symposium on Information Theory and Its Applications, ISITA, IEEE, 120-125, 2024. Atsuko Miyaji, (invited talke) "Privacy-preserving Machine Learning Framework", Africacrypto, 2024.
2025年度
研究課題2
- Atsuko Miyaji, Tomoshi Yagishita, Yuki Hyohdoh and Pierre Boudvillain, "Cross-Boundary Privacy-Preserving Image Learning", 22nd Annual International Conference on Privacy, Security, and Trust, PST2025, IEEE, XX-XX, 2025.
- Yuto Tsujimoto and Atsuko Miyaji, "Privacy-Preserving Attribute Domain Reconstruction for Machine Learning", the 20th Asia Joint Conference on Information Security, AsiaJCIS, IEEE, XX-XX, 2025.