「AI/IoTシステムのための安全性シンポジウム」参加者募集!!

開催概要

 


AI応用システムやIoTシステムの安全性に対する関心が高まりを見せています。本シンポジウムでは、AI/IoTシステムの安全性に関する著名な研究者やミッションクリティカルな産業の有識者による講演と共に、「FRAMワークショップ」(11/26)と「STAMPワークショップ」(11/28, 29)を開催します。(参加費:無料)
2つのワークショップでは、レジリエンス・エンジニアリングにおける分析手法FRAM(※1)やシステム理論に基づく安全性分析手法STAMP(※2)によって、複雑性、不確実性、曖昧性などの性質を持つシステムの安全性をいかに高めることができるかについて議論します。

Engineerable AI、XAI(説明可能なAI)、IoTの安全を知りたい方、AI/IoTを含んだシステムの開発やリスク分析に関わる方、レジリエントなシステム、ミッション・クリティカルなシステムに興味のある方、機械学習システムの安全性・信頼性を検討している方、参加無料ですので、ぜひお気軽にご参加ください。
(聞きたい講演のみに絞った部分的なご参加ももちろん可能です)
11/28の午前中には、STAMPと安全性のチュートリアルを実施しますので、STAMPを知らない方や安全性の基礎から学びたい方もぜひご参加ください。

*STAMP向けモデリングツール STAMP Workbench は以下からダウンロードできます。
http://www.change-vision.com/stamp/


日時:2019年11月26日(火) 開場:9:30
場所:
国立情報学研究所(NII)12階 1208会議室 (東京都千代田区一ツ橋2-1-2

日時:2019年11月28日(木)、29日(金) 開場:9:30
場所:NTT DATA 駒場研修センター 1階 イベントホール (東京都目黒区駒場2-18-2

主催:国立情報学研究所(NII)
「高信頼な機械学習応用システムによる価値創造(QAML)」プロジェクト
共催:独立行政法人情報処理推進機構(IPA)、
株式会社エヌ・ティ・ティ・データ、
有人宇宙システム株式会社
協賛:株式会社チェンジビジョン、
一般社団法人日本ソフトウェア科学会 機械学習研究会(MLSE)、
一般社団法人日本セキュリティ・マネジメント学会(JSSM)、
一般財団法人日本科学技術連盟(JUSE)、
一般社団法人電子情報通信学会 知能ソフトウェア工学研究会(KBSE)、
一般社団法人情報処理学会 ソフトウェア工学研究会(SIGSE)、
一般社団法人情報処理学会 コンピュータセキュリティ研究会(CSEC)、
一般社団法人 組込みシステム技術協会(JASA)、

特定非営利活動法人安全工学会(JSSE)
後援:独立行政法人日本学術振興会 第192(サイバーセキュリティ)委員会
一般社団法人JASPAR(Japan Automotive Software Platform and Architecture)


… 注目のセッション …………………………………………………………

【基調講演】


エリック・ホルナゲル氏(スウェーデン ヨンショーピング大学教授)
講演:"The Impact of AI on Human Work"

 

【招待講演】


原 聡氏(大阪大学産業科学研究所 / 助教)

「機械学習モデルの判断根拠の説明」
本講演では、機械学習モデルの判断根拠を提示するための説明法について紹介する。高精度な認識・識別が可能な機械学習モデルは一般に非常に複雑な構造をしており、どのような基準で判断が下されているかを人間が窺い知ることは困難である。このようなモデルのブラックボックス性を解消するために、近年様々なモデルの説明法が研究・提案されてきている。本講演では近年の代表的な研究について紹介する。パネルディスカッションのパネリスト。

 


石濱 直樹氏(研究開発法人 宇宙航空研究開発機構 研究開発部門 第三研究ユニット 主幹研究開発員)

「宇宙機等のクリティカルシステムの品質について(仮題)」

 

佐々木 良一氏(東京電機大学 特命教授)

「AI/IoTシステムの安全性確保のための考察
AI/IoTシステムの安全性確保のためにまずAIと安全性をめぐる4つの観点から分析を行う。(a)Attack using AI、(b) Attack by AI、 (c) Attack to AI、 (d) Measure using AI。次に、IoTシステムのセキュリティとリスク評価について研究状況を紹介したのちAI機能を持つIoTシステムのリスク評価に関する考察を行う。パネルディスカッションのパネリスト。

【共催者講演】


中尾 昌善氏((独)情報処理推進機構 社会基盤センター グループリーダ)

「アーキテクチャ視点で挑むSociety5.0の実現」
Society5.0では、その見取り図となる考え方や概念を「アーキテクチャ」という構造で捉え、推進の礎にしていこうとしています。アーキテクチャ検討のベースとなるシステムズエンジニアリングとIoTに関する取組みを紹介します。

【共催者講演(チュートリアル)】

野本 秀樹氏(有人宇宙システム株式会社 IV&V研究センター長)

「STAMPと創発性」
STAMPの理論における重要なキーワードである「創発性」が、STAMPのモデルにどのように表現され得るのかについて概説する。

 


兼本 茂氏(会津大学名誉教授・IPA IoTシステム安全性向上技術WG 主査)

「システム思考で考える複雑システムの安全とSTAMP」
STAMP for complex system safety design based on systems theory
AI・IoT時代の複雑システムの安全は、従来の安全規格の範囲で守ることはできない。故障がなくても事故は起きるということを前提に安全設計をしないといけない。この背景と、そのための方法論の一つとして期待されているSTAMPの考え方を述べる。

【パネルディスカッション】
「信頼できるAIシステムのために今取り組むべき課題と持続可能な社会への展望」 

中江 俊博氏((株)デンソー ソフトウェア先行開発室 課長)、パネリスト。

北村 知氏(JR東日本 研究開発センター 主幹研究員)、パネリスト。

吉岡 信和氏(国立情報学研究所 准教授・QAMLプロジェクトリーダー)、司会 。

=====================================================

プログラム20191122時点

参加お申し込みはこちらへ

  • 参加の際は、名刺かconnpassの「受付票」をお持ちいただき、会場でお渡しするネームホルダーに入れてください。
  • ネームホルダーを回収する際に名刺・受付票も同時に回収させていただき、出席の記録とさせていただきます。
  • 11/26の参加お申込み希望者が多かったため定員を150人まで増やしましたが、満席となりました

 

11/28の交流会の参加お申し込みはこちらへ

  • 11/28(木)18:00~19:00に講演者や参加者のネットワーキングの場として「交流会」を開催しますので、ぜひご参加ください。
    (会費1000円・ソフトドリンクと軽食のみ)
  • STAMPやFRAM、AIについて日頃思っていること、いまさら聞けない素朴な疑問などについて、軽食とドリンクを片手に気軽に語り合いませんか? 

AI/IoTシステムのための安全性シンポジウム実行委員会
・実行委員長:吉岡信和(NII) プログラム委員長:金子朋子(NII/NTTデータ)
・アドバイザー:兼本茂(会津大学)、野本秀樹(JAMSS)
・プログラム委員:岩永 寿来(チェンジビジョン)、岡本圭史(仙台高等専門学校)、日下部茂(長崎県立大学)、髙橋雄志(東京電機大)、橋本岳男(日立産業制御ソリューションズ)、福島祐子 (日本ユニシス)、向山輝(IPA)、 余宮尚志(東芝)Patrick Daniel(三菱航空機) あいうえお順

問合せ先(主催者):
qaml.aiiot_symp@nii.ac.jp(本メールアドレスにてお問合せください)
※ 送付いただいた個人情報は、本シンポジウムの主催者が管理し、本シンポジウムに関わる連絡以外の目的では使用いたしません。


※1:FRAM(Functional Resonance Analysis Method:機能共鳴分析手法)「複数の機能の相互インタラクションが、外乱に柔軟に対応する一方でエスカレーションを起こし、安全を脅かし得る」という考えに基づく分析手法
※2:STAMP(System Theoretic Accident Model and Process)「安全/事故はシステムの構成要素の相互作用による創発特性である」という理論に基づく分析手法