機械学習工学セミナ@モントリオール

2020年2月末より3月上旬までカナダ・モントリオール大学へ出張し、機械学習(ML)工学セミナーの受講とlaboセミナーでの講演、共同研究の打合せをしてきました。

モントリオール大学は国立で世界のフランス語圏におけるトップ大学です。その中でも、理工系のPolytechnique(工学系附属大学)は世界的に高い評価を得ている名門校です。私の受講したセミナーは、PolytechniqueがIVADOというデータサイエンス、運用研究、人工知能技術の学際的センターと共同して、初めて開催した人工知能(AI)の中でもディープラーニングなど最先端分野である機械学習(ML)工学のセミナーでした。(正式なセミナー名はSoftware Engineering for Machine Learning Apps: From Code to Production)。名称の通り、ユーザブルML、デザイン、テスト、ディープラーニングテストツール、パイプライン構築、リリース管理、コンテナなど幅広く、MLを工学的に扱える試みを講義とハンズオンで教えてくれるとてもいいセミナーでした。IVADOという団体がモントリオールの工科系と経営系と組んで本セミナーを主催しており、参加者の多くはデータサイエンティストの社会人技術者でした。ただし英語力にもMLの扱いにも難がある私には途方にくれるほど高度な内容であり、毎日様々な環境を構築して幅広い演習は隣席受講者の大変親切な支援を受けながらの受講でした。

スケジュールと講師は以下の通りです。

Preparation
Day 1 AM- SE Challenges of ML Apps (Foutse Khomh)
Day 1 AM- Designing Usable ML-based Apps (Jinghui Cheng)
Day 1 PM- Hands-on Session on Apps Design (Jinghui Cheng)
Day 1 PM- Software Design Patterns for ML-based Apps (Foutse Khomh)
Day 2 AM- Intro to Software Testing (Giuliano Antoniol)
Day 2 AM- Testing Self-learning Software Programs (Lei Ma and Foutse Khomh)
Day 2 PM- Hands-on Session on Testing DL Systems (Giuliano, Lei, Foutse, and Houssem)
Day 3 AM- Testing Stateful ML-based Software Systems (Lei Ma)
Day 3 PM- Hands-on session on Testing Stateful ML-based Software Systems (Giuliano, Lei, Foutse, and Houssem)
Day 4 AM- Deploying ML-based Software Systems (Bram Adams)
Day 4 AM- Deploying ML-based Software Systems (Marios-Eleftherios Fokaefs)
Day 4 PM- Hands-on Session on Apps Deployments (Bram Adams and Marios-Eleftherios Fokaefs)
Day 5 AM- Deploying ML Pipelines with Containers (William Benton and Sophie Watson)
Day 5 PM- Hands-on Session on Deploying ML Pipelines with Containers (William Benton and Sophie Watson)

セミナーの中で、ポイントとなる点は以下の通りです。

初日は主催者であるPolytechniquenのFoutse先生がセミナー全体についての講義とMLのデザインパターンを講義されました。MLシステムの技術的負債は通常のコードと機械学習、システムレベルでのすべてで問題を抱え、増加しており、それらの解決の方途として機械学習(ML)アプリのソフトウェア工学の挑戦がこのセミナーの趣旨であることを話されました。そして、その機械学習ソフトウェア工学として、セミナーでは各分野の専門家による、ビジネスロジックとMLモデルの区別、データ・レイク、パイプライン・ジャングルの課題に対して、それぞれ、ユーザブルAI、マイクロサービス・アーキテクチャ、機械学習テストツール、MLパイプラインの管理が紹介されました。初日は、Cheng先生によるユーザブルMLとチャットボットのハンズオンがありました。ユーザビリティの特性はチャットボットの回答内容を隣席者と抽出する演習、2日目は、アントニオ先生のテスト方法の講義とハンズオン。また、マー先生は2、3日目にディープラーニングのテスト基準と品質保証、分析の講義を自らの各種ツールを使って講義されました。4日目は、アダムス先生のAIのリリースエンジニアリング講義とハンズオン。そして、マリオス先生のVM環境でのMLアプリのデータバージョン管理システムハンズオンが実施されました。最終日はRedHatから来た、ソフィーさんとウィリアムさんの名コンビによるコンテナでのMLパイプラインの実装でした。

Polytechnique Laboセミナーと感想

セミナーの翌週はモントリオール大学のPolytechniqueで、私の講演のためのLaboセミナーを開催してくれました。私が子育てと仕事をしつつ、7年かけて学位を取得したことや少しでも両立しやすくするために15年前に社内にテレワーク制度を設立したことを自己紹介の中で話すと、なんと拍手喝采でした。とても温かい雰囲気の中で、産官学の様々な立場で取り組んできたことを何とか英語を伝えることでき、嬉しかったです。そしてこれからの大きな課題であり、機械学習システム工学について、様々な議論ができました。講演の冒頭、「下手な英語なので文法間違えたらごめんなさい。」と最初にお断りをすると、「(モントリオールの主要言語はフランス語であり)自分達も英語は第2外国語だから同じよ。」といわれました。博士課程学生は世界中から集まっており、イラン出身の教授、チュニジア出身の学生など初めてお会いする国の女性が多くいました。現在、日本で機械学習システムに携わる女性エンジニアは男性に比べて非常に少ないのですが、日本でも多くの女性MLエンジニアが活躍するようになってほしいと思います。

実は今回の出張は、新型コロナウイルスによる出入国検疫、初体験の-20度越えの寒さ、英語力の欠如と多難な中での参加でした。さらにそもそも私の専門の安全性分析からは異分野のセミナーの内容についていけるかが心配でした。しかし、ハンズオン中心のセミナーでまずは色々な事例にふれることができました。今後これらの実装技術をいかしつつ、今回のセミナーではあまり触れられなかった安全性の観点でのML研究につなげていこうと思いました。

「第2回AI/IoTシステム安全性シンポジウム」の開催延期のお知らせ

6月1日から3日に予定していました「第2AI/IoTシステム安全性シンポジウム」と併設開催の「Asian STAMP Workshop」、「AI/IoTシステム安全性ワークショップ」は新型コロナウイルスの世界的な感染拡大により、海外講演者の訪日が難しくなったこと、また参加者の安全を確保する必要があることから開催を延期することになりましたのでお知らせいたします。

後日改めまして開催をする予定ですので、日程が決まり次第再度お知らせいたします。

なお、「Asian STAMP Workshop」、「AI/IoTシステム安全性ワークショップ」の発表募集等は引き続き行ってまいります。ご了承のほどよろしくお願い致します。

Asian STAMP Workshop・AI/IoTシステム安全性ワークショップの発表者募集        

昨年11月に行われた「AI/IoTシステムのための安全性シンポジウム」は、システム理論STAMP(*1)やレジリエンスエンジニアリング、セーフティやセキュリティに知見のある国内技術者・研究者が300余名参集した盛況で好評のイベントとなりました。
そこで、「第2回AI/IoTシステム安全性(愛称AIS^3)シンポジウム」(6/1)と併設の2つのワークショップ、「Asian STAMPワークショップ」(6/2)、「AI/IoTシステム安全性(愛称AIS^3)ワークショップ」(6/3)を開催します。


開催概要

(1) Asian STAMPワークショップ
日時:2020年6月2日(火) 10:00~18:00 (予定)
場所:国立情報学研究所(NII)12階 1208会議室 (東京都千代田区一ツ橋2-1-2 )
定員:150名
参加費:無料

(2) AI/IoTシステム安全性ワークショップ
日時:2020年6月3日(水) 10:00~18:00 (予定)
場所:国立情報学研究所(NII)12階 1208会議室 (東京都千代田区一ツ橋2-1-2)
定員:150名
参加費:無料


なお、「第2回AI/IoTシステム安全性シンポジウム」では以下の招待講演なども予定しています。

日時:2020年6月1日(月) 10:00~18:00 (予定)
場所:一般財団法人日本教育会館一ツ橋ホール (東京都千代田区一ツ橋2-6-2)
定員:500名
講演者予定:
Nancy Leveson教授(マサチューセッツ工科大学・STAMPの提唱者)
浦本 直彦氏           (人工知能学会会長・三菱ケミカルホールディングス)

他に機械学習システムの世界的研究者や日本の企業からの講演を予定しています。

※「第2回AI/IoTシステム安全性シンポジウム」の参加募集詳細、一般発表を含めた詳細プログラムの公開と参加者募集の開始は4月中旬ごろを予定しています。

※ 本シンポジウムをご支援いただけるスポンサーを募集しております。 詳細はこちらをご参照下さい。


2つのワークショップの一般発表者を
下記のように募集します。


「Asian STAMPワークショップ」は、システム理論に基づく安全性分析手法STAMPの提唱者のMIT Nancy Leveson教授を迎え、グローバルに開催。英語と日本語の一般発表とポスターセッションを募集します。
<テーマ>
・システム理論に基づくSTAMP、STPA、CAST等の適用事例/手法提案/実証実験等

「AI/IoTシステム安全性ワークショップ」は、AI応用システムやIoTシステムの安全性分析について、適用事例/手法提案/実証実験等に関するプレゼン(日本語)を募集します。
<テーマ>
・AI/IoTシステムのセーフティ
・AI/IoTシステムのセキュリティ
・AI/IoTシステムのレジリエンス
・AI/IoTシステムの信頼性

<両ワークショップの発表時間と日程>
発表時間(質疑含む):30分から40分
発表概要の提出期限: 2020年3月20日
著者への採択通知: 2020年4月10日
スライド提出期限: 2020年5月20日


以下をクリックして発表概要(アブストラクトまたは論文)をお送りください。

ワークショップ発表申し込み

※上の申込フォームにアクセスできない方は、お名前、ご所属、発表タイトル、発表概要(300500字程度)、発表区分(一般発表(英語)、一般発表(日本語)、ポスター)をページ末尾記載の「問い合わせ先」までメールでお送りください。6月3日のAI/IoTシステム安全性ワークショップの発表区分は、一般発表(日本語)のみとなります。


問合せ先(主催者):qaml.aiiot_symp@nii.ac.jp
※ 送付いただいた個人情報は、本シンポジウムの主催者が管理し、本シンポジウムに関わる連絡以外の目的では使用いたしません。


※1:STAMP(System Theoretic Accident Model and Process)「安全/事故はシステムの構成要素の相互作用による創発特性である」という理論に基づく分析手法

QAML Seminar (2020/2/10)を開催します

お知らせ

  • 本セミナーは主催者の都合により延期になりました!
  • 開催日は追ってお知らせします。

QAMLセミナー

日時:2020年2月10日(月) 16:45-18:00
場所:国立情報学研究所 19階1901会議室

タイトル: 深層学習の汎化誤差のための近似性能と複雑性解析

発表者:今泉允聡(統計数理研究所 / 理化学研究所 / JST)

概要:深層学習の汎化誤差を理論的に評価するにあたって、既存の理論は深層学習の実際と乖離する点が多く残っている。そのギャップを埋めるため、実状を説明できるように理論を拡張する研究が盛んに行われている。本講演では、汎化誤差の評価に必要な重要な要素のうち、(1) 近似誤差および (2) 複雑性誤差に注目し、それらの研究動向を紹介する。具体的には、深層ニューラルネットワークが相対的に優れた近似性能を発揮する状況の解析、および仮設集合全体の複雑性に依存しない誤差の解析を扱う。また、それらのアプローチの現状の達成点と限界について述べ、今後の研究の方針を議論する。

参加費:無料(遠隔参加も可能です)

登録:必要(登録フォームは後日公開します)

セミナー後有志で講師を囲む懇親会(有料)を開催予定です。

 

関連情報

 

 

QAML Seminar (2019/12/18)を開催します

QAMLセミナー

日時:2019年12月18日(水) 16:45-18:00
場所:Patia Jinbocho (パティア 神保町店)

タイトル:DeepStellar: Model-Based Quantitative Analysis of Stateful Deep Learning Systems

発表者:Lei Ma, 助教, 九州大学
概要:Deep Learning (DL) has achieved tremendous success in many cutting-edge applications. However, the state-of-the-art DL systems still suffer from quality issues. While some recent progress has been made on the analysis of feed-forward DL systems, little study has been done on the Recurrent Neural Network (RNN)-based stateful DL systems, which are widely used in audio, natural languages and video processing, etc. In this paper, we initiate the very first step towards the quantitative analysis of RNN-based DL systems. We model RNN as an abstract state transition system to characterize its internal behaviors. Based on the abstract model, we design two trace similarity metrics and five coverage criteria which enable the quantitative analysis of RNNs. We further propose two algorithms powered by the quantitative measures for adversarial sample detection and coverage-guided test generation. We evaluate DeepStellar on four RNN-based systems covering image classification and automated speech recognition. The results demonstrate that the abstract model is useful in capturing the internal behaviors of RNNs, and confirm that (1) the similarity metrics could effectively capture the differences between samples even with very small perturbations (achieving 97% accuracy for detecting adversarial samples) and (2) the coverage criteria are useful in revealing erroneous behaviors (generating three times more adversarial samples than random testing and hundreds times more than the unrolling approach). 

related paper

参加をご希望の方は、吉岡までお知らせください。

QAML Seminar (2019/11/27)を開催します

QAMLセミナー

日時:2019年11月27日(水) 16:45-18:00
場所:NII, 12F 1208

タイトル: Weighted Automata Extraction from Recurrent Neural Networks via Regression on State Spaces
発表者:関山太郎, 助教, NII
概要:
We present a method to extract a weighted finite automaton (WFA) from a recurrent neural network (RNN). Our algorithm is based on the WFA learning algorithm by Balle and Mohri, which is in turn an extension of Angluin's classic \lstar algorithm. Our technical novelty is in the use of regression methods for the so-called equivalence queries, thus exploiting the internal state space of an RNN. This way we achieve a quantitative extension of the recent work by Weiss, Goldberg and Yahav that extracts DFAs. Experiments demonstrate that our algorithm's practicality.

参加をご希望の方は、吉岡までお知らせください。

「AI/IoTシステムのための安全性シンポジウム」参加者募集!!

開催概要

皆様のおかげさまで、308名の参加者を集め盛況にシンポジウムを終えることができました。

シンポジウムの報告及び資料は資料公開のページにて公開しております。


AI応用システムやIoTシステムの安全性に対する関心が高まりを見せています。本シンポジウムでは、AI/IoTシステムの安全性に関する著名な研究者やミッションクリティカルな産業の有識者による講演と共に、「FRAMワークショップ」(11/26)と「STAMPワークショップ」(11/28, 29)を開催します。(参加費:無料)
2つのワークショップでは、レジリエンス・エンジニアリングにおける分析手法FRAM(※1)やシステム理論に基づく安全性分析手法STAMP(※2)によって、複雑性、不確実性、曖昧性などの性質を持つシステムの安全性をいかに高めることができるかについて議論します。

Engineerable AI、XAI(説明可能なAI)、IoTの安全を知りたい方、AI/IoTを含んだシステムの開発やリスク分析に関わる方、レジリエントなシステム、ミッション・クリティカルなシステムに興味のある方、機械学習システムの安全性・信頼性を検討している方、参加無料ですので、ぜひお気軽にご参加ください。
(聞きたい講演のみに絞った部分的なご参加ももちろん可能です)
11/28の午前中には、STAMPと安全性のチュートリアルを実施しますので、STAMPを知らない方や安全性の基礎から学びたい方もぜひご参加ください。

*STAMP向けモデリングツール STAMP Workbench は以下からダウンロードできます。
http://www.change-vision.com/stamp/


日時:2019年11月26日(火) 開場:9:30
場所:
国立情報学研究所(NII)12階 1208会議室 (東京都千代田区一ツ橋2-1-2

日時:2019年11月28日(木)、29日(金) 開場:9:30
場所:NTT DATA 駒場研修センター 1階 イベントホール (東京都目黒区駒場2-18-2

主催:国立情報学研究所(NII)
「高信頼な機械学習応用システムによる価値創造(QAML)」プロジェクト
共催:独立行政法人情報処理推進機構(IPA)、
株式会社エヌ・ティ・ティ・データ、
有人宇宙システム株式会社
協賛:株式会社チェンジビジョン、
一般社団法人日本ソフトウェア科学会 機械学習研究会(MLSE)、
一般社団法人日本セキュリティ・マネジメント学会(JSSM)、
一般財団法人日本科学技術連盟(JUSE)、
一般社団法人電子情報通信学会 知能ソフトウェア工学研究会(KBSE)、
一般社団法人情報処理学会 ソフトウェア工学研究会(SIGSE)、
一般社団法人情報処理学会 コンピュータセキュリティ研究会(CSEC)、
一般社団法人 組込みシステム技術協会(JASA)、

特定非営利活動法人安全工学会(JSSE)
後援:独立行政法人日本学術振興会 第192(サイバーセキュリティ)委員会
一般社団法人JASPAR(Japan Automotive Software Platform and Architecture)


… 注目のセッション …………………………………………………………

【基調講演】


エリック・ホルナゲル氏(スウェーデン ヨンショーピング大学教授)
講演:"The Impact of AI on Human Work"

 

【招待講演】


原 聡氏(大阪大学産業科学研究所 / 助教)

「機械学習モデルの判断根拠の説明」
本講演では、機械学習モデルの判断根拠を提示するための説明法について紹介する。高精度な認識・識別が可能な機械学習モデルは一般に非常に複雑な構造をしており、どのような基準で判断が下されているかを人間が窺い知ることは困難である。このようなモデルのブラックボックス性を解消するために、近年様々なモデルの説明法が研究・提案されてきている。本講演では近年の代表的な研究について紹介する。パネルディスカッションのパネリスト。

 


石濱 直樹氏(研究開発法人 宇宙航空研究開発機構 研究開発部門 第三研究ユニット 主幹研究開発員)

「宇宙機等のクリティカルシステムの品質について(仮題)」

 

佐々木 良一氏(東京電機大学 特命教授)

「AI/IoTシステムの安全性確保のための考察
AI/IoTシステムの安全性確保のためにまずAIと安全性をめぐる4つの観点から分析を行う。(a)Attack using AI、(b) Attack by AI、 (c) Attack to AI、 (d) Measure using AI。次に、IoTシステムのセキュリティとリスク評価について研究状況を紹介したのちAI機能を持つIoTシステムのリスク評価に関する考察を行う。パネルディスカッションのパネリスト。

【共催者講演】


中尾 昌善氏((独)情報処理推進機構 社会基盤センター グループリーダ)

「アーキテクチャ視点で挑むSociety5.0の実現」
Society5.0では、その見取り図となる考え方や概念を「アーキテクチャ」という構造で捉え、推進の礎にしていこうとしています。アーキテクチャ検討のベースとなるシステムズエンジニアリングとIoTに関する取組みを紹介します。

【共催者講演(チュートリアル)】

野本 秀樹氏(有人宇宙システム株式会社 IV&V研究センター長)

「STAMPと創発性」
STAMPの理論における重要なキーワードである「創発性」が、STAMPのモデルにどのように表現され得るのかについて概説する。

 


兼本 茂氏(会津大学名誉教授・IPA IoTシステム安全性向上技術WG 主査)

「システム思考で考える複雑システムの安全とSTAMP」
STAMP for complex system safety design based on systems theory
AI・IoT時代の複雑システムの安全は、従来の安全規格の範囲で守ることはできない。故障がなくても事故は起きるということを前提に安全設計をしないといけない。この背景と、そのための方法論の一つとして期待されているSTAMPの考え方を述べる。

【パネルディスカッション】
「信頼できるAIシステムのために今取り組むべき課題と持続可能な社会への展望」 

中江 俊博氏((株)デンソー ソフトウェア先行開発室 課長)、パネリスト。

北村 知氏(JR東日本 研究開発センター 主幹研究員)、パネリスト。

吉岡 信和氏(国立情報学研究所 准教授・QAMLプロジェクトリーダー)、司会 。

=====================================================

プログラム20191122時点

参加お申し込みはこちらへ

  • 参加の際は、名刺かconnpassの「受付票」をお持ちいただき、会場でお渡しするネームホルダーに入れてください。
  • ネームホルダーを回収する際に名刺・受付票も同時に回収させていただき、出席の記録とさせていただきます。
  • 11/26の参加お申込み希望者が多かったため定員を150人まで増やしましたが、満席となりました

 

11/28の交流会の参加お申し込みはこちらへ

  • 11/28(木)18:00~19:00に講演者や参加者のネットワーキングの場として「交流会」を開催しますので、ぜひご参加ください。
    (会費1000円・ソフトドリンクと軽食のみ)
  • STAMPやFRAM、AIについて日頃思っていること、いまさら聞けない素朴な疑問などについて、軽食とドリンクを片手に気軽に語り合いませんか? 

AI/IoTシステムのための安全性シンポジウム実行委員会
・実行委員長:吉岡信和(NII) プログラム委員長:金子朋子(NII/NTTデータ)
・アドバイザー:兼本茂(会津大学)、野本秀樹(JAMSS)
・プログラム委員:岩永 寿来(チェンジビジョン)、岡本圭史(仙台高等専門学校)、日下部茂(長崎県立大学)、髙橋雄志(東京電機大)、橋本岳男(日立産業制御ソリューションズ)、福島祐子 (日本ユニシス)、向山輝(IPA)、 余宮尚志(東芝)Patrick Daniel(三菱航空機) あいうえお順

問合せ先(主催者):
qaml.aiiot_symp@nii.ac.jp(本メールアドレスにてお問合せください)
※ 送付いただいた個人情報は、本シンポジウムの主催者が管理し、本シンポジウムに関わる連絡以外の目的では使用いたしません。


※1:FRAM(Functional Resonance Analysis Method:機能共鳴分析手法)「複数の機能の相互インタラクションが、外乱に柔軟に対応する一方でエスカレーションを起こし、安全を脅かし得る」という考えに基づく分析手法
※2:STAMP(System Theoretic Accident Model and Process)「安全/事故はシステムの構成要素の相互作用による創発特性である」という理論に基づく分析手法

QAML Seminar: Requirements for Machine Learning Application on 9th October 2019

Seminar programme

Time and Date: 15:30-17:00, 9th October 2019 (starting time was changed.)
Place: 2010 meeting room, 20th floor, NII
Admission fee: free
Registration: required at https://forms.gle/fjbPLDDtn1AAz4En7
Remote attendance will be avaliable and the url will be announced to those who want.

Invited talk

Amel
Invited Speaker: Amel Bennaceur, Lecturer, the Open University, UK
Title: Machine Learning Software is Still Software
Abstract:

Machine Learning (ML) is the discipline that studies methods for automatically
inferring models from data. Machine learning has been successfully applied in
many areas of software engineering ranging from behaviour extraction, to
testing, to bug fixing. However, there is comparatively less research on applying
software engineering techniques to designing and implementing machine
learning applications.
Machine learning techniques disrupt the traditional models of software
development and call for quicker, if not immediate, response from requirements
engineering (RE). Indeed, the social underpinning and the increasing reliance on
software systems for every aspect of our life, call for better methods to
understand the impact and implications of software solutions on the wellbeing of
individuals and society as a whole. The intrinsic ability of RE to deal with
conflicts, negotiation, and its traditional focus on tackling those wicked problems
is highly beneficial.
The seminar will review and reflect on the synergies between machine learning
and software engineering. In this seminar, I will introduce the principles of
machine learning, give an overview of some key methods, and present examples
of interaction between software engineering and machine learning. I will also
discuss some open challenges on how machine learning can benefit from
software engineering methods in general and requirements engineering in
particular.

Bio:
Dr. Amel Bennaceur is a Lecturer (Assistant Professor) in Computing at the Open
University, UK. She received her PhD degree in Computer Science from the
University of Paris VI in 2013. Her research interests include dynamic mediator
synthesis for interoperability and collaborative security.
She was part of the Connect and EternalS EU projects that explored synergies
between machine learning and software synthesis.
The results of her work have been published in leading conferences and journals
such as Middleware, ECSA, and IEEE TSE. Bennaceur has been a member of the
program committee of several software engineering conferences including
RE:Next 2016 and ESEC/FSE 2015-NIER. She has been the program co-chair for
ESEC/FSE 2017 Artifact track and SEAMS 2019 and is co-chairing the Poster
Track at RE 2020.

2nd talk

QAML speaker: Hiroshi Kuwajima, DENSO corp.
Title: Adapting SQuaRE for Quality Assessment of Artificial Intelligence Systems
Abstract:
More and more software practitioners are tackling towards industrial applications of artificial intelligence (AI) systems, especially those based on machine learning (ML). However, many of existing principles and approaches to traditional systems do not work effectively for the system behavior obtained by training not by logical design. In addition, unique kinds of requirements are emerging such as fairness and explainability. To provide clear guidance to understand and tackle these difficulties, we present an analysis on what quality concepts we should evaluate for AI systems. We base our discussion on ISO/IEC 25000 series, known as SQuaRE, and identify how it should be adapted for the unique nature of ML and Ethics guidelines for trustworthy AI from European Commission. We thus provide holistic insights for quality of AI systems by incorporating the ML nature and AI ethics to the traditional software quality concepts.

AI/IoTシステムのための安全性シンポジウムを開催します

参加者募集を開始しました。(20191017日)

詳細は以下をご覧ください。

https://qaml.jp/2019/10/15/ai-iot-participate/

 

AI応用システムやIoTシステムの安全性に対する関心が高まりを見せています。本シンポジウムでは、AI/IoTシステムの安全性に関する基調講演と共に、「FRAMワークショップ」(11/26)と「STAMPワークショップ」(11/28, 29)を開催します。

2つのワークショップでは、レジリエンス・エンジニアリングにおける分析手法FRAM(※1)やシステム理論に基づく安全性分析手法STAMP(※2)によって、複雑性、不確実性、曖昧性などの性質を持つシステムの安全性をいかに高めることができるかについて議論します。

発表してくださる方を募集します!
発表お申し込みはこちらへ


※1:FRAM(Functional Resonance Analysis Method:機能共鳴分析手法)「複数の機能の相互インタラクションが、外乱に柔軟に対応する一方でエスカレーションを起こし、安全を脅かし得る」という考えに基づく分析手法
※2:STAMP(System Theoretic Accident Model and Process)「安全/事故はシステムの構成要素の相互作用による創発特性である」という理論に基づく分析手法