## エグゼクティブサマリー
ロボット安全性の論点は、従来の「機械安全」中心から、**人間と空間を共有するロボットの運用安全、AIモデルの挙動保証、サイバーセキュリティ、そして市販後監視**を含む総合的なガバナンスへ急速に拡張している、というのが2021–2026年の最大の変化である。学術レビューでは、協働ロボットや移動ロボットの安全確保は、物理設計だけでは足りず、**人間要因、認知負荷、データ品質、監視、継続改善**までを扱う多層的アプローチが必要だという点でほぼ収斂している。Giallanza らは危険源分析に「**integrate the human factor**」が必要だと整理し、Khan らは HRC 安全に「**multi-layered approaches**」が必要だと要約する。Belzile らは、移動ロボットについては標準とリスク評価の文献が依然「**rather limited**」だと指摘しており、ここが今の実装上のボトルネックである。 citeturn28view1turn12search0turn28view5
法規制では、**EU が最も体系的**で、AI Act、Machinery Regulation、Cyber Resilience Act、Product Liability Directive などを組み合わせて、ロボットを「AI」「機械」「デジタル要素を持つ製品」として多層的に規律しつつある。AI Act は 2024年8月施行、全面適用は原則 2026年8月だが、製品安全法制に埋め込まれた高リスクAIの適用は 2027年8月が基準で、調和規格の遅れを受けて 2025–2026年に実施時期調整の提案も動いている。米国はこれと対照的に、OSHA・NIST・FDA・NHTSA の**分散的なセクター別ガバナンス**で対応している。日本は既存の労働安全衛生・自動運転・医療機器制度の上に、2025年のAI法とその指針整備を重ねる形で前進している。中国と英国は、包括法よりも**標準化・製品安全・情報表示・部門別監督**を強める方向が目立つ。 citeturn29view0turn32view0turn29view2turn21search9turn29view11turn31view1turn35view0turn40search1turn7search2turn36view0turn41view1turn31view2
国際規格では、**ISO 10218-1/-2 の2025年改訂**が最重要である。協働ロボットの考え方は ISO/TS 15066 の内容を 10218 シリーズへ取り込む方向が明示され、サービスロボットでは ISO 31101:2023 が「安全な運用」の管理システム要求を定め、次期 ISO/FDIS 13482 は個人向けからより広いサービスロボット安全へ射程を広げている。AI と機能安全の接続でも、ISO/IEC JTC 1/SC 42 で ISO/IEC CD TS 22440-1 が開発中であり、IEEE では fail-safe 設計の IEEE 7009-2024、アルゴリズムバイアスの IEEE 7003-2024 が公開済みである。採用状況を見ると、米国では ANSI/A3 R15.06-2025 が ISO 10218:2025 を国内採用し、中国では GB/T 20867.1-2024 と GB/T 45502-2025 が発効、日本は ISO 31101 を主導した。つまり、**規格競争の中心は「設計安全」から「運用安全+AIガバナンス+サイバー統合」へ移っている**。 citeturn9search0turn15search0turn29view8turn29view9turn15search12turn10search0turn10search2turn29view5turn29view6turn29view7turn14search8
企業実務では、自動車分野の Waymo や Mobileye が**安全ケース**や**形式モデル**を公表して先行し、製造分野では Universal Robots などが「cobot そのものは安全の代替ではなく、アプリケーションごとのリスクアセスメントが必須」という実務線を明確にしている。医療では Intuitive と FDA の動きを見ると、性能実証だけでなく、**人間工学、訓練、サイバーセキュリティ、実臨床での継続監視**が安全の中心に移っている。家庭用AIロボットでは、物理安全に加え、プライバシー・データ保護・在宅空間での社会的に適切な挙動が競争条件化しているが、公開された正式な「安全ケース」はまだ少なく、ここは今後の制度・市場の空白である。 citeturn16search0turn16search1turn16search2turn16search10turn16search3turn25search0turn35view1turn35view2turn17search0turn17search16
政策的にみると、短期では**適合・文書化・監査コストの上昇**、中期では**安全ケース、SBOM、データガバナンス、人間監督の標準実装化**、長期では**規制適合能力そのものが研究開発・市場参入の優位**になる公算が大きい。実務者には、機能安全とAIガバナンスとサイバーを単一の品質・安全マネジメント系に統合し、前市場試験だけでなく市販後監視まで設計に含めることが重要である。政策立案者には、調和規格と試験法の整備、事故報告・再学習・アップデートのルール化、そして中小企業が使えるテンプレート型安全ケースや評価基盤の整備が最重要課題である。 citeturn29view1turn32view0turn35view1turn40search2turn26search1turn27search1
## 学術論文とレビュー
過去5年の学術文献を俯瞰すると、安全研究の重心は、**協働ロボットの接触安全**から、**移動ロボットの状況依存リスク**、**医療ロボットのライフサイクル管理**、**AIを含む説明可能な安全保証**へ広がっている。2021年の HRC 系統レビューは既に、工場協働における安全措置の多様化と、単純な隔離型保護からの移行を示していた。2023年のスマート製造レビューも、HRC 実装の中核要件として柔軟性・効率だけでなく安全と持続可能性を挙げている。2024–2026年の文献では、これに加えて人間信頼、認知工学、データ品質、実環境モニタリングが安全の前提条件として位置づけられる。 citeturn12search3turn12search15turn28view1turn12search14turn12search0
重要レビューと論文を整理すると、第一に、Giallanza らの 2024年レビューは、HRC の危険源分析とリスク評価に人間要因を埋め込むことを重視し、レビュー対象論文が**“integrate the human factor”** の必要性を繰り返し示していると結論づけた。第二に、Haney らの 2024年レビューは、自律移動ロボットに対する安全知覚と信頼の研究を整理し、実安全と知覚安全のギャップが導入障壁になると示した。第三に、Marcus らの Nature Medicine 2024 は医療ロボット評価に IDEAL フレームワークを適用し、長期監視は**“collaborative, transparent and inclusive consortiums”**へ移行すべきだと提案した。第四に、Adesiji らの 2025/2026年系統レビューは、包括的リスク評価枠組みと安全モデルの必要性を強調した。第五に、Khan らの 2026年レビューは、HRC 安全をハードウェア、制御、認知、倫理まで含む**“multi-layered approaches”**として整理した。第六に、Belzile らの 2025年論文は建設現場の移動ロボット安全に対して、現行規格では覆いきれないシナリオを補う定量的リスク評価枠組みを提案している。 citeturn28view1turn13search2turn28view3turn12search5turn12search0turn28view5
| 文献 | 年 | 領域 | 要点 | 実務上の示唆 |
|---|---:|---|---|---|
| Arents ら, *Human–Robot Collaboration Trends and Safety Aspects* | 2021 | 製造HRC | 193本規模のレビューで、協働レベルごとに安全措置を整理。HRC の安全は単純な停止機能ではなく、タスク・環境依存であることを示した。 citeturn12search3 | 共同作業設計では「ロボットの安全機能」ではなく「作業セル全体の設計」が必要。 |
| Othman ら, *Human–Robot Collaborations in Smart Manufacturing Environments* | 2023 | スマート製造 | HRC を支える技術群を整理し、安全を柔軟性・持続可能性と並ぶ導入要件として扱う。 citeturn12search15 | 安全は productivity trade-off ではなく導入前提条件。 |
| Giallanza ら, *Occupational health and safety issues in HRC* | 2024 | 労働安全衛生 | 危険源分析・リスク評価に人間要因統合が不可欠で、専門家依存型評価には限界があると整理。 citeturn28view1 | HAZOP/FMEA だけでなく、人間行動・負荷・誤使用を組み込むべき。 |
| Haney ら, *Safety perception and trust during human-AMR interaction* | 2024 | AMR/HRI | 実安全だけでなく、予測可能な挙動と信頼形成が重要と整理。 citeturn13search2 | 導入時のUX設計、挙動説明、表示・音・速度制御が重要。 |
| Marcus ら, *IDEAL framework for surgical robotics* | 2024 | 医療ロボット | 開発・比較評価・長期監視の臨床評価フレームを提示。 citeturn28view3 | 承認後の registry と real-world evidence を前提に設計すべき。 |
| Adesiji ら, *Safety considerations in deployment of robotic systems* | 2025/2026 | 横断レビュー | 包括的リスク評価、アルゴリズム、安全機能、障害物回避等の重要性を整理。 citeturn12search5turn12search14 | 安全要件は設計時だけでなく現場実装時に再評価すべき。 |
| Belzile ら, *From Safety Standards to Safe Operation with Mobile Robotic Systems Deployment* | 2025 | 移動ロボット | 建設現場を例に、既存規格の空白を埋める定量的評価枠組みを提案。 citeturn28view5 | 非定型環境では ODD と現場危険源を結びつける独自評価が必要。 |
| Khan ら, *A Systematic Review of Safety-Driven Approaches in HRC Systems* | 2026 | HRC/AI | ハード・制御・認知・倫理を接続する安全分類を提示。 citeturn12search0turn12search6 | AI搭載HRCでは物理安全と倫理・運用統治を分離できない。 |
学術的な合意点は比較的明確である。まず、**安全はライフサイクル特性**であり、設計審査だけで完結しない。次に、**人間監督は残るが、曖昧な“人が見るから安全”では不十分**で、役割分担・介入条件・情報提示を明示しなければならない。さらに、**移動ロボット、家庭ロボット、医療ロボットは、工場ロボットよりも ODD が不安定で、リスク評価と市販後監視の重要性が高い**。このため、今後の研究の本丸は、接触力制御単体ではなく、実環境ログ、近接挙動、アップデート後検証、サイバー攻撃耐性を組み込んだ“継続的安全保証”にあるといえる。これは学術レビューと医療・自動運転の規制文書の方向性とも一致している。 citeturn28view1turn13search2turn28view3turn35view1turn26search1
## 法規制・ガイドラインの動向
主要地域の制度を比較すると、**EU は包括・予防型、米国は分散・実務型、日本は既存法制+基本法型、中国は標準・表示・部門監督型、英国は部門別リスクベース型**と整理できる。以下の表は 2024–2026年の主要な動きを比較したものである。 citeturn29view0turn31view1turn35view0turn7search2turn41view1
```mermaid
timeline
title 近年の主要な法改正・提案
2023 : EU Machinery Regulation 2023/1230 採択
: ISO 31101 発行
2024 : EU AI Act 発効
: EU Cyber Resilience Act 採択
: EU Product Liability Directive 発効
: 中国 GB/T 20867.1-2024 公布
: 米国 NHTSA が AV STEP を提案
2025 : 日本 AI法 公布・全面施行
: EU AI Act 禁止事項適用開始
: 英国 Product Regulation and Metrology Act 2025 成立
: 中国 生成AI生成合成内容標識办法 公布
: 中国 GB/T 45502-2025 公布
: 米国 ANSI/A3 R15.06-2025 公表
2026 : EU 高リスクAI実装時期を巡る調整提案継続
: 英国 HSE が cobot 共同ガイダンス策定プロジェクト開始
: 中国 自動驾驶系统安全要求 の強制国家標準案が進行
```
| 地域 | 現状 | 2024–2026年の重要動向 | 含意 |
|---|---|---|---|
| 日本 | 産業用ロボットは労安衛則・特別教育で運用。AI 横断では 2025年 AI法が成立し、指針整備が進行。自動運転は MLIT が性能・冗長性・安全評価を明確化。 citeturn37search0turn37search1turn7search2turn29view3turn36view0 | AI法は 2025年6月公布・9月全面施行。MLIT の 2025年レベル4ガイドラインは冗長構成、安全評価、交通参加者も含む安全確保を明示。 citeturn7search2turn7search8turn36view0 | 日本は既存の機械・道路・医療制度に AI 基本法を上乗せする構造。事業者は“法遵守”よりも“指針適合+説明責任”の比重が高い。 |
| EU | AI Act が AI を、Machinery Regulation が機械を、CRA が製品サイバーを、PLD が損害賠償を規律。高リスクAIには適合性評価、品質管理、人間監督、頑健性、サイバー要件が課される。 citeturn29view0turn32view0turn29view2turn21search9turn29view11 | AI Act は 2024年8月発効。禁止事項は 2025年2月から、GPAI 義務は 2025年8月から。高リスク製品組込みAIは 2027年8月基準で、調和規格の遅れにより 2025–2026年に時間軸調整提案が進行。Machinery Regulation は 2027年1月適用。 citeturn32view0turn8search7turn8search8 | 最も包括的。ロボット企業は AI・機械・サイバー・責任法を横断して適合設計する必要がある。 |
| 米国 | OSHA、NIST、FDA、NHTSA が分担する分散型。OSHA はロボット危険認識と OTM を提示、NIST は AI RMF を任意指針として整備、FDA は AI医療機器と医療サイバー、NHTSA は ADS 透明性・事故報告を強化。 citeturn38view0turn34search8turn34search10turn35view0turn35view1turn40search2 | NHTSA は 2024–2025年に AV STEP を提案し、2025年改正 Standing General Order を発効。FDA は 2025年に AI-enabled device lifecycle draft、2026年に human factors 情報提出の最終ガイダンスを公表。 citeturn40search1turn40search5turn35view0turn25search9 | 包括法はないが、実務的には最も細かな sector guidance が蓄積。証拠文書・事故報告・市販後対応が重い。 |
| 中国 | ロボットは国家標準と部門別規制が中心。工業ロボット安全、サービスロボット情報セキュリティ、生成AI表示、智能网联汽车安全要求の標準化が並行。 citeturn29view6turn29view7turn41view1turn24search12 | GB/T 20867.1-2024 は 2025年3月施行、GB/T 45502-2025 は 2025年10月施行。2025年の《人工智能生成合成内容标识办法》は顕示・隠示標識を規定。2026年には自動驾驶系统安全要求の強制国家標準案が進む。 citeturn29view6turn29view7turn41view1turn24search12 | 物理安全と情報安全を同時に強める方向。規格主導の実装適合が重要。 |
| 英国 | HSE の goal-setting 型安全法制と、製品安全更新権限を与える 2025年法が中心。AI そのものは sectoral regulation 路線。 citeturn31view0turn31view1 | Product Regulation and Metrology Act 2025 は新技術対応のための更新権限を整備。HSE は 2026年に cobot 向け初の共同産業ガイダンス作成を開始。OPSS は 2024年に AI consumer product safety 研究の更新を公表。 citeturn31view0turn31view2turn31view3turn31view4 | 実装支援型のガイダンスが増えるが、EUのような包括適合性制度には至っていない。 |
| 国際機関 | UNECE は車両系ロボットで最も具体的。UN R155/156/157 がサイバー、ソフト更新、自動運転機能をカバー。ISO/IEC/IEEE は横断的な技術規範を整備。 citeturn11search0turn11search1turn11search2turn10search0turn15search12 | UN R155 は vehicle cybersecurity、R156 は software update management system、R157 は ALKS における安全実証を要求。 citeturn11search28turn11search0turn11search1turn11search26 | 特に自動車・道路ロボットでは、国家法より国際ルールと型式認証の影響が大きい。 |
EU の特徴は、AI Act がロボットを単独で規制するのではなく、**「安全コンポーネントとしての AI」**を既存の製品安全法制に接続した点にある。高リスク AI システムは、リスク管理、データ品質、文書化、透明性、人間監督、正確性、サイバーセキュリティ、頑健性を満たし、適合性評価を受ける必要がある。医療分野では MDR/IVDR と AI Act の**同時かつ補完的適用**が明示され、品質マネジメントや市販後監視の統合が求められている。 citeturn32view0turn39view5turn33view0
日本では、産業用ロボットの安全確保は依然として労働安全衛生規則と特別教育が基盤であり、危険防止措置の運用面は継続して重要である。一方で AI 法制は 2025年に大きく進み、内閣府は AI法の下で基本計画・適正性確保指針・AI戦略本部を整備している。2025年の MLIT ガイドラインは、レベル4自動運転について、**冗長構成、危険事象認知、危機回避制御、交通参加者を含めた安全確保**を明文化しており、ロボット安全論が「単体機械」から「社会システム」に拡張したことを示している。 citeturn37search0turn37search1turn7search2turn36view0
米国は、統一ロボット安全法があるというより、**用途ごとの証拠と監督**を積み上げる構造である。OSHA はロボット危険認識を、NIST は AI RMF の Govern/Map/Measure/Manage を、FDA は AI-enabled 医療機器の lifecycle と SPDF を、NHTSA は ADS の事故報告・透明性制度を強めている。これは実務的には柔軟だが、企業側には部門横断のコンプライアンス統合能力が必要になる。これは EU と違う形の高コスト構造である。 citeturn38view0turn34search2turn35view0turn35view1turn40search1turn40search2
## 産業基準・企業実務・安全レポート
産業界の実務は、規制文書よりも一歩先に、**安全ケース、形式方法、リスクベース設計、運用時モニタリング**へ進んでいる。自動車・自動運転では Waymo が Safety Framework と Safety Case を明示的に公開し、Mobileye は Responsibility-Sensitive Safety を「機械が安全に運転するとは何か」の形式モデルとして提示している。製造では Universal Robots が、協働用途では foreseeable misuse を含むリスク評価が必要であり、「cobot そのものが安全の全部ではない」と明確にしている。これは最新規格の方向性と整合的で、企業実務がすでに**安全を“製品機能”ではなく“システム証明”として扱い始めている**ことを示す。 citeturn16search0turn16search4turn26search1turn16search1turn16search16turn16search2turn16search10
| 分野 | 企業・文書 | 主な安全アプローチ | 評価 |
|---|---|---|---|
| 自動車・ロボタクシー | Waymo *Safety Framework / Safety Case* citeturn16search0turn16search4turn16search12 | 公開された Safety Framework と Safety Case、readiness criteria、論文ベースの evidence 評価。 | 規制当局・市民への説明可能性が高い。ロボット企業の将来形に近い。 |
| 自動車・ADAS/ADS | Mobileye *RSS / Safety Methodology* citeturn16search1turn16search9turn16search17 | 5つの安全ルールと安全エンベロープを形式化。 | 「安全の定義」を明文化する強みがあるが、社会的受容性・責任配分の議論と不可分。 |
| 製造・cobot | Universal Robots *Risk Assessment / Safety FAQ* citeturn16search2turn16search22turn16search18 | 衝突、誤使用、傷害重篤度、回避可能性を含むアプリケーション単位のリスク評価。 | 工場現場では最も実務的。導入担当者教育と測定の重要性が明確。 |
| 物流・AMR | Amazon Robotics / Amazon Science *functional safety certification for AMR* citeturn17search12turn18search2turn18search17 | AMR の機能安全認証可能性、倉庫内人間共存設計、自由走行ロボットの実装研究。 | AMR 安全の制度空白を企業側が先に埋めようとしている。 |
| サービスロボット | Starship *robots and road users / accessibility*、SoftBank Robotics *security considerations* citeturn18search3turn18search18turn18search1 | 歩行者・道路利用者との相互作用、安全優先の横断判断、サービスロボットのデータ・遠隔アクセス安全。 | サービスロボットでは物理安全と情報安全が同格で扱われ始めている。 |
| 医療ロボット | Intuitive Surgical Annual Report / FDA safety communications citeturn16search3turn16search19turn25search0turn25search4 | 患者安全・訓練・臨床エビデンス・風評リスク・回収リスクの管理。 | 医療ロボットでは訓練と市販後監視が安全の核心。 |
| 家庭用AIロボット | iRobot data security / Amazon Astro 関連公開情報 citeturn17search0turn17search16turn17search4 | 暗号化、在宅ナビゲーション、近接・駐機行動の HRI 研究。 | 家庭用は正式安全ケース公開が少なく、プライバシー・社会的受容が先行論点。 |
医療ロボットでは、規制・企業・学術の焦点がほぼ一致している。FDA は AI-enabled device lifecycle draft でライフサイクル管理を求め、サイバーガイダンスでは**“Cybersecurity is Part of Device Safety”** を明示し、人間工学文書では use-related risk の最小化を目標とする。Intuitive の年次報告でも患者安全や訓練不足に関するレピュテーション・訴訟・規制リスクが強く意識されている。つまり、医療ロボットの安全は、機械精度だけでなく、**ユーザインタフェース、臨床訓練、セキュリティ、アップデート、報告義務**の束として管理されている。 citeturn35view0turn35view1turn35view2turn16search3turn25search0
家庭用AIロボットとサービスロボットでは、まだ自動車や医療ほど成熟した公開安全資料は多くない。しかし、その代わりに、**プライバシーと情報安全を安全概念の中に含める**傾向が明確である。iRobot は暗号化・データ保護を前面に出し、SoftBank Robotics は商用サービスロボットで remote access management や data security を説明し、英国 OPSS の研究も AI consumer products の安全論点を市場・概念・リスク・規制の更新として整理している。ここでは「物理的にぶつからないこと」だけでは、もはや安全と呼べない。 citeturn17search0turn18search1turn31view3turn31view4
## 国際規格と採用状況
国際規格の最新動向を一言でいえば、**「設計安全」中心の規格群が、「運用安全」「AIガバナンス」「サイバー統合」を含む体系へ再編されつつある」**ということである。最重要の変化は、ISO 10218-1:2025 および ISO 10218-2:2025 が公表され、協働ロボット関連では ISO/TS 15066 の内容が 10218 シリーズへ取り込まれる方向が明示された点である。これにより、cobot 安全は単独 TS の“補足”ではなく、**工業ロボット安全の本流**へ位置づけ直された。サービスロボットでは ISO 31101:2023 が運用側の安全管理システム要求を定め、ISO/FDIS 13482 は personal care robot を超えた service robot safety への更新として進んでいる。 citeturn9search0turn15search0turn15search5turn29view8turn15search2turn29view9
| 規格・文書 | 最新状況 | 主な対象 | 採用・位置づけ |
|---|---|---|---|
| ISO 10218-1:2025 / -2:2025 | 発行済み。協働ロボットの考え方をシリーズに統合。 citeturn9search0turn15search0 | 産業用ロボット本体、ロボットアプリケーション・セル | 2025年改訂版が世界的基準。米国は ANSI/A3 R15.06-2025 として採用。 citeturn29view5 |
| ISO/TS 15066:2016 | 依然有効だが、内容の一部は 10218 系へ統合。 citeturn15search5turn15search18 | 協働ロボットの安全要求・痛覚閾値など | 今なお実務参照が多いが、今後は 10218 系との一体運用が中心。 |
| ISO 31101:2023 | 発行済み。 service robot application service の安全管理システム要求。 citeturn14search7turn14search8 | サービス事業者の運用安全 | 日本主導色が強く、運用者責任を規格化した点で画期的。 |
| ISO/FDIS 13482 | 開発中。サービスロボット安全へ拡張。 citeturn15search2turn29view9 | 個人向け・商用を含む service robots | 家庭用・介護・商用ロボットの規格空白を埋める本命。 |
| IEC 61508 系 | 現行の機能安全基盤。IEC も robotics safety で中核と位置付け。 citeturn9search1turn9search15 | E/E/PE 安全関連システム | ロボット固有規格ではないが、機能安全の共通土台。 |
| IEC 80601-2-77 / -2-78 | FDA 認知済み規格として運用。 citeturn25search14turn25search17turn14search15 | 手術支援ロボット、リハビリ医療ロボット | 医療ロボットの安全・必須性能の国際基盤。 |
| ISO/IEC CD TS 22440-1 | 開発中。AI と機能安全の接続。 citeturn15search12 | AI systems と functional safety | 今後の AI 搭載ロボット規格の中核候補。 |
| IEEE 7009-2024 / 7003-2024 / 2846-2022 | 発行済み。 citeturn10search0turn10search2turn10search3 | fail-safe 設計、アルゴリズムバイアス、ADS モデル仮定 | ISO/IEC を補完するガバナンス・倫理・形式モデル側の規範。 |
| UNECE UN R155 / 156 / 157 | 発効済み・改訂継続。 citeturn11search0turn11search1turn11search2turn11search13 | 車両サイバー、ソフト更新、自動車線維持 | 車両ロボティクスでは事実上の国際ルール。 |
採用状況にも差がある。米国では ANSI/A3 R15.06-2025 が ISO 10218:2025 を国内採用し、Part 3 で use of industrial robot cells を追加した。中国では工業ロボット安全の GB/T 20867.1-2024 が 2025年3月に、サービスロボット情報安全の GB/T 45502-2025 が 2025年10月に施行される。日本は JIS ベースの知見を使い ISO 31101 を主導し、EU は AI Act の下で harmonised standards を整備する方針だが、2026年時点で**規格策定の遅れが実施スケジュールに影響**している。つまり、標準の「有無」だけでなく、「調和規格が法令適合性の presumption をいつ与えるか」が実務の論点になっている。 citeturn29view5turn29view6turn29view7turn14search8turn29view1turn32view0
## リスク評価・安全設計と実装課題
安全設計の実務は、**本質安全設計・保護方策・情報提供**という古典的三層に、**安全ケース、冗長化、機能安全、サイバー統合、市販後監視**を接続する形に進化している。特に AI を含むロボットでは、単発のリスクアセスメントだけでは、学習データの偏り、アップデート後の挙動変化、遠隔接続、運用現場の変更に追随できない。このため、NIST AI RMF の Govern/Map/Measure/Manage、FDA の SPDF、Waymo/AVSC の safety case assessment は、いずれも**継続的安全保証**を前提にしている。 citeturn34search2turn34search8turn35view1turn26search1turn27search1
```mermaid
flowchart TD
A[用途定義とODD設定] --> B[危険源同定]
B --> C[リスク分析]
C --> D[リスク評価]
D --> E[安全要求割当]
E --> F[設計対策]
F --> G[検証と妥当性確認]
G --> H[安全ケース作成]
H --> I[運用開始]
I --> J[監視・ログ・事故報告]
J --> K[アップデート評価]
K --> B
```
実務上の代表的手法は次のように整理できる。まず**フェイルセーフ**は、危険状態検出時に安全側へ遷移させる基本原則であり、IEEE 7009-2024 が自律・半自律システム向けの technical baseline を与えている。次に**冗長化**は、自動運転ガイドラインや UNECE 車両規則でも重視され、故障時でも安全機能を維持する構成として扱われる。第三に**安全ケース**は、主張・根拠・証拠を明示する説明構造で、Waymo や AVSC では評価方法まで公開が始まった。第四に**サイバーセキュリティ統合**は、医療では SPDF、車両では UN R155/156、EU では CRA の形で、もはや安全の外部条件ではなく安全要件そのものとなっている。 citeturn10search0turn36view0turn11search0turn11search1turn26search1turn27search1turn35view1turn21search9
最大の実装課題は四つある。第一に、**人間要因の形式化が難しい**。学術レビューでも、専門家依存型の危険源評価は HRC では限界があるとされ、認知負荷・驚き・過信・誤使用の扱いが未成熟である。第二に、**移動ロボットやサービスロボットの ODD が揺れる**。工場セルと違い、床状態、障害物、人流、照明、通信、家庭内レイアウトが頻繁に変わる。第三に、**アップデート後保証の不足**である。ソフト更新、学習モデル更新、クラウド連携は性能改善と同時に安全再評価を必要とする。第四に、**サイバーと安全の組織分断**で、現場では security team と safety team が別組織にあることが多く、脅威モデリングと危険源分析が統合されていない。これが実装遅延の主要因である。 citeturn28view1turn28view5turn31view4turn35view1turn11search1
この文脈では、**安全ケース**の価値が高い。安全ケースは、規則や試験項目のチェックリストでは説明できないシステム全体像、境界条件、データ制約、更新管理を、監査可能な形で表現できるからである。とくに高自律ロボットでは、十分性を「規格適合=安全」と単純化しにくく、”どの主張が、どの証拠で、どの不確実性を残しているか”を構造化できる点が重要である。今後は、ロボット分野でも UL 4600 型の claim-based assurance に近い考え方が広がる可能性が高い。これは Waymo と AVSC の公開文書が先行的に示している。 citeturn26search1turn27search0turn27search8
## 影響・見通し・提言
短期では、法規制と規格更新は**開発速度をやや鈍らせる**。EU AI Act の適合性評価、FDA の AI-enabled device lifecycle 文書、NHTSA の事故報告、英国や中国の情報表示・製品安全更新は、いずれも文書化・試験・監査・ログ管理の負担を増やすからである。しかし中期では、これらはむしろ**市場拡大の条件**になる可能性が高い。なぜなら、人と空間を共有するロボットは、導入先の安全担当者・保険者・規制当局・消費者の信頼がなければ大規模普及しないからである。2025年の IFR 統計でも、産業ロボット設置台数は高水準を維持し、サービスロボット・医療ロボットも増勢にあるが、この普及の持続には安全・セキュリティ・責任の説明可能性が不可欠である。 citeturn35view0turn40search2turn31view3turn41view1turn19search4turn19search5
中期の見通しとしては、**規格と法令の接続**がさらに強まる。EU では harmonised standards が presumption of conformity の鍵であり、医療では MDR/IVDR と AI Act の補完が明示され、米国でも ANSI/A3 R15.06-2025 や FDA 認知規格が実務基盤になる。中国でも国家標準のスピード感が速く、英国でも HSE の共同ガイダンスづくりが始まった。これらを総合すると、2026–2030年は「ロボットをつくる能力」よりも、「**安全・法務・セキュリティを統合して市場投入する能力**」が差別化要因になる公算が大きい。これは研究にも影響し、論文の novelty だけでなく、データ統制、評価再現性、アップデート後保証、市販後監視への接続が求められるようになる。 citeturn29view1turn33view0turn29view5turn31view2turn29view6
長期では、ロボット規制は大きく三つの軸へ収斂すると考えられる。第一に**用途横断の AI/データガバナンス**、第二に**製品安全・機械安全・機能安全**、第三に**アップデート・サイバー・責任法**である。家庭用AIロボット、介護、公共空間 AMR、自動運転、医療ロボットは形が違っても、この三軸の束に包摂されていく可能性が高い。長期的な勝者は、単に高性能なモデルや低価格ハードを持つ企業ではなく、**証拠・監査・更新・事故対応を継続運用できる企業**になる。 citeturn21search9turn29view11turn35view1turn26search1turn32view0
実務者向けの提言は明確である。第一に、**安全、品質、セキュリティ、法務を単一プロセスで回す**こと。HARA/FMEA と脅威分析、SBOM、ログ、アップデート審査を一本化すべきである。第二に、**ODD と misuse を仕様書に書き切る**こと。第三に、**安全ケースを社内レビュー用にでも先に作る**こと。第四に、**人間監督の設計**を後工程に回さないことで、表示・速度・停止・引継ぎ・アラート・教育を user interface として扱うべきである。第五に、**市販後監視を研究段階から考える**ことで、遠隔ログ、near-miss、故障モード、再学習判定基準を最初から設計しておく必要がある。 citeturn34search2turn35view1turn35view2turn26search1turn16search2
政策立案者向けには、次の優先順位を勧めたい。第一に、**事故・ヒヤリハット・ソフト更新後不具合の共通報告枠組み**を整えること。第二に、**中小企業でも使える標準テンプレート**として、安全ケース、リスクアセスメント、SBOM、AI データシート、ヒューマンファクタ試験のひな型を提供すること。第三に、**国際規格と国内認証の往復を簡素化**すること。第四に、**規制サンドボックスと市販後監視を連動**させること。第五に、家庭用・サービスロボットについて、物理安全とプライバシー・サイバーを一体評価する枠組みを作ることである。現時点で最も制度的空白が大きいのは、この家庭・公共空間のロボットである。 citeturn40search2turn31view3turn29view1turn17search0turn18search1
## 主要出典リスト
以下は、本報告の判断に特に重い一次・公式ソースである。ユーザーの希望どおり、英日両言語の公式・一次情報を優先している。
| 種別 | 出典 | 年 | 主な用途 |
|---|---|---:|---|
| 日本政府 | 内閣府「人工知能関連技術の研究開発及び活用の推進に関する法律(AI法)」 citeturn7search2turn7search8 | 2025 | 日本の AI 基本法制 |
| 日本政府 | 経産省・AI事業者ガイドライン関連資料 citeturn29view3 | 2025–2026 | 日本の AI ガバナンス実務 |
| 日本政府 | 国土交通省「レベル4自動運転車の安全性確保に関するガイドライン」 citeturn36view0turn39view1 | 2025 | 自動運転ロボットの安全要求 |
| EU | European Commission「AI Act」および FAQ/標準化ページ citeturn29view0turn32view0turn29view1 | 2024–2026 | EU AI 規制の中核 |
| EU | Machinery Regulation 2023/1230、Cyber Resilience Act 2024/2847、Product Liability Directive 2024/2853 citeturn29view2turn21search9turn29view11 | 2023–2024 | 機械・サイバー・責任法 |
| EU | MDCG 2025-6 / AIB 2025-1 *Interplay between MDR/IVDR and the AI Act* citeturn33view0turn39view5 | 2025 | 医療ロボットと AI Act の接続 |
| 米国 | NIST AI RMF 1.0 / Playbook / AIRC citeturn34search8turn34search2turn34search10 | 2023–2026 | AI リスク管理の基本枠組み |
| 米国 | FDA AI-enabled device lifecycle draft、Cybersecurity guidance、Human Factors guidance citeturn35view0turn35view1turn35view2 | 2024–2026 | 医療ロボット・AI 医療機器安全 |
| 米国 | NHTSA AV STEP / Standing General Order / Automated Vehicle Safety citeturn40search1turn40search2turn40search6 | 2024–2025 | ADS/車両ロボットの監督 |
| 中国 | SAMR/国標委 GB/T 20867.1-2024、GB/T 45502-2025 citeturn29view6turn29view7 | 2024–2025 | 工業・サービスロボット安全と情報安全 |
| 中国 | CAC「人工智能生成合成内容标识办法」 citeturn41view1 | 2025 | AI 生成物の表示義務 |
| 英国 | HSE「AI に対する規制アプローチ」「cobot 共同ガイダンス」 citeturn31view1turn31view2 | 2025–2026 | 英国の sectoral safety approach |
| 英国 | Product Regulation and Metrology Act 2025 / OPSS AI product safety research update citeturn31view0turn31view3turn31view4 | 2024–2025 | 英国の製品安全更新 |
| ISO/IEC | ISO 10218:2025、ISO 31101:2023、ISO/FDIS 13482、ISO/IEC CD TS 22440-1 citeturn9search0turn15search0turn29view8turn29view9turn15search12 | 2023–2026 | 国際標準の最新動向 |
| IEEE | IEEE 7009-2024、7003-2024、2846-2022 citeturn10search0turn10search2turn10search3 | 2022–2024 | fail-safe・バイアス・ADS モデル仮定 |
| UNECE | UN R155/R156/R157 citeturn11search0turn11search1turn11search2turn11search26 | 2021–2025 | 車両ロボットの国際規則 |
| 学術レビュー | Giallanza ら 2024、Haney ら 2024、Marcus ら 2024、Adesiji ら 2025/2026、Khan ら 2026、Belzile ら 2025 citeturn28view1turn13search2turn28view3turn12search14turn12search0turn28view5 | 2024–2026 | 学術的な合意と未解決論点 |
| 産業界 | Waymo、Mobileye、Universal Robots、Intuitive、Amazon Robotics、Starship、SoftBank Robotics、iRobot の公式資料 citeturn16search0turn16search1turn16search2turn16search3turn17search12turn18search3turn18search1turn17search0 | 2021–2026 | 企業実務と公開安全アプローチ |

