私たちの社会のあらゆる場面でAIを搭載した製品が普及することにより、日常生活やビジネスシーンにおいて、さらなる利便性の向上や新たな可能性の広がりが期待されます。

例えば、情報収集や新しい企画を考える際に、生成AIを活用している方が増えているかもしれません。あるいは、飲食店や病院の予約をする際に、AIによる自動音声と対話しながら予約をした経験がある方もいるのではないでしょうか？

私たちが認識しているかどうかはさておき、生活のさまざまな場面にAIは浸透しており、社会のインフラに関わる分野──交通や金融、電気、ガス、通信分野などにもAIを搭載した製品やサービスが導入されつつあります。

こうした動きは、さらなる利便性をもたらしてくれるという期待と同時に、懸念も生じます。AIが社会を支えるさまざまなシステムに浸透した状態で、もしAIにエラーを起こしてしまったら？それが、大きな事件や事故につながるかもしれません。

AIによる影響が大きいのであれば、そのリスクを管理するための基準やルールが不可欠です。しかし、AIを取り巻く技術革新のスピードは早く、国や企業を横断してさまざまなプレイヤーがその開発に取り組んでいるため、「AIの品質」に関する基準やルールは進化の途上。従来のソフトウェアは人間が動作を定義しますが、AIはデータに基づいて動作が決まるため、学習状況によって想定できないアウトプットを生み出します。このようなAIに対する社会の動向やAIの技術的な課題が、品質保証のための仕組みづくりや品質担保を行う上で、大きなポイントとなっているのです。

AI搭載製品が社会に受け入れられるためには、AIの品質が担保されることが求められます。そのためには、データに基づいて動作が決まるからこそ、品質を担保しながらAIを開発するための「プロセス」が定義され、そのプロセスに沿って開発が行われることが重要です。

現在、世界各国でAIの品質に関わる各種標準やガイドラインが多数公表されています。例えば、2023年10月に米国国立標準技術研究所（NIST）から発行された「AIリスクマネジメントフレームワーク（AI RMF）」や、AIプロダクト品質保証コンソーシアムが公開する「QA4AIガイドライン」などが登場し、AIを社会が受容するためのルールづくりが進んでいます。

人の命を預かるがゆえに高い安全性が求められる自動車産業においても、AI搭載の車載製品の開発は進んでいます。「衝突被害軽減・防止ブレーキ」のような認知機能や、ドライバーの状態を推定し居眠りや脇見を監視するといった機能が、その具体例として挙げられます。今後、自動運転システムを筆頭としたAI搭載製品のさらなる浸透が想定されます。

そうした進化を前提としたとき、自動車産業の変化に合わせたAIに関する新しいルールが必要になっていくはずです。

従来の自動車の規格においても安全性は重視されてきましたが、自動運転システムなどが広がる中で、センサーやAIを含む複雑な機能の安全を補完する国際規格として、「ISO 21448※1」が2022年に策定され、自動車メーカーを中心に適用が始まっています。

さらに、車載製品におけるAIの安全規格として「ISO PAS 8800※2」の発行に向けた準備が進むなど、AIの品質保証や安全性に向けて国際的な議論も活発化しています。

※1
ISO 21448
センサー、アルゴリズム、アクチュエータ、電気電子システムで実現する意図した機能の性能・仕様の不十分性、それを使用する人の誤使用による事故等のリスクを低減・回避する設計、検証の考え方・手法をまとめ、論証のフレームワーク及びガイダンスを提供する国際規格。

※2
ISO PAS 8800
2024年発行予定のAIの安全性に関する公開仕様書。AIの安全属性、リスク要因、開発と運用のライフサイクル、データ品質、AIの安全を論証するために必要なエビデンスなどが記載されている。

AIの品質を担保するには、安全規格の策定だけでは十分ではありません。実際にAIの品質が担保されたクルマやサービスの開発を実現するためには、各社でAI品質保証の活動を推進しなければなりません。

デンソーはさまざまな国際標準化活動に参加するだけではなく、社内でもAI品質保証の取り組みを行っています。それが、デンソー全社のAI品質保証の仕組みづくりです。

デンソー全社のAI品質保証の仕組みづくりでは、品質管理部やAI搭載製品を開発する事業部と連携して、世の中の動向やAIの社会受容性をもとにした社内標準づくり、AI品質に関する技術開発、実製品への適用支援に取り組むことで、会社全体で世界基準に即したAIの品質の担保を目指しています。こうした活動が始まった経緯を、ソフトウェア統括部の桑島 洋は次のように語ります。

「以前は、AI搭載製品を開発する事業部が各々で、AI品質保証の方法を考え、品質確保に取り組んでいました。これからは全社でAIの品質保証に取り組み、世の中の変化に対応できるようにするため、品質管理部やAI搭載製品を開発する事業部と連携して、AI品質保証に関わる情報をタイムリーにキャッチし、AI開発と品質保証のプロセスをつくり、会社全体に適応していく活動が始まりました。」（桑島）

デンソー内で、全社的にAI品質保証を進める上で、「AIプロセス開発」「AIツール・AI技法開発」「AI品質保証支援・AI人材育成」の3つの柱があります。

まず、国際的な法規やガイドラインに沿ったAI開発・品質保証のプロセス作成と継続的な改善を目指す「AIプロセス開発」、AI品質確保に向けた効率化ツールなど、AI品質適用のための標準開発に取り組む「AIツール・AI技法開発」により、AI品質保証の仕組みを構築します。そして、「AI品質保証支援・AI人材育成」として、各事業部がAI品質保証を実施することをサポートしていきます。

では、それぞれの具体的な取り組みはどのようになっているのでしょうか。

まず、AIプロセス開発について。現在、AIを搭載した製品開発において、法規を踏まえた要求事項を満たすことが求められており、デンソーではAI品質保証の設計基準を独自に開発しています。

その際、EUにおけるAI開発や利用に関するAI規制法案、AIリスクマネジメントの国際規格、論文や機械学習品質マネジメントガイドライン（AIQM）を参考に設計基準を作成しています。設計基準の作成プロセスについて、ソフトウェア統括部の中神 徹也はこう話します。

「規程をつくる上では、IT業界における『AI開発における品質管理指針』を定めたガイドラインを参照しました。また、自動車業界における、自動運転におけるAI開発と品質保証のプロセスの文脈でおさえるべき観点を網羅した論文も参照しました。

参照した論文では、歩行者認識を題材にAI品質を担保するための観点として、『機械学習モデルにおける7つの認識不確実性』が取り上げられています。これは、自転車を押している人や仮装している人などを歩行者とみなすパターン、ガードレールなどで認識対象の一部が隠れている場合における歩行者の正解ラベルの割り当て方、認識時に用いる機械学習モデルの選び方や学習結果の評価方法、運用時に新たに登場した歩行者のパターン、といった教師あり学習を用いたシステム開発時に混入し得る不確実性について言及されています。

AIプロセス開発において、そうした不確実性などを理由に“4つのゆらぎ”が発生することが想定されます。それは、データ収集時の『観測のゆらぎ』、ラベリング時の『ラベルのゆらぎ』、モデル構築時の『モデルのゆらぎ』、運用時の『運用後のゆらぎ』なのですが、それぞれのゆらぎを抑える考え方に基づいてAI品質保証の設計基準を定義しています」（中神）

次に「AIツール・AI技法開発」についてです。そもそも、AIによるリスクとはなにか、生じたリスクをどのように特定し、対応するかのステップが策定されていなければ、適切な対応はできません。

デンソーでは、2014年以降に世界で報道されたAI関連の数百件もの事故情報が登録されているPartnership on AIの「AI事故データベース（AIID）」を参照し、4種類のAIリスクを定義しています。

4つのリスクを定義した上で、AIの技術進化に伴う新たなるリスクにも柔軟に対応していく重要性を、中神は次のように語ります。

「4つのリスクが全てではなく、AIIDに記載のない事故が起きる可能性もあります。例えば、生成AIの登場によって著作権の問題などの新たなリスクも出てくることでしょう。事故や事例の情報も常に収集し、AIリスクの定義も常にアップデートすることが必要だと考えています」（中神）

このリスクの定義を踏まえて、リスクマネジメントの国際規格である「ISO 31000」を踏まえながら、AI固有の観点を取り入れた「AIリスクアセスメント」の手法を開発。この手法は、「リスク特定」「リスク分析」「リスク評価」「リスク対応」という4つのステップで定義されます。

例えば、リスク特定ではAI固有の着眼点を「AIモデルの入力」「AIモデルの出力」「出力の使われ方」の3つに整理しています。ここでは、AIを用いた歩行者認識機能が搭載された自動運転システムを対象に、AI固有の着眼点に基づいてリスクを特定した例を以下に示します。

各事業部は、全社横断組織が取り組むAI品質保証の規程や、AIに起因するリスクアセスメント手法を製品やサービスに適用しています。その適用先は、先進安全/自動運転、農業用自動収穫機、AI運転診断システムなど、多岐にわたります。

各事業部が活用しやすいように、全社横断組織では「AIプロセスを評価するチェックシート」を開発。AI品質管理規程に対してシステム設計チェックシートやAIソフトウェア･テストチェックシートなど、品質管理規程を開発現場でも利用しやすい形にしています。もちろん、国際的な法規標準による変更やアップデートが加われば、チェックシートにもそれらを反映します。

また、AIへの深い理解やAIを業務に積極的に活用できる人材を増やすため、デンソーではすでに教育体制が整備されています。製品開発の現場に携わるメンバーから、新入社員や事務職も含めた社内のあらゆる社員までを対象に、レベルごとにAI関連の教育コンテンツを提供しています。

これらの3つの柱の活動を徹底してやりきることで、AI品質リスクに対する説明責任を果たすことができると考えています。AI品質保証の仕組みを全社で運用するためには、社内から幅広く専門知見や経験をもつメンバーを集め、全社横断で世界・業界標準の動向調査や各事業部の開発支援を行う組織が必要になります。今後も品質管理部や各事業部と連携して、「AI品質保証」を推進する全社横断組織の体制強化を進めていきます。

デンソーにおけるAI品質保証の取り組みは社内にとどまりません。外部のさまざまな委員会に所属し、現在進行中のAI品質に関するルールづくりへの貢献も目指しています。

例えば、デンソーのAI品質保証の取り組みでは、国外活動として、ISO及びIECの合同専門委員会内のAIに関する分科委員会（ISO/IEC JTC 1/SC 42）や自動車で用いるAIの安全性に関する作業部会（ISO/TC 22/SC 32/WG 14）、国内活動として、日本品質管理学会のAI品質アジャイルガバナンス研究会や国立研究開発法人産業技術総合研究所（産総研）のAI品質マネジメント委員会に参画。また、デンソーではAIを利用したいと考えている他社に対してAI品質マネジメント検討委員会のAI利活用企業として講師を務めることで、AI品質マネジメントを推進する活動にも貢献しています。

「AIの品質保証や安全性に関する国際的ルールは、いままさに形づくられています。さまざまな委員会に参画し、最新の知見を収集するだけではなく、自社内の知見を世界的なルール制定に還元していく。そのようなかたちで社会に貢献していければと考えています」（桑島）

AI開発を取り巻く環境は日々変化し、想定されるリスク評価や品質保証の枠組みもそれに伴って変化していくと考えられます。今後も、デンソーでは全社横断組織と各事業部が密に連携し、製品開発に取り組んでいきます。

「デンソーは創業以来、品質と安全にこだわったモノづくりを行い、社会課題の解決を目指しています。このようなAI品質保証の仕組みを運用していくことでAI品質リスクに対する説明責任を果たし、さまざまな製品にAIが搭載されることによるイノベーションを支えていきたいと考えています」（桑島）