ISO/IEC 42001:2023 附属書 A.7.5
データの来歴
Data provenance
管理策
AIシステムのためのデータ
規格の記載(原文と日本語訳)
Annex A.7.5
The organization shall define and document a process for recording the provenance of data used in its AI systems over the life cycles of the data and the AI system.
日本語訳組織は、データ及びAIシステムのライフサイクルにわたって、そのAIシステムで用いるデータの来歴を記録するためのプロセスを定め、文書化しなければならない。
原文は参考サイト(WatchDog Security GRC Wiki / Control Stack)に引用掲載されたものです。日本語訳は本サイトによる非公式訳です。
わかりやすく言うと
データの「来歴」とは、どこから来て、その後どう変わったか(作成・更新・変換・共有・検証など)の履歴のことです。この記録を、データを保持しAIを運用する期間中ずっと最新に保ちます。これにより、誤った出力や偏った出力を原因データまで遡って追跡でき、利用権限の証明にもなります。
- 来歴台帳に、データセットごとの出所・取得日・ライセンス/同意を記録する
- クレンジング・結合・再ラベリング等の変換履歴を日付と理由付きで残す
- 派生データ・合成データは元データへのリンクを記録する
- 学習済みモデルと使用したデータセットの版を紐付ける
- 任意のモデルについて、出力を生んだデータの版と変更履歴を遡れるか
- データ更新が発生時点で記録されているか
- データ管理方針
- データ来歴台帳/データインベントリ
- パイプラインの変換ログ
- データベース監査ログ