対訳一覧
参考サイトに掲載されている原文と、その日本語訳を一覧で比較できます。「Annex B(手引)」は附属書Bの実施の手引です。
The organization shall determine external and internal issues that are relevant to its purpose and that affect its ability to achieve the intended result(s) of its AI management system. The organization shall determine whether climate change is a relevant issue. The organization shall consider the intended purpose of the AI systems that are developed, provided or used by the organization. The organization shall determine its roles with respect to these AI systems.
組織は、組織の目的に関連し、かつ、そのAIマネジメントシステムの意図した成果を達成する組織の能力に影響を与える、外部及び内部の課題を決定しなければならない。組織は、気候変動が関連する課題かどうかを決定しなければならない。組織は、組織が開発、提供又は利用するAIシステムの意図した目的を考慮しなければならない。組織は、これらのAIシステムに関する自らの役割を決定しなければならない。
The organization shall determine: the interested parties that are relevant to the AI management system; the relevant requirements of these interested parties; which of these requirements will be addressed through the AI management system. NOTE Relevant interested parties can have requirements related to climate change.
組織は、次の事項を決定しなければならない。AIマネジメントシステムに関連する利害関係者/それらの利害関係者の、関連する要求事項/それらの要求事項のうち、AIマネジメントシステムを通して取り組むもの。注記 関連する利害関係者は、気候変動に関連する要求事項をもつことがある。
The organization shall determine the boundaries and applicability of the AI management system to establish its scope. When determining this scope, the organization shall consider: the external and internal issues referred to in 4.1; the requirements referred to in 4.2. The scope shall be available as documented information. The scope of the AI management system shall determine the organization's activities with respect to this document's requirements on the AI management system, leadership, planning, support, operation, performance, evaluation, improvement, controls and objectives.
組織は、AIマネジメントシステムの適用範囲を定めるために、その境界及び適用可能性を決定しなければならない。この適用範囲を決定するとき、組織は、4.1に規定する外部及び内部の課題、並びに4.2に規定する要求事項を考慮しなければならない。適用範囲は、文書化した情報として利用可能な状態にしなければならない。AIマネジメントシステムの適用範囲は、AIマネジメントシステム、リーダーシップ、計画、支援、運用、パフォーマンス評価、改善、管理策及び目的に関するこの規格の要求事項に対する組織の活動を定めなければならない。
The organization shall establish, implement, maintain, continually improve and document an AI management system, including the processes needed and their interactions, in accordance with the requirements of this document.
組織は、この規格の要求事項に従って、必要なプロセス及びそれらの相互作用を含む、AIマネジメントシステムを確立し、実施し、維持し、継続的に改善し、かつ、文書化しなければならない。
Top management shall demonstrate leadership and commitment with respect to the AI management system by: ensuring that the AI policy (see 5.2) and AI objectives (see 6.2) are established and are compatible with the strategic direction of the organization; ensuring the integration of the AI management system requirements into the organization's business processes; ensuring that the resources needed for the AI management system are available...
トップマネジメントは、次に示す事項によって、AIマネジメントシステムに関するリーダーシップ及びコミットメントを実証しなければならない。AI方針(5.2参照)及びAI目的(6.2参照)を確立し、それらが組織の戦略的な方向性と両立することを確実にする/組織の事業プロセスへのAIマネジメントシステム要求事項の統合を確実にする/AIマネジメントシステムに必要な資源が利用可能であることを確実にする…(以下略)
Top management shall establish an AI policy that: a) is appropriate to the purpose of the organization; b) provides a framework for setting AI objectives (see 6.2); c) includes a commitment to meet applicable requirements; d) includes a commitment to continual improvement of the AI management system. The AI policy shall: — be available as documented information; — refer as relevant to other organizational policies; — be communicated within the organization; — be available to interested parties, as appropriate.
トップマネジメントは、次の事項を満たすAI方針を確立しなければならない。a) 組織の目的に対して適切である。b) AI目的(6.2参照)の設定のための枠組みを示す。c) 適用される要求事項を満たすことへのコミットメントを含む。d) AIマネジメントシステムの継続的改善へのコミットメントを含む。AI方針は、次に示す事項を満たさなければならない。— 文書化した情報として利用可能である。— 必要に応じて、組織の他の方針に言及する。— 組織内に伝達する。— 必要に応じて、利害関係者が入手可能である。
Top management shall ensure that the responsibilities and authorities for relevant roles are assigned and communicated within the organization. Top management shall assign the responsibility and authority for: a) ensuring that the AI management system conforms to the requirements of this document; b) reporting on the performance of the AI management system to top management.
トップマネジメントは、関連する役割に対して、責任及び権限が割り当てられ、組織内に伝達されることを確実にしなければならない。トップマネジメントは、次の事項に対して、責任及び権限を割り当てなければならない。a) AIマネジメントシステムが、この規格の要求事項に適合することを確実にする。b) AIマネジメントシステムのパフォーマンスをトップマネジメントに報告する。
When planning for the AI management system, the organization shall consider the issues referred to in 4.1 and the requirements referred to in 4.2 and determine the risks and opportunities that need to be addressed to: — give assurance that the AI management system can achieve its intended result(s); — prevent or reduce undesired effects; — achieve continual improvement.
AIマネジメントシステムの計画を策定するとき、組織は、4.1に規定する課題及び4.2に規定する要求事項を考慮し、次の事項のために取り組む必要があるリスク及び機会を決定しなければならない。— AIマネジメントシステムが、その意図した成果を達成できることを確実にする。— 望ましくない影響を防止又は低減する。— 継続的改善を達成する。
The organization shall establish and maintain AI risk criteria that support: — distinguishing acceptable from non-acceptable risks; — performing AI risk assessments; — conducting AI risk treatment; — assessing AI risk impacts.
組織は、次の事項を支援するAIリスク基準を確立し、維持しなければならない。— 受容可能なリスクと受容不可能なリスクとを区別する。— AIリスクアセスメントを実施する。— AIリスク対応を行う。— AIリスクの影響を評価する。
The organization shall define and establish an AI risk assessment process that: a) is informed by and aligned with the AI policy (see 5.2) and AI objectives (see 6.2)... b) is designed such that repeated AI risk assessments can produce consistent, valid and comparable results; c) identifies risks that aid or prevent achieving its AI objectives; d) analyses the AI risks to: 1) assess the potential consequences... 2) assess, where applicable, the realistic likelihood... 3) determine the levels of risk; e) evaluates the AI risks to: 1) compare the results of the risk analysis with the risk criteria... 2) prioritize the assessed risks for risk treatment.
組織は、次の事項を行うAIリスクアセスメントのプロセスを定め、確立しなければならない。a) AI方針(5.2参照)及びAI目的(6.2参照)を踏まえ、それらと整合している…。b) 繰り返し実施したAIリスクアセスメントが、一貫性及び妥当性があり、かつ比較可能な結果を生み出すように設計されている。c) AI目的の達成を助ける又は妨げるリスクを特定する。d) 次によってAIリスクを分析する。1) 起こり得る結果を評価する…。2) 該当する場合、現実的な起こりやすさを評価する…。3) リスクレベルを決定する。e) 次によってAIリスクを評価する。1) リスク分析の結果とリスク基準とを比較する…。2) リスク対応のために、分析したリスクの優先順位付けを行う。
Taking the AI risk assessment results into account, the organization shall define an AI risk treatment process to: a) select appropriate AI risk treatment options; b) determine all controls that are necessary to implement the AI risk treatment options chosen and compare the controls with those in Annex A to verify that no necessary controls have been omitted; c) consider the controls from Annex A that are relevant for the implementation of the AI risk treatment options; d) identify if additional controls are necessary beyond those in Annex A in order to implement all risk treatment options; e) consider the guidance in Annex B for the implementation of controls determined in b) and c); f) produce a statement of applicability that contains the necessary controls [see b), c) and d)] and provide justification for inclusion and exclusion of controls. Justification for exclusion can include where the controls are not deemed necessary by the risk assessment and where they are not required by (or are subject to exceptions under) applicable external requirements; g) formulate an AI risk treatment plan.
AIリスクアセスメントの結果を考慮して、組織は、次の事項を行うためのAIリスク対応のプロセスを定めなければならない。a) 適切なAIリスク対応の選択肢を選定する。b) 選定したAIリスク対応の選択肢の実施に必要な全ての管理策を決定し、それらを附属書Aの管理策と比較して、必要な管理策が見落とされていないことを検証する。c) AIリスク対応の選択肢の実施に関連する附属書Aの管理策を考慮する。d) 全てのリスク対応の選択肢を実施するために、附属書Aの管理策以外の追加の管理策が必要かどうかを特定する。e) b)及びc)で決定した管理策の実施にあたって、附属書Bの手引を考慮する。f) 必要な管理策[b)、c)及びd)参照]を含む適用宣言書を作成し、管理策を含めた理由及び除外した理由を示す。除外の正当な理由には、リスクアセスメントによって管理策が必要と判断されない場合や、適用される外部要求事項によって要求されない(又は例外の対象となる)場合が含まれ得る。g) AIリスク対応計画を策定する。
The organization shall obtain approval from the designated management for the AI risk treatment plan and for acceptance of the residual AI risks. The necessary controls shall be: aligned to the objectives in 6.2; available as documented information; communicated within the organization; available to interested parties, as appropriate. The organization shall retain documented information about the AI risk treatment process.
組織は、AIリスク対応計画及び残留AIリスクの受容について、指名された管理層の承認を得なければならない。必要な管理策は、6.2の目的と整合し、文書化した情報として利用可能であり、組織内に伝達され、必要に応じて利害関係者が入手可能でなければならない。組織は、AIリスク対応のプロセスについての文書化した情報を保持しなければならない。
The organization shall define a process for assessing the potential consequences for individuals or groups of individuals, or both, and societies that can result from the development, provision or use of AI systems. The AI system impact assessment shall determine the potential consequences an AI system's deployment, intended use and foreseeable misuse has on individuals or groups of individuals, or both, and societies.
組織は、AIシステムの開発、提供又は利用から生じ得る、個人若しくは個人の集団又はその両方、及び社会に対する潜在的な結果を評価するためのプロセスを定めなければならない。AIシステム影響評価では、AIシステムの展開、意図した利用及び合理的に予見可能な誤用が、個人若しくは個人の集団又はその両方、及び社会に及ぼす潜在的な結果を決定しなければならない。
The AI system impact assessment shall take into account the specific technical and societal context where the AI system is deployed and applicable jurisdictions. The result of the AI system impact assessment shall be documented. Where appropriate, the result of the system impact assessment can be made available to relevant interested parties as defined by the organization. The organization shall consider the results of the AI system impact assessment in the risk assessment (see 6.1.2).
AIシステム影響評価では、AIシステムが展開される特定の技術的及び社会的な状況、並びに適用される法域を考慮に入れなければならない。AIシステム影響評価の結果は、文書化しなければならない。適切な場合には、システム影響評価の結果を、組織が定める関連する利害関係者に提供することができる。組織は、リスクアセスメント(6.1.2参照)において、AIシステム影響評価の結果を考慮しなければならない。
The organization shall establish AI objectives at relevant functions and levels. The AI objectives shall: a) be consistent with the AI policy (see 5.2); b) be measurable (if practicable); c) take into account applicable requirements; d) be monitored; e) be communicated; f) be updated as appropriate; g) be available as documented information.
組織は、関連する部門及び階層において、AI目的を確立しなければならない。AI目的は、次の事項を満たさなければならない。a) AI方針(5.2参照)と整合している。b)(実行可能な場合)測定可能である。c) 適用される要求事項を考慮に入れる。d) 監視する。e) 伝達する。f) 必要に応じて、更新する。g) 文書化した情報として利用可能である。
When planning how to achieve its AI objectives, the organization shall determine: — what will be done; — what resources will be required; — who will be responsible; — when it will be completed; — how the results will be evaluated.
組織は、AI目的をどのように達成するかについて計画するとき、次の事項を決定しなければならない。— 実施事項 — 必要な資源 — 責任者 — 達成期限 — 結果の評価方法
When the organization determines the need for changes to the AI management system, the changes shall be carried out in a planned manner.
組織がAIマネジメントシステムの変更の必要性を決定したとき、その変更は、計画的な方法で行わなければならない。
The organization shall determine and provide the resources needed for the establishment, implementation, maintenance and continual improvement of the AI management system.
組織は、AIマネジメントシステムの確立、実施、維持及び継続的改善に必要な資源を決定し、提供しなければならない。
The organization shall: a) determine the necessary competence of person(s) doing work under its control that affects its AI performance; b) ensure that these persons are competent on the basis of appropriate education, training, or experience; c) where applicable, take actions to acquire the necessary competence, and evaluate the effectiveness of the actions taken; and d) retain appropriate documented information as evidence of competence.
組織は、次の事項を行わなければならない。a) 組織の管理下で、AIのパフォーマンスに影響を与える業務を行う人(又は人々)に必要な力量を決定する。b) 適切な教育、訓練又は経験に基づいて、それらの人々が力量を備えていることを確実にする。c) 該当する場合には、必ず、必要な力量を身に付けるための処置をとり、とった処置の有効性を評価する。d) 力量の証拠として、適切な文書化した情報を保持する。
Persons doing work under the organization's control shall be aware of: — the AI policy (see 5.2); — their contribution to the effectiveness of the AI management system, including the benefits of improved AI performance; — the implications of not conforming with the AI management system requirements.
組織の管理下で働く人々は、次の事項に関して認識をもたなければならない。— AI方針(5.2参照) — AIのパフォーマンスの向上によって得られる便益を含む、AIマネジメントシステムの有効性に対する自らの貢献 — AIマネジメントシステム要求事項に適合しないことの意味
The organization shall determine the internal and external communications relevant to the AI management system including: — what it will communicate; — when to communicate; — with whom to communicate; — how to communicate.
組織は、次の事項を含む、AIマネジメントシステムに関連する内部及び外部のコミュニケーションを決定しなければならない。— コミュニケーションの内容(何を伝達するか) — コミュニケーションの実施時期 — コミュニケーションの対象者 — コミュニケーションの方法
Documented information required by the AI management system and by this document shall be controlled to ensure: a) it is available and suitable for use, where and when it is needed; b) it is adequately protected (e.g. from loss of confidentiality, improper use or loss of integrity).
AIマネジメントシステム及びこの規格で要求されている文書化した情報は、次の事項を確実にするために、管理しなければならない。a) 文書化した情報が、必要なときに、必要なところで、入手可能かつ利用に適した状態である。b) 文書化した情報が十分に保護されている(例えば、機密性の喪失、不適切な使用及び完全性の喪失からの保護)。
The organization shall plan, implement and control the processes needed to meet requirements, and to implement the actions determined in Clause 6, by: — establishing criteria for the processes; — implementing control of the processes in accordance with the criteria.
組織は、次に示す事項の実施によって、要求事項を満たすため、及び箇条6で決定した取組みを実施するために必要なプロセスを計画し、実施し、かつ、管理しなければならない。— プロセスに関する基準の設定 — その基準に従った、プロセスの管理の実施
The organization shall perform AI risk assessments in accordance with 6.1.2 at planned intervals or when significant changes are proposed or occur. The organization shall retain documented information of the results of all AI risk assessments.
組織は、あらかじめ定めた間隔で、又は重大な変更が提案されたか若しくは重大な変化が生じた場合に、6.1.2に従ってAIリスクアセスメントを実施しなければならない。組織は、全てのAIリスクアセスメントの結果の文書化した情報を保持しなければならない。
The organization shall implement the AI risk treatment plan according to 6.1.3 and verify its effectiveness. When risk assessments identify new risks that require treatment, a risk treatment process in accordance with 6.1.3 shall be performed for these risks. When risk treatment options as defined by the risk treatment plan are not effective, these treatment options shall be reviewed and revalidated following the risk treatment process according to 6.1.3 and the risk treatment plan shall be updated. The organization shall retain documented information of the results of all AI risk treatments.
組織は、6.1.3に従ってAIリスク対応計画を実施し、その有効性を検証しなければならない。リスクアセスメントによって対応が必要な新たなリスクが特定された場合には、それらのリスクに対して6.1.3に従ったリスク対応のプロセスを実施しなければならない。リスク対応計画で定めたリスク対応の選択肢が有効でない場合には、6.1.3に従ったリスク対応のプロセスに沿ってそれらの選択肢をレビューし、再度妥当性を確認し、リスク対応計画を更新しなければならない。組織は、全てのAIリスク対応の結果の文書化した情報を保持しなければならない。
The organization shall perform AI system impact assessments according to 6.1.4 at planned intervals or when significant changes are proposed or occur. The organization shall retain documented information of the results of AI system impact assessments.
組織は、あらかじめ定めた間隔で、又は重大な変更が提案されたか若しくは重大な変化が生じた場合に、6.1.4に従ってAIシステム影響評価を実施しなければならない。組織は、AIシステム影響評価の結果の文書化した情報を保持しなければならない。
The organization shall determine: what needs to be monitored and measured; the methods for monitoring, measurement, analysis and evaluation, as applicable, to ensure valid results; when the monitoring and measuring shall be performed; when the results from monitoring and measurement shall be analysed and evaluated. Documented information shall be available as evidence of the results. The organization shall evaluate the performance and the effectiveness of the AI management system.
組織は、次の事項を決定しなければならない。監視及び測定が必要な対象/該当する場合には、必ず、妥当な結果を確実にするための、監視、測定、分析及び評価の方法/監視及び測定の実施時期/監視及び測定の結果の、分析及び評価の時期。この結果の証拠として、文書化した情報を利用可能な状態にしなければならない。組織は、AIマネジメントシステムのパフォーマンス及び有効性を評価しなければならない。
The organization shall conduct internal audits at planned intervals to provide information on whether the AI management system: a) conforms to: 1) the organization's own requirements for its AI management system; 2) the requirements of this document; b) is effectively implemented and maintained.
組織は、AIマネジメントシステムが次の状況にあるか否かに関する情報を提供するために、あらかじめ定めた間隔で内部監査を実施しなければならない。a) 次の事項に適合している。1) AIマネジメントシステムに関して、組織自体が規定した要求事項 2) この規格の要求事項 b) 有効に実施され、維持されている。
Top management shall review the organization's AI management system, at planned intervals, to ensure its continuing suitability, adequacy and effectiveness.
トップマネジメントは、組織のAIマネジメントシステムが、引き続き、適切、妥当かつ有効であることを確実にするために、あらかじめ定めた間隔で、AIマネジメントシステムをレビューしなければならない。
The management review shall include: a) the status of actions from previous management reviews; b) changes in external and internal issues that are relevant to the AI management system; c) changes in needs and expectations of interested parties that are relevant to the AI management system; d) information on the AI management system performance, including trends in: 1) nonconformities and corrective actions; 2) monitoring and measurement results; 3) audit results; e) opportunities for continual improvement.
マネジメントレビューは、次の事項を考慮しなければならない。a) 前回までのマネジメントレビューの結果とった処置の状況 b) AIマネジメントシステムに関連する外部及び内部の課題の変化 c) AIマネジメントシステムに関連する利害関係者のニーズ及び期待の変化 d) 次に示す傾向を含めた、AIマネジメントシステムのパフォーマンスに関する情報 1) 不適合及び是正処置 2) 監視及び測定の結果 3) 監査結果 e) 継続的改善の機会
The results of the management review shall include decisions related to continual improvement opportunities and any need for changes to the AI management system. Documented information shall be available as evidence of the results of management reviews.
マネジメントレビューの結果には、継続的改善の機会、及びAIマネジメントシステムのあらゆる変更の必要性に関する決定を含めなければならない。マネジメントレビューの結果の証拠として、文書化した情報を利用可能な状態にしなければならない。
The organization shall continually improve the suitability, adequacy and effectiveness of the AI management system.
組織は、AIマネジメントシステムの適切性、妥当性及び有効性を継続的に改善しなければならない。
When a nonconformity occurs, the organization shall: a) react to the nonconformity and as applicable: 1) take action to control and correct it; 2) deal with the consequences; b) evaluate the need for action to eliminate the cause(s) of the nonconformity, so that it does not recur or occur elsewhere, by: 1) reviewing the nonconformity; 2) determining the causes of the nonconformity; 3) determining if similar nonconformities exist or can potentially occur; c) implement any action needed; d) review the effectiveness of any corrective action taken; e) make changes to the AI management system, if necessary. Corrective actions shall be appropriate to the effects of the nonconformities encountered. Documented information shall be available as evidence of: — the nature of the nonconformities and any subsequent actions taken; — the results of any corrective action.
不適合が発生した場合、組織は、次の事項を行わなければならない。a) その不適合に対処し、該当する場合には、必ず、次の事項を行う。1) その不適合を管理し、修正するための処置をとる。2) その不適合によって起こった結果に対処する。b) その不適合が再発又は他のところで発生しないようにするため、次の事項によって、その不適合の原因を除去するための処置をとる必要性を評価する。1) その不適合をレビューする。2) その不適合の原因を明確にする。3) 類似の不適合の有無、又はそれが発生する可能性を明確にする。c) 必要な処置を実施する。d) とった全ての是正処置の有効性をレビューする。e) 必要な場合には、AIマネジメントシステムの変更を行う。是正処置は、検出された不適合のもつ影響に応じたものでなければならない。次に示す事項の証拠として、文書化した情報を利用可能な状態にしなければならない。— 不適合の性質及びそれに対してとった処置 — 是正処置の結果
The organization shall document a policy for the development or use of AI systems.
組織は、AIシステムの開発又は利用のための方針を文書化しなければならない。
The AI policy should be informed by: business strategy; organizational values and culture and the amount of risk the organization is willing to pursue or retain; the level of risk posed by the AI systems; legal requirements, including contracts; the risk environment of the organization; impact to relevant interested parties
AI方針は、次の事項を踏まえて策定することが望ましい。事業戦略/組織の価値観及び文化、並びに組織が追求又は保有する意思のあるリスクの大きさ/AIシステムがもたらすリスクのレベル/契約を含む法的要求事項/組織のリスク環境/関連する利害関係者への影響
The organization shall determine where other policies can be affected by or apply to, the organization's objectives with respect to AI systems.
組織は、AIシステムに関する組織の目的によって、他の方針がどこで影響を受け得るか、又は他の方針がどこで適用され得るかを決定しなければならない。
The AI policy shall be reviewed at planned intervals or additionally as needed to ensure its continuing suitability, adequacy and effectiveness.
AI方針は、それが引き続き適切、妥当かつ有効であることを確実にするために、あらかじめ定めた間隔で、又は必要に応じて追加的に、レビューしなければならない。
A role approved by management should be responsible for the development, review and evaluation of the AI policy, or the components within. The review should include assessing opportunities for improvement of the organization's policies and approach to managing AI systems in response to changes to the organizational environment, business circumstances, legal conditions or technical environment. The review of AI policy should take the results of management reviews into account.
経営陣が承認した役割が、AI方針又はその構成要素の策定、レビュー及び評価に責任を負うことが望ましい。レビューには、組織環境、事業状況、法的条件又は技術環境の変化に応じて、組織の方針及びAIシステムを管理するアプローチを改善する機会の評価を含めることが望ましい。AI方針のレビューでは、マネジメントレビューの結果を考慮することが望ましい。
Roles and responsibilities for AI shall be defined and allocated according to the needs of the organization.
AIに関する役割及び責任は、組織のニーズに従って定め、割り当てなければならない。
Defining roles and responsibilities is critical for ensuring accountability throughout the organization for its role with respect to the AI system throughout its life cycle.
役割及び責任を定めることは、AIシステムのライフサイクル全体を通じて、AIシステムに関する組織の役割について、組織全体の説明責任を確保するために極めて重要である。
The organization shall define and put in place a process to report concerns about the organization's role with respect to an AI system throughout its life cycle.
組織は、AIシステムのライフサイクル全体を通じて、AIシステムに関する組織の役割についての懸念を報告するプロセスを定め、導入しなければならない。
The reporting mechanism should fulfil the following functions: a) options for confidentiality or anonymity or both; b) available and promoted to employed and contracted persons; c) staffed with qualified persons; d) stipulates appropriate investigation and resolution powers for the persons referred to in c); e) provides for mechanisms to report and to escalate to management in a timely manner
報告の仕組みは、次の機能を満たすことが望ましい。a) 秘密保持若しくは匿名性又はその両方の選択肢がある。b) 雇用者及び契約者が利用可能であり、利用が奨励されている。c) 適格な人員が配置されている。d) c)の人員に、適切な調査及び解決の権限を定めている。e) 適時に経営陣へ報告し、エスカレーションする仕組みがある。
The organization shall identify and document relevant resources required for the activities at given AI system life cycle stages and other AI-related activities relevant for the organization.
組織は、AIシステムのライフサイクルの各段階における活動、及び組織に関連するその他のAI関連活動に必要な、関連する資源を特定し、文書化しなければならない。
Documentation of resources of the AI system is critical for understanding risks, as well as potential AI system impacts (both positive and negative) to individuals or groups of individuals, or both, and societies. The documentation of such resources (which can utilize, for instance, data flow diagrams or system architecture diagrams) can inform the AI system impact assessments.
AIシステムの資源の文書化は、リスク、並びに個人若しくは個人の集団又はその両方、及び社会に対するAIシステムの潜在的な影響(良い影響と悪い影響の両方)を理解するために極めて重要である。このような資源の文書化(例えば、データフロー図やシステムアーキテクチャ図を利用できる)は、AIシステム影響評価の情報源となり得る。
As part of resource identification, the organization shall document information about the data resources utilized for the AI system.
資源の特定の一環として、組織は、AIシステムに利用するデータ資源に関する情報を文書化しなければならない。
As part of resource identification, the organization shall document information about the tooling resources utilized for the AI system.
資源の特定の一環として、組織は、AIシステムに利用するツール資源に関する情報を文書化しなければならない。
As part of resource identification, the organization shall document information about the system and computing resources utilized for the AI system.
資源の特定の一環として、組織は、AIシステムに利用するシステム及び計算資源に関する情報を文書化しなければならない。
As part of resource identification, the organization shall document information about the human resources and their competences utilized for the development, deployment, operation, change management, maintenance, transfer and decommissioning, as well as verification and integration of the AI system.
資源の特定の一環として、組織は、AIシステムの開発、展開、運用、変更管理、保守、移転及び廃止、並びに検証及び統合に利用する人的資源及びその力量に関する情報を文書化しなければならない。
The organization shall establish a process to assess the potential consequences for individuals or groups of individuals, or both, and societies that can result from the AI system throughout its life cycle.
組織は、AIシステムのライフサイクル全体を通じて、AIシステムから生じ得る、個人若しくは個人の集団又はその両方、及び社会に対する潜在的な結果を評価するプロセスを確立しなければならない。
The organization shall document the results of AI system impact assessments and retain results for a defined period.
組織は、AIシステム影響評価の結果を文書化し、定めた期間、その結果を保持しなければならない。
The organization shall assess and document the potential impacts of AI systems to individuals or groups of individuals throughout the system's life cycle.
組織は、システムのライフサイクル全体を通じて、個人又は個人の集団に対するAIシステムの潜在的な影響を評価し、文書化しなければならない。
The organization shall assess and document the potential societal impacts of their AI systems throughout their life cycle.
組織は、ライフサイクル全体を通じて、AIシステムの潜在的な社会的影響を評価し、文書化しなければならない。
The organization shall identify and document objectives to guide the responsible development of AI systems, and take those objectives into account and integrate measures to achieve them in the development life cycle.
組織は、AIシステムの責任ある開発を導くための目的を特定して文書化し、それらの目的を考慮に入れ、その達成のための対策を開発ライフサイクルに組み込まなければならない。
The organization shall define and document the specific processes for the responsible design and development of the AI system.
組織は、AIシステムの責任ある設計及び開発のための具体的なプロセスを定め、文書化しなければならない。
The organization shall specify and document requirements for new AI systems or material enhancements to existing systems.
組織は、新規AIシステム又は既存システムの重大な機能強化に関する要求事項を規定し、文書化しなければならない。
The organization shall document the AI system design and development based on organizational objectives, documented requirements and specification criteria.
組織は、組織の目的、文書化された要求事項及び仕様基準に基づいて、AIシステムの設計及び開発を文書化しなければならない。
The organization shall define and document verification and validation measures for the AI system and specify criteria for their use.
組織は、AIシステムの検証及び妥当性確認の手段を定めて文書化し、それらを用いるための基準を規定しなければならない。
The verification and validation measures can include, but are not limited to: testing methodologies and tools; selection of test data and their representation of the intended domain of use; release criteria requirements.
検証及び妥当性確認の手段には、次のものが含まれ得るが、これらに限定されない。試験の方法論及びツール/試験データの選定、及びそれが意図した利用領域を代表していること/リリース基準の要求事項
The organization shall document a deployment plan and ensure that appropriate requirements are met prior to deployment.
組織は、展開計画を文書化し、展開に先立って適切な要求事項が満たされていることを確実にしなければならない。
AI systems can be developed in various environments and deployed in others (such as developed on premises and deployed using cloud computing) and the organization should take these differences into account for the deployment plan. The organization should also consider whether components are deployed separately (e.g. software and model can be deployed independently).
AIシステムは、ある環境で開発され、別の環境で展開されることがある(例えば、オンプレミスで開発し、クラウドコンピューティングを用いて展開する)。組織は、展開計画においてこれらの違いを考慮することが望ましい。また、構成要素が別々に展開されるかどうか(例えば、ソフトウェアとモデルが独立して展開され得る)も考慮することが望ましい。
Additionally, the organization should have a set of requirements to be met prior to release and deployment (sometimes referred to as “release criteria”). This can include verification and validation measures that are to be passed, performance metrics that are to be met, user testing to be completed, as well as management approvals and sign-offs to be obtained.
さらに、組織は、リリース及び展開に先立って満たすべき一連の要求事項(「リリース基準」と呼ばれることがある)をもつことが望ましい。これには、合格すべき検証及び妥当性確認の手段、達成すべき性能指標、完了すべきユーザテスト、並びに取得すべき経営陣の承認及び署名が含まれ得る。
The organization shall define and document the necessary elements for the ongoing operation of the AI system. At the minimum, this should include system and performance monitoring, repairs, updates and support.
組織は、AIシステムの継続的な運用に必要な要素を定め、文書化しなければならない。これには、少なくとも、システム及び性能の監視、修理、更新並びにサポートを含めることが望ましい。
System and performance monitoring can include monitoring for general errors and failures, as well as for whether the system is performing as expected with production data. Technical performance criteria can include success rates in resolving problems or in achieving tasks, or confidence rates.
システム及び性能の監視には、一般的なエラー及び障害の監視、並びに本番データに対してシステムが期待どおりに機能しているかどうかの監視が含まれ得る。技術的な性能基準には、問題解決若しくはタスク達成の成功率、又は信頼度が含まれ得る。
Some deployed AI systems evolve their performance as a result of ML, where production data and output data are used to further train the ML model. Where continuous learning is used, the organization should monitor the performance of the AI system to ensure that it continues to meet its design goals and operates on production data as intended.
展開されたAIシステムの中には、本番データ及び出力データを用いて機械学習モデルを更に学習させることによって、機械学習の結果として性能が変化するものがある。継続学習を用いる場合、組織は、AIシステムが引き続き設計目標を満たし、本番データに対して意図どおりに動作することを確実にするために、AIシステムの性能を監視することが望ましい。
The organization shall determine what AI system technical documentation is needed for each relevant category of interested parties, such as users, partners, supervisory authorities, and provide the technical documentation to them in the appropriate form.
組織は、利用者、パートナー、監督機関など、関連する利害関係者の区分ごとに、どのようなAIシステムの技術文書が必要かを決定し、その技術文書を適切な形式で提供しなければならない。
The organization shall determine when event log record keeping should be enabled.
組織は、どの時点でイベントログの記録を有効にすべきかを決定しなければならない。
The organization shall define, document and implement data management processes related to the development of AI systems.
組織は、AIシステムの開発に関連するデータマネジメントのプロセスを定め、文書化し、実施しなければならない。
The organization shall determine and document details about the acquisition and selection of the data used in AI systems.
組織は、AIシステムで利用するデータの取得及び選定に関する詳細を決定し、文書化しなければならない。
The organization shall define and document requirements for data quality and ensure that data used to develop and operate the AI system meet those requirements.
組織は、データ品質の要求事項を定めて文書化し、AIシステムの開発及び運用に用いるデータがそれらの要求事項を満たすことを確実にしなければならない。
The organization shall define and document a process for recording the provenance of data used in its AI systems over the life cycles of the data and the AI system.
組織は、データ及びAIシステムのライフサイクルにわたって、そのAIシステムで用いるデータの来歴を記録するためのプロセスを定め、文書化しなければならない。
The organization shall define and document its criteria for selecting data preparations and the data preparation methods to be used.
組織は、データ準備の選定基準、及び用いるデータ準備の手法を定め、文書化しなければならない。
The organization shall determine and provide the necessary information to users of the AI system.
組織は、AIシステムの利用者に必要な情報を決定し、提供しなければならない。
The organization shall provide capabilities for interested parties to report adverse impacts of the AI system.
組織は、利害関係者がAIシステムの悪影響を報告できる手段を提供しなければならない。
The organization shall determine and document a plan for communicating incidents to users of the AI system.
組織は、AIシステムの利用者にインシデントを伝達するための計画を決定し、文書化しなければならない。
The organization shall determine and document their obligations to reporting information about the AI system to interested parties.
組織は、AIシステムに関する情報を利害関係者に報告する義務を決定し、文書化しなければならない。
The organization shall define and document the processes for the responsible use of AI systems.
組織は、AIシステムの責任ある利用のためのプロセスを定め、文書化しなければならない。
The organization shall identify and document objectives to guide the responsible use of AI systems.
組織は、AIシステムの責任ある利用を導くための目的を特定し、文書化しなければならない。
The organization operating in different contexts can have different expectations and objectives for what constitutes the responsible development of AI systems. Depending on its context, the organization should identify its objectives related to responsible use. Some objectives include: fairness; accountability; transparency; explainability; reliability; safety; robustness and redundancy; privacy and security; accessibility.
異なる状況で事業を行う組織は、何をもってAIシステムの責任ある開発とするかについて、異なる期待及び目的をもつことがある。組織は、その状況に応じて、責任ある利用に関する目的を特定することが望ましい。目的の例には、公平性、説明責任、透明性、説明可能性、信頼性、安全性、頑健性及び冗長性、プライバシー及びセキュリティ、アクセシビリティがある。
Once defined, the organization should implement mechanisms to achieve its objectives within the organization. This can include determining if a third-party solution fulfils the organization's objectives or if an internally developed solution is applicable for the intended use. The organization should determine at which stages of the AI system life cycle meaningful human oversight objectives should be incorporated.
目的を定めた後、組織は、組織内でその目的を達成するための仕組みを実施することが望ましい。これには、第三者のソリューションが組織の目的を満たすかどうか、又は内部開発したソリューションが意図した利用に適用可能かどうかを判断することが含まれ得る。組織は、AIシステムのライフサイクルのどの段階で、意味のある人間による監視の目的を組み込むべきかを決定することが望ましい。
The organization shall ensure that the AI system is used according to the intended uses of the AI system and its accompanying documentation.
組織は、AIシステムが、その意図した用途及び付属文書に従って利用されることを確実にしなければならない。
The AI system should be deployed according to the instructions and other documentation associated with the AI system (see B.8.2).
AIシステムは、そのAIシステムに関連する取扱説明及びその他の文書に従って展開することが望ましい(B.8.2参照)。
The organization should keep event logs or other documentation related to the deployment and operation of the AI system which can be used to demonstrate that the AI system is being used as intended or to help with communicating concerns related to the intended use of the AI system.
組織は、AIシステムが意図どおりに利用されていることを実証するため、又はAIシステムの意図した利用に関する懸念の伝達を助けるために利用できる、AIシステムの展開及び運用に関するイベントログ又はその他の文書を保持することが望ましい。
The organization shall ensure that responsibilities within their AI system life cycle are allocated between the organization, its partners, suppliers, customers and third parties.
組織は、AIシステムのライフサイクルにおける責任が、組織、そのパートナー、供給者、顧客及び第三者の間で割り当てられることを確実にしなければならない。
In an AI system life cycle, responsibilities can be split between parties providing data, parties providing algorithms and models, parties developing or using the AI system and being accountable with regard to some or all interested parties. The organization should document all parties intervening in the AI system life cycle and their roles and determine their responsibilities.
AIシステムのライフサイクルにおいて、責任は、データを提供する者、アルゴリズム及びモデルを提供する者、AIシステムを開発又は利用し、一部又は全ての利害関係者に対して説明責任を負う者の間で分担されることがある。組織は、AIシステムのライフサイクルに関与する全ての当事者とその役割を文書化し、その責任を決定することが望ましい。
When processed data includes PII, responsibilities are usually split between PII processors and controllers. ISO/IEC 29100 provides further information on PII controllers and PII processors. Where the privacy of PII is to be preserved, controls such as those described in ISO/IEC 27701 should be considered.
処理されるデータが個人識別可能情報(PII)を含む場合、責任は通常、PII処理者とPII管理者との間で分担される。ISO/IEC 29100は、PII管理者及びPII処理者に関する更なる情報を提供している。PIIのプライバシーを保護する場合には、ISO/IEC 27701に記載されているような管理策を考慮することが望ましい。
The organization shall establish a process to ensure that its usage of services, products or materials provided by suppliers aligns with the organization's approach to the responsible development and use of AI systems.
組織は、供給者が提供するサービス、製品又は資材の利用が、AIシステムの責任ある開発及び利用に対する組織のアプローチと整合することを確実にするプロセスを確立しなければならない。
The organization shall ensure that its responsible approach to the development and use of AI systems considers their customer expectations and needs.
組織は、AIシステムの開発及び利用に対する組織の責任あるアプローチが、顧客の期待及びニーズを考慮することを確実にしなければならない。