EU AI法対応エンジニアリング：技術文書、ログ記録、人間による監督、データガバナンス

EU AI法について書かれてきたことの大半は、適用範囲の話です。どのリスク区分に当たるのか、提供者なのか展開者なのか、附属書IIIに捕捉されるのか。そこに答えるのは御社の法務アドバイザーです。

ほとんど語られてこなかったのは、その答えが出たあとに何が起きるかです。自社のシステムがハイリスクに当たる場合、規則が求めるのは、ライフサイクル全体にわたって機能するリスク管理システム、証拠として示せるデータガバナンス、保存期間を定めた自動ログ記録、指定された構成の技術文書、宣言ではなく設計された人間による監督、そして実際に何かを収集する市販後モニタリングです。これらはすべてエンジニアリングの成果物です。私たちが構築するのは、その部分です。

適用スケジュールの現状

AI法（規則(EU) 2024/1689）は2024年8月に発効し、段階的に適用されます。2026年にこの段階適用の内容が変更されました。この変更は資金と関心の配分を動かしたため、正確に押さえておく価値があります。

2025年2月2日：禁止される慣行およびAIリテラシーの義務が適用開始。
2025年8月2日：汎用AIモデルに関する義務が適用開始。
2026年8月2日：第50条の透明性義務が適用開始。AIシステムとやり取りしていることの開示、合成コンテンツへのマーキング、感情認識および生体分類の開示、ディープフェイクの表示。
2027年12月2日：単体で提供されるシステムに対するハイリスク義務。デジタル・オムニバスによる変更後の期日です。理事会と欧州議会は2026年5月に延期に合意し、2026年6月に最終承認されました。
2028年8月2日：規制対象製品に組み込まれたAIシステムに対するハイリスク義務。

ハイリスクシステムの提供者にとって、この延期はおよそ16か月分の猶予をもたらしました。作業量が減ったわけではありません。また、すでに効力を持っている2つの義務、すなわち第50条の透明性と、これらのシステムを運用する従業員に関するAIリテラシーは、延期されていません。

提供内容

生成される成果物としての技術文書

附属書IVは、技術文書に含めるべき内容を定めています。システムの記述、設計上の選択、アーキテクチャ、データ要件、該当する場合の学習方法、検証とテストの手順、指標、リスク管理措置、そしてライフサイクルを通じた変更の記録です。

これを手作業で書けば、署名した翌週には内容が古くなります。私たちはこれを、パイプラインが生成する成果物として構築します。学習と評価の実行から生成されるモデルカードとデータシート、コードと並んで維持されるアーキテクチャおよびデータフローの記述、対象バージョンに紐づけられた評価結果、そして誰かの記憶ではなくバージョン管理から得られる変更履歴。文書はビルドの出力物になります。

第12条を満たす自動ログ記録

ハイリスクシステムは、その稼働期間を通じて自動的にログを記録しなければなりません。動作のトレーサビリティと市販後モニタリングを可能にする水準が求められ、保存期間は目的に照らして適切であること、場合によっては最低6か月とされています。

実務上これは、自社システムにとって「イベント」とは何かを決め、入力、出力、モデルのバージョン、判断経路、関与した人間の識別情報を取得し、数年後にも検索できる形で保存し、しかも保持する根拠のない個人データを溜め込まないようにする、ということです。AI法のために十分に記録しつつ、GDPRのために十分に少なく保つ、この緊張関係こそが実際の設計課題であり、御社のデータ保護担当と明示的に協議しながら進めます。

第10条に基づくデータガバナンス

学習用、検証用、テスト用のデータセットは、関連性があり、十分に代表性を備え、可能な範囲で誤りがなく完全であることが求められ、バイアスの検査も必要です。これを満たすには、提示できるデータリネージ、文書化された出所、結果を伴うバイアス評価手法、そしてどのデータがどのモデルバージョンを生んだかを再現できることが必要になります。

私たちは、これらの主張を努力目標ではなく検証可能なものにするパイプラインを構築します。バージョン管理されたデータセット、再現可能な分割、自動化されたデータ品質チェック、そして当該ユースケースに関係する保護属性に対するバイアス評価です。

宣言ではなく実装される人間による監督

第14条は、ハイリスクシステムを、人間が出力を理解でき、自動化バイアスを意識し続けられ、結果を正しく解釈でき、使用しないという判断ができ、介入または停止ができるように設計することを求めています。

これは事実上、ユーザーインターフェースの仕様です。私たちは監督を製品の中に作り込みます。確信度と不確実性を誠実に表示すること、出力の根拠となった要素を可視化すること、受け入れと同じくらい簡単に使えるオーバーライド、実際に機能する停止操作、そして市販後モニタリングが学習材料を得られるよう、すべてのオーバーライドを記録することです。

市販後モニタリングとインシデント報告

モニタリング計画の策定と、重大なインシデントの所管当局への報告が求められます。それを支えるテレメトリを構築します。技術文書に記載した指標に対する性能の追跡、入力と出力に対するドリフト検知、ユーザーからの問題報告がエンジニアリングに届く経路、そして期限に関する義務を、実際のインシデント中に調べるのではなくあらかじめ組み込んだインシデント対応フローです。

第50条の透明性義務

すでに効力を持っています。AIシステムを相手にしていることの開示、合成された音声・画像・映像・テキストへの機械可読なマーキング、ディープフェイクの表示、感情認識に関する開示です。開示のためのUIとコンテンツ来歴のマーキングを実装し（適切な手段であればC2PAのコンテンツクレデンシャルを用います）、通常はメタデータが失われるエクスポートや再エンコードの経路を通っても残るようにします。

登録と適合性評価の支援

附属書IIIの領域に該当するハイリスクシステムは、市場に投入される前にEUデータベースへの登録が必要であり、提供者は適合性評価を実施しなければなりません。私たちは技術面のインプット（技術文書、証拠一式、エンジニアリング側の品質マネジメントシステム関連の成果物）を整備し、御社の第三者認証機関または社内評価プロセスと並んで作業します。

当社が行わないこと

法的助言は提供しておらず、自社システムがどのリスク区分に当たるかの判断も行いません。この判断は実質的な帰結を伴う法的判断であり、弁護士または有資格のコンプライアンスアドバイザーの領域です。

AIガバナンスプラットフォームの販売も行っていません。この分野には多くの製品があり、必要としているものがAIシステムの台帳とポリシーのワークフローであれば、それらの製品のほうが適しています。私たちが担当するのは、システムそのものの内側にあるエンジニアリングです。

対象となる企業

附属書IIIに該当するハイリスクAIシステムの提供者：採用および労働者管理、信用スコアリング、保険料算定、教育評価、必要不可欠なサービスの受給資格判定、生体認証システムなど。2027年12月までの時間と、相応の構築量を抱えています。

規制対象製品にAIを組み込むメーカー：医療機器、機械、車両など。AI法が既存の適合性制度の上に重なり、2つの文書体系の整合を取る必要があります。

他社から購入したハイリスクシステムを展開している企業：展開者としての義務があります。人間による監督、入力データの関連性、モニタリング、ログの保存です。

EUのユーザーに生成AI機能を提供しているすべての企業：リスク区分にかかわらず、第50条の透明性が今日すでに適用されます。

日本からEU市場に向けてAIシステムを提供している企業、EU域内の顧客向けに生成AI機能を出している企業も、同じ枠組みの中にあります。

プロジェクトの進め方

技術ギャップアセスメント：2〜4週間。御社の法務チームが到達した分類を出発点として、そこから導かれるエンジニアリング上の義務に対してシステムを評価します。成果物は、義務、現状、構築すべきもの、工数を並べたギャップ台帳で、コンプライアンス側と開発側の責任者が同じ資料で作業できる形にします。

構築：段階的に進めます。通常はログ記録と技術文書の生成から着手します。それ以外のすべてが生み出す証拠を、受け止める場所が先に必要になるためです。

適合性評価前のレディネスレビュー：証拠一式をまとめ、残っているギャップを率直に明示します。

準拠する規格・フレームワーク

規則(EU) 2024/1689 および附属書IIIと附属書IV。CEN/CENELEC JTC 21から生まれつつある整合規格。AIマネジメントシステムのISO/IEC 42001、AIリスクマネジメントのISO/IEC 23894。米国の親会社との整合が必要な場合のNIST AI Risk Management Framework。そしてGDPR。GDPRはなくなりませんし、ログ記録に関する判断のほとんどを制約します。

よくあるご質問

EU AI法は延期されたのですか

一部は延期されました。デジタル・オムニバスにより、ハイリスク義務は単体システムについて2027年12月2日へ、規制対象製品に組み込まれたAIについて2028年8月2日へと繰り延べられました。禁止される慣行、AIリテラシー、汎用AIモデルの義務、および第50条の透明性規定は延期されておらず、現在すでに効力を持っています。

当社は他社が作ったAIシステムを使っているだけです。義務はありますか

あります。展開者としての義務です。システムを取扱説明に従って運用すること、人間による監督を、それを行使できる能力と権限を持つ人に割り当てること、入力データが意図された目的に対して関連性を持つようにすること、運用を監視すること、ログを保存することが含まれます。提供者の義務より軽いものの、実在する義務です。なお、システムに実質的な改変を加えたり、自社名を付して提供したりすると、提供者に該当する場合があります。

当社のシステムはハイリスクではありません。何かすべきことはありますか

おそらく2つあります。第50条の透明性は、チャットボットや合成コンテンツの生成を含め、リスク区分にかかわらず一定のシステムに適用されます。また第4条のAIリテラシーは、提供者と展開者に一般的に適用されます。そのうえで、分類の判断根拠を示せるようにしておくことは、規制当局から問われた場合に価値があります。

技術文書は本当に自動生成できるのですか

大部分は可能です。アーキテクチャ、データセットの記述、評価結果、指標、モデルのバージョン、変更履歴は、いずれもすでに御社のシステムの中に存在します。作業は、それらをビルド時に安定した構成で取得することです。意図された目的、リスク分析、設計の根拠といった記述の必要な部分は人が書きますが、それも同じリポジトリに置き、他のすべてと一緒にバージョン管理します。

AI法とGDPRの関係はどうなりますか

両者は重なり合い、特にログ記録については逆方向に引っ張ることがあります。AI法はトレーサビリティを求め、GDPRは最小化と削除を求めます。解決策は通常、仮名化、記録対象の慎重な絞り込み、そして文書化された目的に紐づいた保存期間の設定です。これは設計上の判断であり、一度、意図的に決めるべきものです。

第三者のモデルを使うと、そのモデルの提供者になるのですか

なりません。ただし、その上にAIシステムを構築した場合、そのシステムの提供者になり、それに伴う義務を負うことはあります。どこで線が引かれるかは、何を構築し、それをどう提示するかによって決まる法的な問題です。もっともエンジニアリング上の帰結としては、いずれにせよ自社システムの文書は必要になると想定しておくべきです。

お問い合わせ

システムが何をするものか、そして分類について法務アドバイザーがどのような結論に至っているかをお知らせください。その義務がコードのレベルで何を意味するかを評価し、各項目に工数を付けたギャップ台帳をお渡しします。

AI法の技術ギャップアセスメントのご予約は、お問い合わせフォームからご連絡ください。