EU 인공지능법 컴플라이언스 엔지니어링: 기술문서, 로깅, 인간의 감독, 데이터 거버넌스

「EU 인공지능법」에 관해 쓰인 글의 대부분은 적용 범위 이야기입니다. 어느 위험 등급에 해당하는지, 공급자인지 배포자인지, 부속서 III에 걸리는지 같은 것들입니다. 그 답은 법률 자문이 내립니다.

거의 아무도 다루지 않는 것은 그 답이 나온 다음입니다. 시스템이 고위험으로 분류되면 규정은 전 생애주기에 걸쳐 작동하는 위험관리 체계, 증빙 가능한 데이터 거버넌스, 보존기간이 정해진 자동 로깅, 정해진 구조를 갖춘 기술문서, 선언이 아니라 설계된 인간의 감독, 그리고 실제로 무언가를 수집하는 시판 후 모니터링을 요구합니다. 전부 엔지니어링 산출물입니다. 우리가 만드는 부분이 바로 그것입니다.

지금 기한은 어디까지 와 있나

「AI Act」(Regulation (EU) 2024/1689)는 2024년 8월에 발효되었고 단계적으로 적용됩니다. 2026년에 그 단계가 바뀌었고, 이 변경은 돈과 관심의 방향을 움직였으므로 정확히 짚어 둘 필요가 있습니다.

2025년 2월 2일: 금지된 관행과 AI 리터러시 의무가 적용되었습니다.
2025년 8월 2일: 범용 AI 모델에 대한 의무가 적용되었습니다.
2026년 8월 2일: 제50조 투명성 의무가 적용되었습니다. 이용자가 AI 시스템과 상호작용하고 있다는 고지, 합성 콘텐츠의 표시, 감정 인식과 생체정보 분류의 고지, 딥페이크 라벨링이 여기에 해당합니다.
2027년 12월 2일: 독립형 시스템에 대한 고위험 의무가 적용됩니다. Digital Omnibus에 따른 것으로, 이사회와 유럽의회가 2026년 5월에 유예에 합의했고 2026년 6월에 최종 승인되었습니다.
2028년 8월 2일: 규제 대상 제품에 내장된 AI 시스템에 대한 고위험 의무가 적용됩니다.

고위험 시스템의 공급자라면 이 유예로 약 16개월을 벌었습니다. 그렇다고 해야 할 일이 줄어들지는 않았고, 이미 시행 중인 두 가지 의무가 뒤로 밀린 것도 아닙니다. 제50조 투명성, 그리고 이런 시스템을 운용하는 인력에 대한 AI 리터러시입니다.

우리가 구축하는 것

빌드 산출물로 만들어지는 기술문서

부속서 IV는 기술문서에 무엇이 담겨야 하는지 정하고 있습니다. 시스템 설명, 설계 선택, 아키텍처, 데이터 요구사항, 해당되는 경우 학습 방법론, 검증 및 시험 절차, 지표, 위험관리 조치, 그리고 생애주기 전반의 변경 이력입니다.

이 문서를 손으로 쓰면 서명한 다음 주에 이미 낡습니다. 우리는 이것을 파이프라인이 만들어 내는 산출물로 구축합니다. 학습·평가 실행에서 생성되는 모델 카드와 데이터 시트, 코드와 함께 관리되는 아키텍처 및 데이터 흐름 설명, 그것이 설명하는 버전에 붙는 평가 결과, 그리고 누군가의 기억이 아니라 버전 관리에서 나오는 변경 이력입니다. 문서가 빌드 결과물이 됩니다.

제12조를 충족하는 자동 로깅

고위험 시스템은 수명 기간 동안 자동으로 로그를 남겨야 하며, 그 수준은 작동의 추적성과 시판 후 모니터링이 가능한 정도여야 합니다. 보존기간은 목적에 부합해야 하고 경우에 따라 최소 6개월입니다.

실무적으로는 해당 시스템에서 "이벤트"가 무엇인지 정하고, 입력, 출력, 모델 버전, 판단 경로, 관여한 사람의 신원을 수집하며, 수년 뒤에도 조회 가능한 형태로 저장하되, 보관할 근거가 없는 개인정보를 쌓지 않는 일입니다. AI Act를 위해 충분히 남기고 GDPR을 위해 충분히 적게 남긴다는 이 긴장이 실제 설계 문제이며, 귀사의 개인정보보호 담당자와 명시적으로 함께 풀어 갑니다.

제10조 데이터 거버넌스

학습, 검증, 시험 데이터 세트는 관련성이 있어야 하고 충분히 대표성을 가져야 하며 가능한 한 오류가 없고 완전해야 하고, 편향에 대한 검토를 거쳐야 합니다. 이를 충족하려면 제시할 수 있는 데이터 계보, 문서화된 출처, 결과가 딸린 편향 평가 방법론, 그리고 어떤 데이터가 어떤 모델 버전을 만들었는지 재현할 수 있는 능력이 필요합니다.

우리는 그런 진술이 희망사항이 아니라 검증 가능한 것이 되도록 파이프라인을 만듭니다. 버전 관리되는 데이터 세트, 재현 가능한 분할, 자동 데이터 품질 검사, 그리고 해당 활용 사례에 관련된 보호 특성에 대한 편향 평가입니다.

선언이 아니라 구현되는 인간의 감독

제14조는 고위험 시스템이 사람이 출력을 이해하고, 자동화 편향을 인지하며, 결과를 올바르게 해석하고, 사용하지 않기로 결정하며, 개입하거나 시스템을 중지시킬 수 있도록 설계될 것을 요구합니다.

이것은 사용자 인터페이스 사양입니다. 우리는 감독을 제품 안에 만들어 넣습니다. 신뢰도와 불확실성을 과장 없이 드러내고, 출력의 근거가 된 요인을 보이게 하며, 수용만큼 쉬운 재정의 수단을 두고, 실제로 작동하는 중지 제어를 두며, 모든 재정의를 기록해 시판 후 모니터링이 배울 것을 남깁니다.

시판 후 모니터링과 중대사고 보고

모니터링 계획이 요구되고, 중대사고는 관할 당국에 보고해야 합니다. 우리는 이를 뒷받침하는 텔레메트리를 만듭니다. 문서에 기재한 지표에 대한 성능 추적, 입력과 출력에 대한 드리프트 탐지, 이용자가 제기한 문제가 엔지니어링까지 도달하는 경로, 그리고 사고가 터진 뒤에 알게 되는 것이 아니라 처음부터 기한 의무가 반영된 사고 처리 워크플로입니다.

제50조 투명성 의무

이미 시행 중입니다. 이용자가 AI 시스템을 상대하고 있다는 고지, 합성 오디오·이미지·영상·텍스트의 기계판독 가능한 표시, 딥페이크 라벨링, 감정 인식에 대한 고지입니다. 우리는 고지 표면과 콘텐츠 출처 표시를 구현하고 (그 방식이 적절한 경우 C2PA 콘텐츠 자격증명을 씁니다) 대개 그런 표시를 지워 버리는 내보내기와 재인코딩 경로에서도 살아남게 만듭니다.

등록 및 적합성 평가 지원

부속서 III 영역의 고위험 시스템은 시장 출시 전에 EU 데이터베이스에 등록되어야 하고, 공급자는 적합성 평가를 수행해야 합니다. 우리는 기술적 투입물을 준비합니다. 문서, 증빙 패키지, 엔지니어링 측면의 품질경영시스템 산출물이며, 귀사의 인증기관이나 내부 평가 절차와 함께 일합니다.

우리가 하지 않는 일

법률 자문을 제공하지 않으며, 귀사 시스템이 어느 위험 등급에 속하는지 판단하지 않습니다. 그 판단은 실질적인 결과를 낳는 법률적 판단이며 법률 자문이나 자격을 갖춘 컴플라이언스 자문의 몫입니다.

AI 거버넌스 플랫폼도 팔지 않습니다. 그런 제품은 많고, 필요한 것이 AI 시스템 대장과 정책 워크플로라면 그중 하나가 우리보다 나을 것입니다. 우리가 하는 일은 시스템 내부의 엔지니어링입니다.

이런 곳을 위한 서비스입니다

부속서 III에 해당하는 고위험 AI 시스템의 공급자: 채용과 근로자 관리, 신용평가, 보험 요율 산정, 교육 평가, 필수 서비스 수급 자격, 생체인식 시스템 등입니다. 2027년 12월까지 시간이 있고 만들 것은 많습니다.

규제 대상 제품에 AI를 내장하는 제조사: 의료기기, 기계류, 차량이며, AI Act가 기존 적합성 체계 위에 얹히므로 두 문서 세트가 서로 어긋나지 않아야 합니다.

타사에서 구매한 고위험 시스템을 도입해 사용하는 기업: 자체 의무를 집니다. 인간의 감독, 입력 데이터의 적합성, 모니터링, 로그 보존입니다.

EU 이용자에게 생성형 기능을 제공하는 모든 곳: 위험 등급과 무관하게 제50조 투명성이 이미 적용됩니다. EU 시장에 SaaS나 소비자 앱을 내놓는 한국 기업이 가장 먼저 부딪히는 지점이기도 합니다.

프로젝트 진행 방식

기술 갭 진단, 2~4주. 법무팀이 내린 분류를 받아, 그로부터 따라오는 엔지니어링 의무에 대해 시스템을 평가합니다. 산출물은 갭 대장입니다. 의무, 현재 상태, 무엇을 만들어야 하는지, 공수가 한 줄씩 정리되어 컴플라이언스와 엔지니어링 책임자가 같은 문서를 보고 일할 수 있습니다.

구축, 단계적으로 진행하며 보통 로깅과 문서 생성부터 시작합니다. 나머지 모든 작업이 만들어 내는 증빙이 어딘가에 쌓여야 하기 때문입니다.

준비도 검토, 적합성 평가에 앞서 증빙 패키지를 모으고 남은 갭을 있는 그대로 적어 둡니다.

표준 및 프레임워크

Regulation (EU) 2024/1689와 그 부속서 III, IV. CEN/CENELEC JTC 21에서 나오고 있는 정합 표준. AI 경영시스템에 대한 ISO/IEC 42001과 AI 위험관리에 대한 ISO/IEC 23894. 미국 모회사와의 정합이 필요한 경우 NIST AI Risk Management Framework. 그리고 사라지지 않으며 로깅 결정의 대부분을 제약하는 GDPR입니다.

자주 묻는 질문

EU 인공지능법은 연기되었나요?

일부만 그렇습니다. Digital Omnibus는 고위험 의무를 독립형 시스템에 대해 2027년 12월 2일로, 규제 대상 제품에 내장된 AI에 대해 2028년 8월 2일로 유예했습니다. 금지된 관행, AI 리터러시, 범용 AI 모델 의무, 제50조 투명성 규정은 유예되지 않았고 현재 시행 중입니다.

다른 회사가 만든 AI 시스템만 사용합니다. 우리에게도 의무가 있나요?

있습니다. 배포자로서의 의무입니다. 시스템을 사용지침에 따라 운용할 것, 인간의 감독을 이를 행사할 역량과 권한을 가진 사람에게 배정할 것, 입력 데이터가 의도된 목적에 적합하도록 할 것, 운영을 모니터링할 것, 로그를 보존할 것이 포함됩니다. 공급자의 의무보다는 가볍지만 실재하는 의무이며, 시스템을 실질적으로 변경하거나 자사 이름을 붙이면 공급자가 될 수 있다는 점도 유의해야 합니다.

우리 시스템은 고위험이 아닙니다. 그래도 할 일이 있나요?

아마 두 가지가 있습니다. 제50조 투명성은 위험 등급과 무관하게 특정 시스템에 적용되며 챗봇과 합성 콘텐츠 생성이 여기에 포함됩니다. 그리고 제4조 AI 리터러시는 공급자와 배포자 전반에 적용됩니다. 그 외에도 분류 판단의 근거를 제시할 수 있게 해 두는 것은 규제기관이 물어올 경우를 대비해 가치가 있습니다.

기술문서를 정말 자동 생성할 수 있나요?

대부분은 가능합니다. 아키텍처, 데이터 세트 설명, 평가 결과, 지표, 모델 버전, 변경 이력은 이미 시스템 안에 존재합니다. 남는 일은 빌드 시점에 그것을 안정된 구조로 담아내는 것입니다. 의도된 목적, 위험 분석, 설계 근거처럼 실제로 서술이 필요한 부분은 사람이 쓰고, 같은 리포지토리에 두어 나머지와 함께 버전 관리되게 합니다.

AI Act와 GDPR은 어떻게 맞물리나요?

겹치며, 특히 로깅에서 서로 반대 방향으로 당깁니다. AI Act는 추적성을 원하고 GDPR은 최소화와 삭제를 원합니다. 해법은 대개 가명처리, 무엇을 로깅할지에 대한 신중한 범위 설정, 그리고 문서화된 목적에 결부된 보존기간입니다. 한 번, 의도를 갖고 내리는 설계 결정입니다.

타사 모델을 사용하면 우리가 그 모델의 공급자가 되나요?

아닙니다. 다만 그 위에 AI 시스템을 구축하면 그 시스템의 공급자가 될 수 있고, 그에 따르는 의무가 붙습니다. 경계가 어디에 그어지는지는 무엇을 만들고 어떻게 제시하느냐에 달린 법률적 문제입니다. 다만 엔지니어링 측면의 결론은 분명합니다. 어느 쪽이든 자사 시스템에 대한 문서가 필요하다고 전제하는 편이 낫습니다.

시작하기

시스템이 무슨 일을 하는지, 그리고 법률 자문이 분류에 대해 어떤 결론을 냈는지 알려 주십시오. 그 의무가 코드에서 무엇을 뜻하는지 평가하고, 각 항목에 공수가 붙은 갭 대장을 드리겠습니다.

AI Act 기술 갭 진단을 예약하시려면 문의해 주십시오.