❍ 개요
- 이 규정은 「인공지능법」(Regulation (EU) 2024/1689)을 개정하여, 표준 마련 지연과 관할당국·적합성평가기구 지정 지연에 따른 이행 부담 완화, 금지되는 AI 관행(비동의 성적 딥페이크·아동성착취물 생성 AI) 추가, AI 사무국(AI Office)의 감독·집행 권한 강화를 목적으로 함.

❍ 주요 내용

① 고위험 AI시스템 관련 의무의 적용 연기 및 안전구성요소 개념의 명확화, ② AI시스템 제공자·배포자의 AI 리터러시 보장 의무를 지원 조치 의무로 완화하고, 중소기업(SME) 특례를 소형중견기업(SMC)으로 확대, ③ 비동의 성적 딥페이크 및 아동성착취물 생성 AI를 금지되는 AI 관행에 추가, ④ 범용AI 모델 기반 AI시스템 등에 대한 EU AI사무국의 전속 감독·집행 권한의 강화.
※ 소형중견기업(SMC, small mid-cap enterprise): 중소기업이 아닌 기업 중 종업원 수 750명 미만이고, 연 매출액 1억 5,000만 유로 이하 또는 대차대조표 총액 1억 2,900만 유로 이하인 기업

❍ 상세 내용

① 고위험 AI시스템 관련 의무 적용 연기 및 분류 명확화
- 인공지능법 부속서 III에 따른 고위험 AI시스템 관련 의무 적용 시작일은 2027년 12월 2일로, 인공지능법 부속서 I에 따른 고위험 AI시스템 관련 의무 적용 시작일은 2028년 8월 2일로 연기함.
- ‘안전구성요소(safety component)’를 사람·재산의 건강·안전 위험의 예방·완화를 의도된 목적으로 하는 구성요소 등으로 재정의하고, 사용자 보조·성능 최적화 등 비(非)안전 목적으로만 사용되는 AI시스템은 안전구성요소에서 제외함.

② AI 리터러시 의무 완화 및 중소·중견기업 특례 확대
- AI시스템 제공자·배포자가 직원의 AI 리터러시 수준을 ‘보장’하도록 한 의무를 역량 개발 ‘지원 조치’ 의무로 완화하고, 편향 탐지·교정을 위한 민감정보 처리 근거를 고위험 AI시스템 배포자와 그 밖의 AI시스템·모델로 확대함.
- 중소기업(SME) 및 소형 중견기업(SMC)의 정의를 신설하고, 간소화된 기술문서 양식 사용, SMC 과징금 상한의 낮은 금액 적용 등 특례를 확대하며, 품질관리시스템 간소화 대상을 영세기업에서 SME 전체로 확대.

③ 금지되는 AI 관행 추가
- 본인의 명시적 동의 없이 식별 가능한 사람의 은밀한 신체 부위나 성적 행위를 사실적으로 생성하는 AI시스템과 아동성착취물을 생성하는 AI시스템을 금지되는 AI 관행에 추가하고, 2026년 12월 2일부터 적용함.
- 다만, 해당 AI시스템의 출시·서비스 개시는 비동의 성적 딥페이크나 아동성착취물의 생성이 시스템의 의도된 목적이거나, 합리적으로 예견·재현 가능한 결과인데도 적절한 안전조치가 없는 경우에만 금지되고, 해당 AI시스템의 사용은 배포자가 이러한 생성을 목적으로 사용하는 경우에만 금지됨.

④ AI 사무국 감독·집행 권한 강화
- 범용AI 모델을 개발한 제공자가 그 모델을 기반으로 개발한 AI시스템과, 초대형 온라인 플랫폼·검색엔진이거나 여기에 내장된 AI시스템을 AI 사무국의 전속 감독 대상으로 함. 다만, 전자 중 부속서 I의 제품 관련 AI시스템, 중요 기반시설·사법행정 분야의 AI시스템, 법 집행·국경 관리 당국과 금융기관이 제공하는 AI시스템은 AI사무국의 전속 감독 대상에서 제외되어 회원국 관할당국이 감독함.
- AI 사무국에 정보 요청, 현장 조사, 사업자가 제시한 시정 약속에 구속력 부여, 위반 결정 및 과징금 부과 권한과 함께 1일당 전년도 평균 일일 소득 또는 전 세계 연간 매출액의 5% 이내의 이행강제금 부과 권한을 부여함.