보도자료·발표문
AI기본법 시행 원년, 개선과제 점검
|
인공지능사업자 의무 대상 명확히 해야…
한경협, AI 기본법주1) 개선과제 19건 건의
- [➊ 사내 AI] 사내·계열사 업무용 AI, 외부 제공 서비스와 구분 필요
- [➋ 책임 배분] AI 개발기업과 이용기업주2], 역할에 맞게 의무 나눠야
- [➌ 연구지원 AI] 제약·바이오 분야‘연구지원 AI’의 고영향 AI 판단기준 명확화
- [➍ 의무 이행 기준] 기업 혼란 없도록 AI 안전관리 세부 기준 조속 확정해야
＊ 주1) 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법
＊ 주2) 개발기업·이용기업 : AI 기본법은 AI를 개발해 제공하는 자를 ‘인공지능개발사업자’, 이를 이용해 제품·서비스를 제공하는 자를 ‘인공지능이용사업자’로 규정(제2조제7호). 이하에서는 각각 ‘개발기업’, ‘이용기업’으로 표기
기업들의 인공지능(AI) 활용이 빠르게 확산되고 있지만, 규제 적용 대상과 책임 범위가 불명확해 현장의 혼란과 부담이 가중되고 있다는 지적이 나왔다. 기업들이 안심하고 AI를 개발하고 활용할 수 있도록 관련 기준을 명확히 해야 한다는 주장이다.
한국경제인협회(이하 ‘한경협’)는 올해 1월 22일부터 시행된 ‘AI 기본법’과 관련해 회원사 의견을 수렴한 개선과제 19건을 과학기술정보통신부에 건의했다고 밝혔다.
이번 건의는 ‣AI 규제 대상과 적용 범위 명확화 ‣AI 사용 사실 고지·표시 의무 합리화 ‣고성능 AI주3) 및 고영향 AI주4) 규제 구체화 ‣학습 데이터 활용기준 정비 ‣AI 규제 확대의 예측가능성 확보 등 5개 분야로 구성됐다.
＊ 주3) 고성능 AI : 학습에 사용된 누적 연산량․기술수준․위험도에 관한 법정 요건을 모두 충족해 안전성 확보 의무 대상이 되는 AI (AI기본법 제32조, 시행령 제24조)
＊ 주4) 고영향 AI : 법정 영역에서 활용되면서 사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI (AI기본법 제2조제4호)
회사 안에서만 쓰는 AI, 외부 서비스와 구분해야
우선 한경협은 규제 적용 범위를 명확히 하기 위한 과제로 ‘사내 업무용 AI’의 모호한 법적 지위부터 손질해야 한다고 지적했다. 최근 기업들이 업무 효율을 높이기 위해 자체 개발한 AI를 임직원이나 계열사와 함께 사용하는 사례가 늘고 있으나, 현행법상 규제 대상 여부가 불분명해 현장의 혼선이 크다는 것이다.
실제로 회사 내부에서만 쓰는 AI도 외부 고객에게 제공하는 상용 서비스와 동일하게 인공지능사업자 의무주5) 대상이 되는지는 명확하지 않다. 특히 지주사와 계열사가 AI를 공동으로 구축·사용하는 경우에는 적용 기준을 판단하기가 더 어렵다.
＊ 주5) 인공지능사업자란 인공지능산업과 관련된 사업을 하는 자로서 AI를 개발해 제공하거나 이를 이용해 제품·서비스를 제공하는 자(제2조제7호)로 정의되며, AI 종류와 법령상 요건에 따라 위험관리, 이용자 보호, 안전성 확보 등의 의무를 이행해야함
이에 한경협은 고영향 AI가 아닌 일반 사내 업무용 AI의 경우 외부 제공 서비스와 명확히 구분하고, 일정한 보안·관리 요건을 갖춘 계열사 간 공동 활용도 내부 업무로 인정해 줄 것을 건의했다.
AI를 개발한 기업과 사용하는 기업, 의무 구분해야
AI를 개발한 기업과 이를 활용해 서비스를 제공하는 기업이 각각 어떤 책임을 져야 하는지도 명확히 할 필요가 있다는 지적이다.
현행법은 AI를 개발하는 기업과 이를 활용해 서비스를 제공하는 기업 모두에 고지‧표시, 위험관리 등의 의무를 부과하고 있지만, 한경협은 AI 개발과 서비스 제공 과정에서 각 기업이 맡은 역할과 실제로 관리할 수 있는 범위에 맞게 의무를 나눠야 한다고 설명했다.
예를 들어 일반 업무용으로 개발된 AI를 다른 기업이 사람의 안전에 영향을 미치는 용도의 고영향 AI로 바꿔 서비스를 제공한다면, 그에 따른 위험관리 책임은 실제 용도를 변경한 기업이 지는 것이 타당하다는 설명이다. 한경협은「고영향 AI 판단 가이드라인」주6)에 관련 안내가 있는 만큼, 이를 법령에 반영해 명확히 할 필요가 있다고 강조했다.
＊ 주6) 고영향 AI 판단 가이드라인(과기부, ’26.04) : 사업자가 자신이 제공하는 AI가 고영향 AI인지 여부를 스스로 판단하고 책무를 예측할 수 있도록 AI 기본법상 고영향 AI의 기준과 예시 등을 마련한 해석 지침
실제로 유럽연합(EU) AI법주7)도 이미 시장에 나온 AI의 용도를 바꿔 고위험(high-risk) AI로 만든 자를 해당 AI의 제공자(provider)로 보고 의무를 부과하는 규정을 두고 있다. 이 경우 원 제공자는 변경된 해당 AI의 제공자 지위에서 벗어난다.
＊ 주7) EU AI Act 제25조제1항(c) 및 제2항. EU의 제공자와 국내 개발사업자의 정의에는 차이가 있지만, 용도 변경 주체에게 관련 의무를 이전한다는 점에서 참고할 수 있는 사례.
연구 돕는 AI, 고영향 AI인지 쉽게 판단할 수 있도록 기준 구체화
제약·바이오 기업은 신약 후보물질 탐색, 독성 예측 등 연구개발 전반에 AI를 활용하고 있다. 현행법은 보건의료·의료기기 등의 분야에서 쓰이면서 사람의 생명·신체 안전이나 기본권에 중대한 영향을 미칠 우려가 있는 AI를 ‘고영향 AI’로 규정주8)하고 있다.
「고영향 AI 판단 가이드라인」은 ‘연구개발 단계에서 도구로 활용되는 AI’는 고영향 AI 의무 대상이 아니라고 안내하고 있으나, 이 설명만으로는 기업이 실제 사용하는 연구지원 AI가 고영향 AI에 해당하는지 판단하기 어렵다는 것이 한경협의 설명이다.
이에 한경협은 기업이 이를 쉽게 판단할 수 있도록 기준을 구체화하고 ‣세포· 동물 실험 단계에서 화합물 독성을 예측하고 실험하는 전임상(Preclinical) 단계 연구지원 AI ‣의료기기의 기본적인 개발에 필요한 코딩 지원 ‣연구 데이터 분석 등을 고영향 AI에 해당하지 않는 사례로 가이드라인에 명시할 것을 건의했다. 아울러 기업이 고영향 AI 해당 여부를 판단할 때 보건복지부·식약처 등 관계 기관의 의견을 한곳에서 신속하게 확인할 수 있도록 ‘원스톱 확인 창구’를 마련할 것을 제안했다.
＊ 주8) 제2조제4호 다목․라목
AI 안전관리 의무, 세부 기준 조속히 확정하고 예측가능성 확보 필요
한경협은 기업이 AI의 안전관리 의무를 이행하기 위해 무엇을 준비해야 하는지 알 수 있도록, 구체적인 기준과 이행방법을 담은 고시를 서둘러 마련할 것을 건의했다.
가령, 고영향 AI에는 위험관리·설명·이용자 보호 의무가 부과되지만, 어떤 위험을 어떻게 관리하고 이용자에게 무엇을 설명하며 어떤 보호조치를 마련해야 하는지 구체적으로 정하는 고시는 아직 확정되지 않았다. 이 때문에 기업이 의무 이행을 위해 무엇을 준비해야 할지 판단하기 어렵다는 설명이다.
권혁민 한경협 성장전략실장은 “AI 기본법의 성과는 기업 현장에서 AI를 믿고 활용하는 사례가 얼마나 늘어나는지에 달려 있다”며, “AI의 실제 위험과 기업의 역할에 맞게 의무를 구체화해 기업이 안전한 AI 활용과 혁신에 집중할 수 있도록 해야 한다”고 강조했다.
※ [첨부] AI기본법 개선 과제 건의서