KTL TRUST logo 국내 유일 공공 종합시험인증기관
한국산업기술시험원 웹진

KTL's 시선집중 AI 국제표준,
‘Beyond KOREA NO.1+’를 향해 KTL 디지털산업본부 산업지능화기술센터 권종원 센터장, 안선호 책임연구원

AI 국제인증 산업지능화

현대 산업에서 표준의 중요성과 영향력은 날로 커져가고 있다.
특히, 인공지능(AI) 같은 첨단기술 분야의 국제표준 선점은 제품의 세계시장 진출과 경쟁력 확보 기능을 넘어
미래 산업을 선도하고 경쟁국과 혁신 역량 격차를 높이는 수단으로 그 의미가 확대되고 있다.
KTL 산업지능화기술센터는 인공지능 관련 정부 정책 실현과제를 추진하며 다양한 산업분야의 국제 표준 활동을 추진하고 있다.
권종원 센터장과 안선호 책임연구원을 만나 AI 국제표준 개발의 의미와 센터의 비전에 대해 이야기를 나눴다.

제조기업들의 디지털 전환을 돕다

KTL 산업지능화기술센터(이하 ‘센터’)는 김포와 대전, 2개 지역에 거점을 두고 있다. 김포 센터는 AI 시스템 신뢰성 분야를, 대전은 AI 기능 안전을 중심으로 사업을 추진 중이다. 센터의 주요 업무는 정부가 추진하는 산업정책의 방향에 맞게 해당 정책이 성공적으로 실현될 수 있도록 지원하는 것이다.최근에는 산업디지털전환촉진법(2022.7.5. 시행)에 따라 제조 기업들이 인공지능, 빅데이터 등 디지털 기술을 통해 고부가가치 사업으로의 성장과 국내·외 판로 확보를 위해 기술지원 및 적합성평가 사업을 수행 중이다.

권종원 센터장 : “저희가 주로 수행하는 업무는 크게 세 가지 정도로 진행됩니다. 하나는 제조 기업들의 성공적인 디지털 전환을 위해 국제표준 개발을 포함한 기술 지원 및 촉진하는 활동을 수행하고 있습니다. 두 번째는 산업 데이터 플랫폼 구축 및 운영입니다. 중장기적인 목적을 가지고 산업 데이터가 유통 거래로 이어질 수 있는 기반을 마련하고 있습니다. 마지막으로 AI의 개발자, 운영자, 사용자 등 모든 이해관계자가 신뢰할 수 있으며, 안전하게 활용할 수 있는 AI 생태계 조성을 위해 국제표준 기반의 산업AI국제인증을 운영하고 있습니다.”

안선호 책임연구원 : “우리 센터에서 수행하고 있는 업무 중 이를 대표할 수 있는 사업은 현재 수행 중인 <산업 디지털 전환 적합성 인증 및 실증기반 구축 사업>이라 할 수 있습니다. 총 5개년 사업으로 추진되는 이 사업은 현재 3년차에 접어들었습니다. 좀 더 설명을 드리자면, 이 사업은 첫째, 성공적인 디지털 전환을 위해 신뢰할 수 있는 AI 시스템/서비스/데이터 개발에 필요한 장비 및 플랫폼을 구축하여 제공합니다. 둘째, 급격한 기술 발전에 따른 AI 시스템 및 서비스 등 인공지능이라는 기술 특수성에 따라 정확성, 편향성, 제어불가능, 강건성 등 다양한 신뢰성 및 안전성 문제가 발생하고 있으며, 이러한 문제점에 따라 글로벌 차원에서 법, 규정 등이 제정되고 있어 보이지 않는 무역장벽이 만들어 지고 있습니다. 이러한 문제로부터 기업들이 자유로워질 수 있도록 인공지능 제품, 서비스, 조직을 대상으로 시험, 심사, 검사, 검증, 인증 등 국제표준 기반의 해외에서도 통용될 수 있는 적합성 평가 체계를 구축하고 있습니다. 마지막으로 기업이 신뢰할 수 있고 안전하게 사용할 수 있는 AI 시스템을 개발할 수 있도록, 국제표준에 기반한 기술 지원을 제공하고 있습니다.”

AI 시스템의 지속가능성에 대해 고민하다

AI 시스템을 도입한 기업들에 대한 설문조사 결과를 보면 ‘정말 믿을 수 있는 기술인가?’에 대한 원론적 질문을 가지고 있는 경우가 많다. AI 오류나 편향, 데이터 품질 문제 등에 관한 쏟아지는 기사들이 그러한 궁금증을 더욱 자극하고 있다. 그에 따라 인공지능의 지속성과 신뢰성에 대한 산업계의 의문은 끊이지 않는다. 그리고 궁극적으로 AI 시스템을 도입하고 싶어도 수집에서부터 시스템 개발, 기술적 요구사항 충족의 어려움 등으로 인해 끝까지 성공하는 사례를 찾기 힘들다. 이러한 부분에 대한 해법 역시 센터가 지원하고 있는 영역이다.

권종원 센터장 : “기업들의 요구사항을 들어보면 ‘자신의 조직에서 AI를 썼을 때 이 기술의 잠재력을 어떻게 하면 최대화할 수 있을지’ 그리고 ‘AI에 관련된 새로운 규정이나 법령이 나왔을 때 조직이 잘 준수할 수 있을지’, 그다음으로 ‘직접 만든 AI 시스템 또는 도입해서 활용하고 있는 AI 시스템이 지속적으로 높은 수준의 품질을 보장할 수 있는지’ 등이 있습니다. <산업 디지털 전환 적합성 인증 및 실증기반 구축 사업>을 기획하고 수행을 하게 된 배경이기도 합니다. 이 사업을 통해 AI를 개발하고 또는 사용하는 조직의 관점에서 다양한 법적 또는 정책적 규제의 준수 여부를 사전에 체크 및 검증할 수 있습니다. 또 이 AI 시스템이 의도하지 않게 윤리적인 편향, 다양한 환경에서의 동일한 성능을 유지할 수 있는지 또는 위험한 상황에 인공지능 시스템을 원하는 시점에 제어할 수 있는 지 등의 문제가 발생되지 않도록 사전에 이를 확인할 수 있는 장비를 구축하고 기술 개발을 통해 기업들을 지원하고 있습니다.”

안선호 책임연구원 : “AI 시스템의 신뢰성 문제를 경감시키기 위해서는 우선적으로 올바른 데이터를 활용하여 학습 및 검증해야 합니다. 이를 위해서 우리는 국제표준 기반의 데이터 품질관리 방안 및 품질을 측정할 수 있는 기반을 마련해야 합니다. 그래서 우리 센터에서는 국제표준 기반으로 기업이 산업별 데이터 종류와 특성에 맞는 데이터 품질 관리 체계를 구축할 수 있도록 기술 지원 및 구축한 학습, 검증, 테스트 및 생산 데이터에 대한 품질을 측정할 수 있는 평가 방법 등을 개발하고 있으며, 올 하반기부터 산업AI국제인증 서비스를 제공할 예정입니다. 또한, 우리 센터에서는 2020년부터 과기부 사업으로 먼저 데이터 플랫폼을 구축하였습니다. 현재는 산업부 사업으로 연계가 돼서 산업부에서 굉장히 많은 예산을 들여서 구축해놓은 자동차 산업 데이터, 유통 데이터, 웨어러블 데이터 등을 우리의 플랫폼으로 연계하는 사업을 수행하고 있습니다. 우리의 플랫폼에 구축된 데이터에 대해 품질수준을 진단하고 높은 품질을 가진 데이터에는 골든 데이터셋 마크를 부여하여 플랫폼 사용자가 인공지능 모델 개발 시 이를 믿고 활용할 수 있게 하는 플랫폼 고도화 사업을 진행을 하고 있습니다.”

국제규제가 시작된 AI 기술, 돌파구를 찾다

급격하게 발전하고 있는 AI 기술에 대응하기 위한 국제사회의 규제가 본격화 되고 있다. 올해 초 유럽이 생성형 AI에 대한 규제 법안, AI 규제법(The AI Act)에 최종 합의했으며, 해당 법안은 2년 내에 단계적으로 시행이 될 예정이다. 미국 역시 지난해 10월 30일 ‘안전하고 보안이 보장되며 신뢰할 수 있는 AI의 개발과 사용에 대한 행정명령’(Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence)에 바이든 대통령이 전격적으로 서명함으로써 연방기관들이 범정부 차원의 규제 프레임 마련에 나서고 있다. 이는 AI 국제인증을 만드는 것만큼 인증의 신뢰성을 확보해나가는 일이 더욱 중요해졌다는 것을 의미한다.

권종원 센터장 : “인증을 만드는 일은 다른 것들에 비하면 어렵지 않아요. 왜냐하면 KTL 마크도 있고 K마크, KC마크 등 이미 다양한 인증을 만들어 온 경험이 있기 때문이죠. 오히려 이 인증서에 따라오는 시험이나, 심사 기준을 만드는 기술적인 것들이 더 어렵습니다. 인공지능이 커버하는 영역이 광범위하다 보니 굉장히 많은 표준들을 다 스터디하고 이를 평가 모듈화하고, 서비스화 해야 하거든요. 그리고 가장 중요한 것은 브랜드 파워를 만드는 일이에요. 인증서를 상호 인정하는 경우가 많지 않다보니 브랜드 파워가 강한 인증서에만 신뢰성을 부여하게 되거든요.KTL이 독일, 스위스 등 유럽 시험인증기관과 MOU를 체결하고, 한국의 대표적인 AI 인증은 ‘산업 AI 국제인증’이라는 것을 알리는 데 주력하는 이유이기도 합니다.”

안선호 책임연구원 : “추가적으로 MOU로만 끝나는 것이 아니라 해당 기관들과 합동 연구를 진행하며, 상호 인정 단계까지 갈 수 있도록 진행할 계획이에요. 우리가 AI 제품, 서비스, 데이터에 대해서 AI 규격에 따른, AI 국제 표준에 따라서 평가한 어떤 적합성 평가 결과에 대해서 서로 상호 인정할 수 있는 기반을 마련하여 국내 기업이 우리 KTL에서 AI 적합성 평가를 받아 해외 진출 시 도움을 받을 수 있을 것으로 기대하고 있습니다. 또한, IEC CAB AI TF에서 활동하고 있어 국제적 AI 적합성 평가에 사용되는 표준 및 적합성 평가에 대한 새로운 니즈를 지속적으로 반영할 예정입니다.”

‘산업 AI 국제인증포럼’을 통한 국제 경쟁력 키운다

                                지난해 6월 산업 인공지능(AI) 제품·서비스 인증체계를 마련하기 위한 ‘산업 AI 국제인증포럼’이 출범했다. 포럼은 국내 기업이 국제표준에 기반해 AI 제품과 서비스 신뢰성을 검증받을 수 있도록 민간 주도로 적절한 인증 기준을 마련하기 위해 결성됐다. 산업 AI 신뢰성 인증 운영지침 등을 논의하는 산업 AI 인증제도 분과와 AI 제품과 서비스에 대한 기술적인 신뢰성 평가기준 등을 마련하는 산업 AI 인증기술 분과로 나눠 운영하며, 국내 기업이 KTL을 통해 산업 AI 적합성 인증서를 발급받을 수 있도록 지원한다.
                            

권종원 센터장 : “오는 6월~7월 쯤 2차 포럼이 진행될 예정입니다. 이때 협력 네트워크 범위를 확대할 거예요. 작년에는 한국인정기구(KOLAS) 공인시험소자격을 획득한 14개 시험인증기관이 협의체로 참가했었고, 올해는 한국화학융합시험연구원(KTR), 한국기계전기전자시험연구원(KTC)과 같은 시험인증기관들과 MOU를 진행하고, 법무법인과 컨설팅 기업 역시 참여하게 될 예정입니다. 특히 법무법인이나 컨설팅 업체가 들어오는 이유는 국제 규제에 대응하기 위해서입니다. 유럽의 GDPR(유럽 일반 개인정보 보호법)이 적합성 평가대에 들어와 있고, 시험을 진행할 때 기업의 전략에 맞는 정책이 잘 짜여 있는지도 점검해야 하기 때문입니다.”

안선호 책임연구원 : “EU AI 규제법이 시행되기 전까지 국내 AI 제품에 대해 준비시킬 수 있는 인증 지원 사업들을 마련해야 된다는 정책 방향성을 갖고 포럼에 들어와 있는 전문 시험인증기관들과 같이 협력해 나갈 계획입니다. 가장 가시적인 미래를 봤을 때 중요한 부분은 국내 기업들의 역량을 높여주고 수출할 수 있는 준비도를 높여주는 사업이 필요하다고 생각합니다. 그래야지만 저희 인증마크의 인지도도 올라가고 모범 사례로 자리매김할 수 있을 것입니다.”

SC 42 워크숍 개최

지난 4월 22일(월)부터 26일(금) 까지 ISO/IEC JTC 1/SC 42(인공지능)* 제13차 국제표준화회의 총회가 한국에서 개최되었습니다.

JTC 1/SC 42는 인공지능과 관련된 중요한 기반/기준 표준을 주로 제정하며, 기술위원회에는 64개국 700여명 이상의 국제전문가가 활동 중

미국 바이든 행정부 인공지능 행정명령, 유럽 AI 규제법안(AI Act)의 근거가 되는 규정의 많은 부분이 SC42에서 제정되는 표준을 인용하여 규제에 반영

그 중에서도 4월 24일(수)에는 인공지능에 관심있는 일반인을 대상으로 SC 42에서의 표준활동 소개, 정보 교류 및 국내 기업·기관의 인공지능 추진 방향 등을 발표하는 공개 워크숍 행사가 열렸습니다.

총회 및 워크숍 등 본 행사를 계기로 국제 인공지능 표준화에 대한 국내 기업의 관심을 제고하고 국제표준 제안 등 인공지능 표준화 경쟁력 강화에 기여할 것으로 예상됩니다.

내용	발표자
SC42 소개	Wael Diab(SC42 의장)
인증 및 책임 있는 채택을 촉진하기 위한 표준 포트폴리오(Portfolio of Standards to enable certification and responsible adoption)	Susanne Kuch & Maria Janczarski(ISO/IEC 42006 프로젝트 에디터)
SC42의 데이터 관련 표준 개요(Overview of data related standards in SC 42)	David Boyd(WG2 컨비너)
윤리와 사회적 관심사항 및 이에 대한 해결방안에 대한 지침 작업(Work on ethical and societal concerns along with guidance to address)	Viveka Bonde & Lenora Zimmerman(구글) (22443, 24368 프로젝트 에디터)
유익한 인공지능과 지속가능 인공지능을 포함하는 AI 응용 프로그램들을 가능하게 하는 표준들에 대한 개요(Overview of standards to enable AI applications including beneficial AI and sustainable AI)	Fumihiro Maruyyam(WG 4 컨비너)
머신러닝 성능평가(Assessment of machine learning performance)	Lingzhong Meng & Michael Thieme(4213 프로젝트 에디터)
AI 시큐리티와 프라이버시 관련 SC27과의 작업(Work with SC 27 on AI security and privacy)	Peter Dussen(AHG4 컨비너, MS)
AI 기반 헬스케어 정보(AI enabled health informatics)	Shusaku Tsumoto & Takeshi Imai(JWG3 컨비너, 프로젝트 에디터)
안전과 AI 시스템(Safety and AI systems)	Riccardo Mariani(JWG4 컨비너, 엔비디아)
자연어에 관한 작업(Work on Natural Language)	Laurianne Aufrant(JWG5 컨비너)
테스팅 활동 개요(Overview of testing activities)	Adam Leon Smith(JWG2 컨비너)
혁신 파트너로서 KT의 다짐	배순민 소장(KT)
새로운 AI 시대, 네이버의 주권적 AI에 대한 노력	하정우 소장(네이버 클라우드)
산업 AI를 위한 SC42 표준 기반의 적합성 평가	권종원 센터장(KTL)