◆ 과기정통부, ‘제3차 인공지능 윤리정책 토론회’ 개최
- 인공지능 윤리 확보를 위한 기업의 자율적 활동 사례 공유 등
과학기술정보통신부는 인공지능 윤리를 확산하기 위한 기업의 자율적 활동 방안을 논의하고자 정보통신정책연구원(KISDI)과 한국정보통신기술협회(TTA)와 함께 26일 제3차 윤리정책 포럼(포럼위원장 고학수 서울대 법학전문대학원 교수)을 개최했다.
인공지능 윤리정책 포럼은 인공지능의 윤리적 개발과 활용을 위한 논의를 촉진하기 위해 올해 2월 처음 출범했다. 산업계를 비롯하여 인공지능, 윤리, 교육, 법제도, 공공 등 다양한 분야의 전문가 30명이 제1기 포럼위원으로 활동하고 있다.
이번 포럼은 인공지능 스타트업이 인공지능 윤리를 어떻게 실천하고 있는지 엿볼 수 있는 자리였다. 인공지능 챗봇 ‘이루다’를 개발한 ‘스캐터랩(대표 김종윤)’, 인공지능 기반 영상인식 솔루션 등을 개발한 ‘알체라(대표 황영규)’, 인공지능 기반 글쓰기 솔루션 등을 제공하는 ‘뤼튼테크놀로지스(대표 이세영)’가 인공지능 서비스를 개발하는 과정에서 어떠한 고민을 가지고, 어떻게 노력하였는지 그 경험을 공유했다.
▶ 먼저, 스캐터랩의 김종윤 대표가 ‘스캐터랩 인공지능 챗봇 윤리점검표’ 최종안을 발표하며 논의의 장을 열었다. 스캐터랩은 친구처럼 일상적인 대화를 나눌 수 있는 관계 지향형 인공지능 챗봇 ‘이루다 2.0’의 오픈 베타 테스트를 진행하고 있다.
‘스캐터랩 인공지능 챗봇 윤리점검표’는 인공지능 챗봇 ‘이루다’를 기획·개발·운영하는 전 과정에서 기업 윤리를 실현할 수 있도록 점검 항목을 제공한다. 스캐터랩의 '인공지능 챗봇 윤리 준칙'을 과기정통부의 '인공지능 윤리기준(’20.12)' 10대 핵심 요건에 따라 구체화한 질문을 제시하고 있다.
스캐터랩은 지난 3월에 '인공지능 챗봇 윤리 준칙'을 발표하며, 사람을 위한 인공지능 개발, 다양한 삶의 가치 존중, 사생활 보호 등 인공지능 챗봇 ‘이루다’에 어떤 가치를 담아냈는지 공개한 바 있다.
▶ 알체라의 조민국 연구소장은 인공지능 기반 산불 감지 솔루션의 기술적 신뢰성 검증 결과를 발표했다. 알체라는 영상인식 기술 등을 활용해 이상 상황 감지 솔루션, 신원 인식 솔루션 등을 개발·제공하고 있다.
알체라의 기술적 신뢰성 검증은 ‘신뢰할 수 있는 인공지능 개발안내서’를 알체라의 특성에 맞게 변형하여 현장 적용하는 방식으로 이루어졌다. 개발안내서는 개발자가 인공지능 제품·서비스 개발 과정에서 신뢰성 확보 여부를 확인해 볼 수 있도록 기술적 검증 항목 후보군을 제공하는 것으로, 기업이 제품·서비스 분야에 맞게 검증 항목을 자율적으로 선택·변형하여 내부지침으로 활용할 수 있다.
알체라는 개발안내서에서 제시하는 요구사항 중 이상 상황 감지 분야에 필요한 신뢰성 요구사항을 선별하고, 신뢰성 확보 여부를 점검하여 점검 결과 및 개선사항을 도출하였다.
▶ 뤼튼테크놀로지스 이세영 대표는 ‘뤼튼 인공지능 작문 도구 윤리점검표’ 개발 취지와 초안을 발표했다. 뤼튼테크놀로지스는 자연어 처리 기술 및 초거대 인공지능 기반으로 작문 보조 솔루션 ‘뤼튼(WRTN)’을 제공하고 있다.
‘뤼튼 인공지능 작문 도구 윤리점검표’ 초안은 올해 2월 포럼 출범식에서 공개한 ‘인공지능 윤리 자율점검표’를 뤼튼테크놀로지스의 조직 특성에 맞게 변형하는 방식으로 개발되었다. ‘윤리점검표’의 점검항목 후보군을 참고하여, 작문 보조 분야에 적합한 점검 항목을 만들어 내부지침으로 활용하는 것이 목적이다.
□ 과기정통부는 지난 2월, 포럼 출범식에서 민간이 인공지능 제품·서비스를 기획하고 개발하는 과정에서 윤리 실천 및 신뢰성 검증을 위해 참고할 수 있는 ‘인공지능 윤리 자율점검표’와 ‘신뢰할 수 있는 인공지능 개발안내서’를 공개했다. 이는 인공지능 활용 목적과 조직의 특수성에 따라 점검항목을 선별·재구성하여 활용할 수 있도록 산업 부문 등을 특정하지 않은 범용성 있는 점검항목 후보군을 제공한다.
이번 포럼은 스캐터랩, 알체라, 뤼튼테크놀로지스는 ‘인공지능 윤리 자율점검표’를 자사 서비스 특징에 맞게 내부지침으로 변형하거나 ‘신뢰할 수 있는 인공지능 개발안내서’를 자사 서비스의 신뢰성 검증을 위해 활용하는 등 인공지능 윤리 확보를 위한 기업의 자율적 활동 사례를 공유하는 자리였다.
과기정통부는 이번 포럼의 결과물, 기업의 애로사항 등을 종합하여 챗봇, 위기상황 감지, 작문 등 해당 서비스 분야의 다른 기업들이 일반적으로 활용할 수 있는 분야별 점검항목 후보군을 공개할 예정이다.
과기정통부 엄열 국장은 “혁신을 저해하지 않으면서 국민이 믿고 이용할 수 있는 인공지능 제품·서비스를 개발하기 위해서는 기업 스스로의 인공지능 윤리를 실천하고자 하는 노력이 중요하다”며, “인공지능 기술 수준, 인공지능 윤리 관련 국내외 동향, 이해관계자의 목소리 등을 종합적으로 고려하여 현장에서 공감할 수 있는 자율 규제 환경을 조성하기 위해 적극 지원하겠다”고 말했다.
◆ 과기정통부, '메타버스 윤리 원칙' 초안 발표
- 메타버스 개발·운영·이용 3대 지향가치·8대 실천원칙 담은 초안 발표
- 범 부처·업계·시민단체 의견수렴 거쳐 연말 최종안 수립 계획
정부가 메타버스 윤리원칙 최종안을 연말까지 수립한다. 과학기술정보통신부는 메타버스 관련 중앙부처와 민간 전문가가 참여하는 ‘메타버스 경제 활성화 민관 테스크포스(TF)’와 ‘메타버스 얼라이언스 윤리제도분과’ 합동 토론회를 26일 개최하고 ‘메타버스 윤리원칙’ 초안에 대해 심도 있는 논의를 진행했다.
메타버스 경제 활성화 민관 TF는 박윤규 과기정통부 제2차관 주재로 메타버스 산업 발전을 위해 관계부처와 선결 이슈를 공유하고 법제도 정비방안을 논의하는 조직이다. 메타버스 얼라이언스는 민간이 주도하고 정부가 지원하는 메타버스 민관 협력체계 윤리제도분과 외 기업육성, 인재양성, 기술표준 등 전문 분과가 운영되고 있다.
이번 토론회에는 과기정통부 외에 여성가족부, 교육부, 외교통상부, 방송통신위원회, 경찰청 등의 정부 부처와 산업계, 법조계, 학계, 메타버스 유관기관 등 17명의 위원이 참석해 정보통신정책연구원(KISDI)에서 제안한 '메타버스 윤리원칙' 초안에 대해 토론했다.
향후 메타버스 윤리원칙이 학교 현장에서 교육교재, 메타버스 기업의 커뮤니티 가이드라인 등 실제 산업 현장에서 활용될 수 있도록 관련 부처, 전문가, 업계, 시민단체 등의 의견 수렴을 거쳐 연말까지 최종안을 수립할 계획이다.
코로나 19로 촉발된 비대면 수요의 급증, 인공지능(AI), 클라우드(Cloud), 가상융합기술(XR) 등 정보통신기술(ICT)의 발전으로 ‘메타버스’ 본격화에 대한 사회･경제･관심이 증가하고, 시장성장 가능성도 밝게 전망되고 있다.
그렇지만 이와 함께 가상의 세계에서 가상의 자아를 중심으로 하는 활동특성 등 새로운 유형의 상호작용 방식으로 인해 ▲현실과 가상세계의 혼돈, ▲청소년 보호, ▲개인정보보호, ▲재산권보호, ▲저작권 보호 등과 관련된 역기능이 우려되고 있다.
과기정통부는 이러한 메타버스에 대한 사회적 우려를 해소하고, 국가 신성장 동력으로서 메타버스의 잠재력과 확장성이 제한받지 않도록 관계부처와 산업계를 중심으로 메타버스 개발･운영･이용 과정에서 메타버스 생태계 참여자가 지켜야할 규범을 마련하고 있다.
'메타버스 윤리원칙' 초안은 작년 연말 과기정통부와 정보통신정책연구원을 중심으로 연구기획안을 마련하고, ‘메타버스 신산업 선도전략'(관계부처, 2022년 1월 20일)에 모범적인 메타버스 생태계 조성을 위한 구체적인 방안으로 제시된 바 있다.
이후 정보통신산업진흥원(NIPA), 한국메타버스산업협회(K-META) 등의 지원과 김앤장 법률사무소, 한국법제연구원, 경일대, 동국대, 동아대, 서울여대, 서울시립대, 상명대, 이화여대, 중앙대, 카이스트, 한양대 등의 전문가 자문을 받아 마련했다.
'메타버스 윤리원칙' 연구를 주도적으로 이끈 정보통신정책연구원 문아람 연구위원은 토론회 발제자로 나서서 "메타버스 윤리원칙 초안은 가상자아, 몰입경험, 경제시스템 등 메타버스 고유한 특징에 주목하여 기존 정보통신분야 윤리규범과 차별성을 고려하고, 사회구성원의 자율적 노력의 기준이 될 수 있도록 보편적이면서도 실행 가능한 원칙을 제시하고자 했다"라고 말했다.
이와 함께 "창의와 혁신의 메타버스 생태계를 위한 '3대 지향가치'와 이를 실현하기 위한 '8대 실천원칙'을 마련했다"면서 메타버스 윤리원칙 초안의 핵심 내용을 소개했다.
이와 관련해 메타버스 얼라이언스 윤리제도분과 위원장으로서 이날 회의를 주재한 성균관대학교 이승민 교수는 "메타버스 역기능 해소를 위해 법적･사회적 규범이 논의되고 있는데, 이를 위해 메타버스 윤리원칙을 세운다면 개발자, 플랫폼 서비스 제공자, 서비스 이용자 등 메타버스 생태계 참여자들이 공감하고 활용할 수 있는 규범이어야 한다"라고 설명했다.
메타버스 정책을 총괄하는 허원석 소프트웨어정책관은 "우리나라가 메타버스 강국으로 도약하기 위한 정책 비전을 달성하기 위해서는 메타버스 진흥을 위한 민관협력체계와 함께 역기능 해소가 중요하다"면서 "메타버스 윤리원칙이 학교현장에서 교육교재, 메타버스 기업의 커뮤니티 가이드라인 등 실제 산업현장에서 활용될 수 있도록 관련 부처, 전문가, 업계, 시민단체 등의 의견을 폭넓게 수렴해 연말까지 최종안을 수립하겠다"라고 알렸다.
