[아이포럼 2021] 신뢰 받는 인공지능의 미래, '거버넌스' 구축에 달렸다


민원기 한국뉴욕주립대 총장·마크 로텐버그 AI 정책 센터장 'AI 거버넌스' 특별 대담

[아이뉴스24 신지훈 기자] 인공지능(AI) 기술을 주도로 한 4차 산업혁명의 시대다. AI는 생활 곳곳에 깊숙이 파고들며 인류의 삶을 윤택하게 만들어주고 있다. 특히 신종 코로나바이러스 감염증(코로나19)으로 인해 비대면 문화가 빠르게 확산하며 AI의 활용도는 더욱 커지고 있다. AI를 통해 인류와 데이터, 사물 등 모든 것이 연결되는 이른바 'AI 사회'로의 진입이 가속화하고 있는 셈이다.

민원기 과학기술협력대사 겸 한국뉴욕주립대 총장과 마크 로텐버그(Marc Rotenberg) AI&디지털 정책 센터장은 11월 2일 서울 드래곤시티호텔 그랜드볼룸 한라홀에서 열리는 '아이포럼 2021'에서 'AI 거버넌스'를 주제로 특별 대담을 갖는다.

AI 기술이 고도화하고 복잡화됨에 따라 AI의 '신뢰성'에 대한 논의도 폭넓게 이뤄지고 있다. 'AI가 예측 또는 판단한 결과를 믿을 수 있는가', 'AI 판단에 공정성을 부여할 수 있는가', 'AI 활용에 윤리적인 문제는 없는가' 등 'AI 거버넌스' 체계에 대한 논의가 활발하게 진행되고 있다.

민원기 과학기술협력대사 겸 한국뉴욕주립대 총장과 마크 로텐버그(Marc Rotenberg) AI&디지털 정책 센터(Center for AI and Digital Policy)장은 11월 2일 아이뉴스24 주최로 서울 드래곤시티호텔 그랜드볼룸 한라홀에서 열리는 '아이포럼 2021'에서 'AI 거버넌스'를 주제로 특별 대담을 갖는다.

AI에 대한 윤리 정립이 시급한 상황이다. AI 기술이 빠르게 발전 할수록 부작용에 대한 우려도 커지고 있어서다. 실제 올 초 AI 챗봇 '이루다'는 부적절한 대화 내용으로 사회적 물의를 일으키며 서비스를 중단한 바 있다. 세계적으로는 지난 2016년 마이크로소프트의 챗봇 테이(Tay)가 인종차별적 대화 문제로 폐쇄된 바 있다.

이러한 이유로 경제협력개발기구(OECD), 유네스코(UNESCO) 등 국제기구는 물론 글로벌 빅테크 기업들의 AI 거버넌스 체계에 대한 논의도 활발히 이뤄지고 있다. 주목할 점은 AI 거버넌스에 대한 논의의 중심이 어떠한 원칙이 필요한지를 넘어 어떻게 원칙을 AI 기술 개발과 활용 단계에 적용해 AI 알고리즘이 초래할 수 있는 부작용으로부터 개인과 사회를 보호할 것인가로 넘어가고 있다는 것이다.

한국 대표 정보통신기술(ICT) 정책전문가인 민원기 과학기술협력대사 겸 한국뉴욕주립대 총장(왼쪽)과 세계 최초의 AI 기구인 'OECD AI 전문가 그룹'의 일원이자 AI 정책 분야의 최고 권위자인 마크 로텐버그(Marc Rotenberg) AI&디지털 정책 센터장.

민 총장은 AI 기술이 고도화됨에 따라 AI 알고리즘의 설계, 데이터 수집·보관·이용에 대한 투명성, 공정성, 책임성 확보의 중요성이 증대되고 있는 만큼, 윤리 정립을 위해선 AI 알고리즘 개발자와 데이터 관리자 및 사용자에 대한 수준 높은 윤리 교육이 필요하다고 강조한다. 알고리즘의 설계, 데이터의 수집 단계부터 기술자는 물론 사용자와 윤리 전문가들이 함께 참여하는 개발 환경이 확립되어야 한다는 것이다.

또 AI에 법적 권리와 책임을 부여할 수 있는지에 대한 논의는 실정법 체계와는 별도로 노동현장에서 AI의 노동자 대체에 따른 과세 문제, AI를 통한 발명에 대한 권리 문제, 자율주행차 사고 시 책임 문제 등과 관련돼 논의되고 있으나 국제사회의 공동규범이 정립되기까지는 보다 심도 있는 논의가 필요하다고 설명한다.

최근 호주에서 AI의 지식재산권을 인정하는 판결이 있었으나 대다수 국가가 AI에 대한 권리부여에 아직까지 유보적인 입장을 취하고 있어 현 시점에서 AI에게 법적 권리를 부여하는 것은 신중해야 한다는 것이다.

AI 기술 발전과 함께 부작용으로부터 인류를 보호하기 위한 거버넌스를 어떻게 만들어 나갈지에 대한 보다 심도 있는 논의는 11월 2일 '아이포럼 2021'에서 들을 수 있다.

/신지훈 기자(gamja@inews24.com)







포토뉴스