인공지능(AI) 기술로 발생할 수 있는 위험에 대응하고 글로벌 정보 교류와 공동 연구를 위한 허브 역할을 할 'AI안전연구소'가 문을 열었다.

과학기술정보통신부는 27일 경기도 판교 글로벌R&D센터에서 AI안전연구소 개소식을 열었다.

연구소는 AI의 기술적 한계, 기술 오용, 통제력 상실 등으로 발생하는 다양한 위험에 체계적으로 대응하기 위한 전문조직이다.
산학연 기관이 AI 안전분야 연구 협력과 정보 교류를 할 수 있는 허브이자 10개국이 참여 중인 '국제 AI안전연구소 네트워크'의 일원으로 글로벌 연대를 위한 책임있는 역할을 수행한다.

AI 안전 분야의 경쟁력있는 기술·인력을 육성하고, 과학적 연구데이터에 근거한 AI 안전 관련정책 개발과 선진화를 추진한다.

개소식에는 류광준 과기정통부 과기혁신본부장, 염재호 국가AI위원회 부위원장, 이경우 대통령실 AI·디지털 비서관 등 정부 주요인사와 오승필 KT 최고기술책임자(CTO), 오혜연 카이스트 AI연구원장, 이은주 서울대 AI신뢰성 연구센터장 등 산학연 핵심관계자 40여명이 참석했다.

AI안전연구소 초대소장으로 임명된 김명주 소장은 "AI 활용으로 발생할 수 있는 제반 위험 평가와 이를 예방·극소화하기 위한 정책과 기술을 개발·보급하고, 국내외 연대를 강화해 나갈 것"이라고 강조했다.
이어 "국내 AI기업들이 글로벌 경쟁력을 확보하는 데 장애가 되는 위험요소들을 최소화하도록 지원하는 협력기관으로 역할을 하겠다"고 밝혔다.

이날 열린 '대한민국 AI안전컨소시엄' 협약식에서는 AI 분야 산학연 기관 24곳이 참여한 가운데 AI안전에 관한 정책연구, 평가, 연구개발의 상호협력을 위한 업무협약(MOU)을 체결했다.

AI안전연구소와 컨소시엄 참여기관이 함께 AI안전 프레임워크 연구·개발·실증, AI안전 관련 국제규범 대응 등 정책연구, AI 안전 관련 기술 협력 등을 중점적으로 추진할 계획이다.

컨소시엄 참여기관들은 AI 안전 연구와 관련된 전문성과 기여 방안을 제시하며, AI안전연구소와 적극적으로 협력하겠다는 의지를 밝혔다.