정부가 인공지능(AI) 시대에 일어날 수 있는 위험에 대비하기 위해 11월 AI안전연구소를 개소한다.
또 AI 핵심 인프라인 클라우드 산업 육성을 위해 클라우드 분야 투자 세액공제를 검토하고 450억원 규모 펀드를 조성한다.

18일 과학기술정보통신부는 이날 오후 2시 서울 중구 국가과학기술자문회의 대회의실에서 제17차 정보통신전략위원회(이하 전략위)를 개최했다고 밝혔다.
전략위는 정보통신 진흥 및 융합 활성화 등에 관한 특별법에 근거한 정보통신 분야 정책 의결기구로 국무총리, 관계부처 장관, 민간위원 등 총 25인으로 구성된다.

전략위는 ▲AI안전연구소의 설립·운영계획을 공유 ▲AI 필수 인프라 클라우드컴퓨팅에 대한 3개년 정책 방향을 담은 4차 클라우드컴퓨팅 기본계획을 심의·의결했다.

정부는 AI를 국정의 핵심 의제로 설정하고 지난 4월 'AI-반도체 이니셔티브'를 수립, 그 다음 달엔 AI 서울정상회의를 개최하고 글로벌 AI 거버넌스 정상급 선언문 '서울선언'을 도출했다.
지난달에는 대통령 직속 국가인공지능위원회도 설립했다.
이번 전략위 논의는 정부 AI 정책의 연장선이다.

유상임 과기정통부 장관은 "향후 1~2년은 우리나라가 AI, 디지털 분야 선도국 도약의 성패를 좌우할 수 있는 골든타임"이라며 "정부와 민간이 힘을 합쳐 모든 역량을 총결집해야 할 때"라고 전했다.
이어 "이날 논의된 내용을 속도감 있게 추진해 나갈 수 있도록 관계 부처와 적극 협력해 나갈 것"이라고 덧붙였다.

정부는 한국전자통신연구원(ETRI) 내에 신규 조직으로 AI 안전연구소를 설치한다.
연구소는 11월 개소 예정이다.

앞서 정부는 영국, 미국, 일본 등 주요국의 AI 안전연구소를 현장 방문해 연구소의 역할, 성격 등을 심층 분석해 왔다.
이후 자문위와 설립준비위원회 운영을 통해 연구소의 비전, 세부기능, 운영방안을 도출했다.

AI안전연구소는 안전정책·평가·기술분야 등 3개 연구실로 운영되며, 사무실은 판교 글로벌 R&D센터에 4층에 설치한다.

AI 분야 전문성을 갖춘 초대소장 채용을 위해 절차를 진행 중이다.
개소 직후에는 ETRI 인력 10명과 파견된 타 기관 인력들로 운영되지만 2025년 이후에는 ETRI 인력 10명에 신규 인력 20여명을 충원할 계획이다.

연구소는 '아태지역을 대표하는 글로벌 AI 안전 거점연구소' 구현을 비전으로 ▲AI 안전에 대한 과학적 이해 증진 ▲AI 안전 정책 고도화 및 안전제도 확립 ▲국내 AI 기업의 안전 확보 지원 등 3대 핵심 목표를 설정했다.

3대 목표를 완수하기 위해 △AI 위험 정의 및 안전 평가 △AI 안전 정책 연구 △AI 안전 파트너십 구축 등 대내·외 협력 △딥페이크 등 AI 위험 대비 및 안전 확보를 위한 연구·개발(R&D) 등을 추진한다.

AI안전연구소는 출범 이후 11월 20~21일 양일간 미국에서 열리는 국제 AI안전연구소 네트워크 행사에 참석해 합성콘텐츠, 기반모델 평가, 위험평가 방안 등을 논의할 예정이다.

AI 핵심 인프라로 자리 잡은 클라우드 경쟁력 강화에도 힘쓴다.
앞서 정부는 2015년 최초 클라우드법을 제정하고 산업 진흥정책을 추진하고 있지만 국내 전반의 클라우드 활용률은 여전히 낮은 상황이다.

이에 정부는 민간주도 클라우드 생태계 활성화로 정책 방향을 전환한다.

우선 민간 투자 촉진을 위해 AI·클라우드 분야 투자 세액공제 확대를 검토한다.
세액공제 분야, 범위, 수준 등은 관계기관 협의를 거쳐 구체화할 예정이다.

또 450억원 규모 AI 및 서비스형소프트웨어(SaaS) 혁신펀드 조성, SaaS 전환지원센터 조성 등을 통해 민간 주도 SaaS 생태계를 구축한다.
서비스형 플랫폼(PaaS) 역시 민간 주도 상용 PaaS 생태계로 전환한다.

신규 인력뿐만 아니라 재직자, 경력자 등을 대상으로 클라우드 인력 양성을 강화해 연 1400명 이상의 인재를 배출한다.
현대 정부는 부산정보산업진흥원(BIPA), 한국클라우드컴퓨팅연구조합(CCCR), 강원테크노파트(강원TP), 청주대 산학협력단 등을 클라우드 전문인력 양성기관으로 지정하고 있다.

또 클라우드 보완인증제(CSAP)를 개선해 글로벌 SaaS 육성 시 국내외 클라우드를 조화롭게 지원하는 것을 검토한다.

클라우드 전·후방 핵심 산업에도 지원한다.
국산 AI 반도체 개발하고 이를 데이터센터에 적용해 K 클라우드 프로젝트를 본격 진행한다.
정부는 K-클라우드 소프트웨어 생태계 구축을 위한 4000억원 규모의 예산을 통과시킨 바 있다.

유망 SaaS를 선별해 AI SaaS 개발·고도화, 사업화, 글로벌 진출을 지원한다.
클라우드 바우처는 연 1000~2000만원 정도의 광범위·소액 지원에서 연 6000~8000만원의 집중지원으로 단계적으로 개편한다.
지원 대상을 제한해 더 많은 금액을 지원하는 것이 골자다.

AI·클라우드 도입을 활성화하기 위해 교육(AI 디지털교과서)·금융(망 분리 완화를 통한 이용 확대)·국방(장병 체감형 서비스 플랫폼 구축) 분야 AI 및 클라우드 혁신 사례를 창출한다.

아울러 ▲기관평가에 클라우드 도입 포함 ▲정보시스템 신규·재구축 시 민간클라우드 및 SaaS 이용 우선 검토 ▲디지털 서비스 전문계약제도의 전주기(심사, 계약, 확산) 프로세스 개선 등 3대 제도를 개편한다.