AI 성능에 6조, 안전엔 274억⋯이주희 "안전 예산 끌어올려야"

[아이뉴스24 안세준 기자] 과학기술정보통신부가 내년 인공지능(AI) 성능·인프라 분야에 6조원 넘게 투자하는 반면 AI 안전·신뢰 분야에는 274억원을 편성한 것으로 나타났다. 안전 예산을 AI 예산의 1% 이상으로 끌어올려야 한다는 지적이다.

6일 국회 과학기술정보방송통신위원회 소속 이주희 더불어민주당 의원이 과기정통부로부터 제출받은 자료에 따르면 2027년도 과기정통부 소관 AI 예산 정부안은 총 9조4308억원이다.

이 가운데 AI 모델 개발과 GPU 등 컴퓨팅 자원, 데이터 구축을 포함한 성능·인프라 예산이 6조1490억원으로 전체의 65.2%를 차지했다.

반면 안전성 평가·검증과 레드팀, 딥페이크 대응, 윤리·영향평가 등을 포함한 안전·신뢰 예산은 274억원으로 0.3%에 그쳤다.

의원실에 따르면 성능·인프라와 안전·신뢰 예산의 격차는 2024년 36대 1에서 2027년 224대 1로 확대됐다. 내년 성능·인프라 예산은 올해보다 116% 늘어난 반면 안전·신뢰 예산 증가율은 36%였다. 3조8500억원이 편성된 GPU 서버 확충 사업 하나만으로도 안전·신뢰 예산 전체의 약 140배 규모다.

내년 안전·신뢰 분야 예산은 △AI 안전 기술개발 연구개발(R&D) 152억원 △안전한 AI 활용 기반 조성 101억원 △AI 신뢰성 및 산업 생태계 기반 조성 21억원 등 3개 사업으로 구성됐다. 이 가운데 뒤의 두 사업은 올해와 같은 규모로 편성됐다.

AI 안전 투자 확대 필요성을 둘러싼 국제적 논의도 이어지고 있다. 요슈아 벤지오와 제프리 힌턴, 유발 하라리 등은 2024년 국제학술지 사이언스에 발표한 공동 논문에서 주요 기술기업과 공공 재정 주체가 AI 연구개발 예산의 최소 3분의 1을 안전 분야에 배정해야 한다고 권고했다.

최근에는 고성능 AI 통제 가능성 자체도 쟁점으로 떠올랐다. 오픈AI는 지난 7월 내부 사이버보안 평가 과정에서 연구용 모델들이 인터넷 격리 통제를 우회하고 자사 연구 인프라와 허깅페이스 시스템 일부를 침해한 사고를 공개한 바 있다.

이 의원은 "AI 3대 강국은 반드시 가야 할 길이지만, 브레이크 없는 가속은 경쟁력이 아니라 위험"이라며 "안전 예산을 AI 예산의 최소 1%로 끌어올리고, 해외 고성능 모델을 우리 손으로 검증할 역량을 갖춰야 한다"고 말했다.