[단독] 전략 무기 된 AI 반도체…한국산 성능은 美 엔비디아 절반에 그쳐

美, 중국에 AI 반도체 수출금지 명령...클라우드 통한 우회도 막아

삼성, 엔비디아 이어 AMD로 공급망 다각화...성능 떨어지는 국산은 미검토

[사진=연합뉴스]

미국이 중국에 AI 반도체 수출을 금지하는 등 AI 반도체가 사실상 전략 무기가 된 상황에서 국산 AI 반도체 성능은 미국의 절반 이하에도 미치지 못하는 것으로 나타났다. 삼성 등 주요 반도체 제조사들과 국내 과학계 등도 AI 반도체는 미국산에 절대적으로 의지하고 있는 만큼, 국산 AI 반도체의 성능 개선이 시급하다는 지적이 나오고 있다.

5일 아주경제가 AI 반도체 성능을 평가하는 MLPerf(머신러닝 퍼포먼스) 자료를 입수해 분석한 결과에 따르면 다수의 국산 AI 반도체가 AI 모델 추론(실행) 시 8비트 정수(INT8)만 이용할 수 있고 16비트 부동소수점(FP16)은 아예 이용할 수 없는 반쪽짜리인 것으로 조사됐다. MLPerf는 △엔비디아 △AMD △퀄컴 △삼성전자 등 전 세계 주요 반도체 기업이 출자해 설립한 ML커먼스 재단이 매년 실시하는 AI 반도체 성능 평가로, 관련 분야에서 전 세계 유일하게 공신력 있는 기준이라는 평가를 받는다.

관련기사: 갈 길 먼 K-AI 반도체 성능…2세대 조기 출시 시급

최근 AI 업계는 AI 모델 학습은 32비트 부동소수점(FP32)으로 진행하고 이를 INT8 또는 FP16으로 압축(모델 양자화)해서 추론함으로써 AI 반도체 메모리 사용량을 줄이고 데이터 처리 속도를 끌어올리는 게 보편화돼 있다. 이를 통해 AI 모델의 답변 속도를 끌어 올리고 운영비를 절감할 수 있다.

그런데 국산 AI 반도체처럼 두 방식 중 한쪽(INT8)만 지원하게 되면 AI 개발자에게 특정 방식만 강요함으로써 개발 효율이 크게 떨어질 수밖에 없다. 현재 AI 모델 학습·추론에 가장 널리 쓰이는 미국 엔비디아의 AI 반도체 'A100'이 양쪽 방식을 모두 지원하는 것과 대조적이다.

A100을 포함한 엔비디아 AI 반도체는 이미 국가 경쟁력을 좌우하는 전략 물자 취급을 받고 있다. 실제 중국의 AI 도전을 원천봉쇄하기 위해 미국 상무부는 지난해 8월 엔비디아, AMD 등이 중국 기업에 최신 AI 반도체를 판매하는 것을 금지했다. 이후 중국 기업이 미국 클라우드 기업을 통해 AI 반도체를 우회 이용하는 것으로 드러나자 이달 초 미국 클라우드 기업이 중국 기업에 서비스를 제공하려면 미국 정부 허가를 받아야 한다는 제재까지 추가했다. 이번 제재로 한때 미국을 거의 따라잡았다는 평가를 받던 중국 AI 경쟁력은 영국 토터스인텔리전스 조사 기준 미국의 62% 수준까지 추락했다.

국내 기업도 사실상 전략 물자인 AI 반도체 확보에 여념이 없다. 일례로 삼성전자 연구개발 조직 삼성리서치는 최근 AI 모델 개발에 엔비디아 AI 반도체만 쓰던 기존 전략을 폐기하고 AMD에 차세대 AI 반도체(MI 250X) 공급을 요청한 것으로 알려졌다. 공급망을 다변화해, AI 반도체 수급이 끊기는 만일의 사태에 대비하기 위함이다. 하지만 공급망 확대 전략에도 불구하고 국산 AI 반도체는 검토조차 하지 않은 것으로 알려졌다. 성능이 글로벌 기대 수준에 한참 미치지 못하기 때문이다. 

올해 초 국가슈퍼컴퓨터 6호기 구축에 착수한 한국과학기술정보연구원(KISTI) 관계자는 "국산 AI 반도체를 슈퍼컴퓨터 구축에 활용하는 방안도 검토했지만, 학계 등 현업에서 활용하기에는 아직 무리가 있을 것으로 보고 (슈퍼컴퓨터 구축에) 외산 AI 반도체를 쓰기로 했다"고 밝혔다.