비싼 GPU 없어도한국 '가성비 AI'의 도전

뉴스투데이박진준

Your browser doesn't support HTML5 video.

◀ 앵커 ▶

고성능 인공지능 모델을 개발하기 위해 그래픽 카드를 사고 데이터 센터를 구축하는 비용이 수십, 수백조 원에 이른다고 하는데요.

인공지능의 미래, 천문학적인 비용이 들어가는 이런 ′거대 모델′ 개발에만 있는 건 아니라고 합니다.

박진준 기자입니다.

◀ 리포트 ▶

세계 최대 이동통신기술 전시회 MWC.

국내 반도체 개발 스타트업의 전시관에 손님들의 질문이 이어집니다.

[해외 바이어]
″이 제품은 내장된 프로세서로만 작동하는 건가요?″

가로*세로 2cm짜리 AI 전용 반도체.

가정용 컴퓨터에 이 칩을 꽂으면 인공지능 기술을 구현할 수 있는 고성능 컴퓨터가 됩니다.

[윤상현 이사/AI 반도체 개발업체]
″AI형으로 최적화돼서 이제 병렬 연산을 잘 수행할 수 있게끔 나온 솔루션이라고 보시면 됩니다.″

챗GPT, 제미나이 등 거대언어모델은 데이터가 먼 거리를 이동해 서버까지 갔다 와야 하는데, 서버 운영에 전기와 고성능 그래픽카드가 많이 듭니다.

하지만 스마트폰, 드론, 로봇, 전자제품에 아예 AI 반도체를 장착하면 전기도 적게 쓰고 데이터는 이동할 필요가 없어집니다.

거대한 서버가 필요없는 작은 AI 기술엔, 전용 반도체로 경제성을 더하는 겁니다.

***

국내 스타트업이 개발한 생성형 AI.

기타 치는 곰돌이 영상을 만들라고 명령하자, 30초 만에 귀여운 곰돌이의 모습이 뚝딱 만들어집니다.

역시 AI가 화두였던 세계 최대 IT 전시회 CES에서 혁신상을 받은 기술입니다.

비싼 그래픽카드가 아닌 일반 CPU, 그러니까 가정용 PC에서도 작동하도록 AI를 경량화했습니다.

[유승재 대표/AI 프로그램 개발회사]
″수치화 계량화시키고 불필요한 걸 제거하고 그리고 프루닝(가지치기) 같은 다양한 AI 기법들을 활용해서 정말 쓸 수 있는 필요로 하는 그런 데이터들을 남기고요.″

일상 생활에서의 활용도가 커져야 그 가치도 높아지는 AI.

딥시크 쇼크로 정부가 2조원을 들여 고성능 그래픽 카드 2만장을 사겠다고 했지만, 이게 AI 경쟁력을 확보하는 유일한 방법은 아니란 지적이 나옵니다.

MBC뉴스 박진준입니다.

비싼 GPU 없어도‥한국 '가성비 AI'의 도전