SKT '20배 빠른 연산' 국내 첫 상용화

손바닥만한 크기의 가속기, 서버에 꽂아 AIX기술 구현.. AI 서비스 용량도 5배 늘려
구글·아마존 등 공룡IT기업 AI가속 솔루션 글로벌 경쟁

SK텔레콤은 AI 서비스 용량을 약 5배 늘려주는 'AI 가속 솔루션'을 개발해, 자사 AI 서비스 '누구'에 적용했다. 국내에서 'AI 가속 솔루션'을 상용 서비스에 적용한 기업은 SK텔레콤이 최초다.

SK텔레콤이 인공지능(AI) 연산속도를 20배 가속하는 기술을 국내에서 처음으로 상용화 했다. 5세대(5G) 이동통신망을 깔면 AI 서비스 이용량이 폭발적으로 늘어날걸 대비해서다.

현재 구글, 아마존 등 AI 플랫폼 보유기업과 엔비디아, 인텔 등 칩셋 제조사들은 AI 연산 속도를 높이는 기술 개발에 몰두하고 있다. 5G가 상용화되면 기하급수적으로 늘어나는 빅데이터를 AI가 빠르게 처리해야 하기 때문이다.

■AI 연산속도 20배 높여

SK텔레콤은 'AI 가속 솔루션(AIX)'을 개발해, 자사 AI 서비스 '누구'에 적용했다고 21일 밝혔다. 누구는 AIX의 도움으로 서비스 용량이 약 5배 늘어날 것으로 보인다. 국내 데이터 센터 기반 AI 서비스에 가속 솔루션을 상용화한 기업은 SK텔레콤이 처음이다.

SK텔레콤은 손바닥 크기 카드 형태의 가속기를 서버에 꼽아 AIX 기술을 구현했다. 가속기는 사람 뇌의 신경망을 모방한 뉴럴프로세싱유닛(NPU)이다. 그래픽처리장치(GPU) 방식보다 전력 효율성이 16배 뛰어나 데이터센터 운용비를 아낄 수 있다.

AIX를 데이터센터 내 기존 AI 서버에 장착하면 딥러닝 연산 속도가 20배 빨라진다. AI 전체 서비스 용량도 약 5배 늘릴수 있다.

구글도 AI 서비스에 NPU 방식의 AI 가속 솔루션인 'TPU'를 적용했다. 엔비디아, 마이크로소프트 등 글로벌 기업들도 AI 가속 솔루션 개발 및 상용화에 적극 나서고 있다.

SK텔레콤 ICT기술원 정무경 팀장은 "AI 가속 솔루션은 많은 회사들이 개발 중이며 구글은 이미 2016년 알파고가 유명 기사들과 바둑을 둘 때 서버에 TPU1.0을 적용했다"며 "올해 구글은 TPU3.0을 적용했다"고 말했다.

AI는 금융·보안·쇼핑·인터넷 검색 등 생활 전 분야로 적용 범위가 확대되고 있다. 이에 따라 기업들이 AI 서비스를 제공하기 위해 수집·처리해야 할 데이터도 폭증하고 있어, 추가 서버 증설이 필요하다. AIX는 카드 형태이기 때문에 기존 서버에 장착을 하면 된다.

■비용절감으로 AI 대중화 가능

SK텔레콤은 약 2년 간의 연구개발 끝에 AI 가속 솔루션을 상용화 했다. AI 서비스 누구의 실사용자 수가 급증해서다. 지난해 8월 11만명이었던 누구 월간 실사용자수는 올해 1·4분기 기준 300만명을 넘어섰다. 누구는 현재 스마트 스피커에 이어 내비게이션, 키즈폰, 셋톱박스 등으로 서비스 영역을 확장했다.

AIX를 활용할 수 있는 분야는 다양하다. 예를 들어 AI 비서 서비스용 서버에 솔루션을 적용하면 응답시간이 빨라지며 보다 많은 사용자들을 동시에 응대 할 수 있다.

폐쇄회로TV(CCTV) 등 보안 서비스 영역에서도 더 많은 영상을 정확히 분석 할 수 있어 위험상황 발생 시 제때 대응할 수 있다.

한편 미국 시장조사업체 트랙티카가 지난 3월 발표한 보고서에 따르면 가속 솔루션을 포함한 글로벌 AI 칩셋 시장 규모는 오는 2025년까지 660억달러(약 73조원)에 이를 것으로 예상된다.

SK텔레콤 박진효 ICT기술원장은 "서비스 성능을 높이고 운용비도 줄이는 AI 가속 솔루션 개발에 성공해 글로벌 톱 수준의 AI 기술 경쟁력을 확보했다"며 "향후 확장할 다양한 AI 응용 서비스에 AIX를 적용해 고객들에게 고품질 서비스를 제공할 것"이라고 밝혔다.

[e-mail] 이설영 기자