🤩'온 디바이스 AI'

1. 일반적인 클라우드 컴퓨팅은 데이터와 컴퓨팅 리소스가 중앙 집중식 데이터 센터에 저장되고 처리하는 방식인 반면, 온 디바이스 AI는 기기 자체에서 AI 알고리즘을 실행하며 클라우드(인터넷 연결) 없이 기기 자체에서 데이터를 처리하는 것.

2. 최근 삼성전자가 삼성 AI 포럼에서 공개한 생성형 AI '삼성 가우스(Gauss)'는 머신 러닝 기술 기반으로 언어, 코드, 이미지 등 3가지 모델로 구성되는데, 이 가운데 언어 모델이 '온 디바이스 AI' 기술을 사용하고 있음.

3. 삼성전자가 선보인 온 디바이스 AI 서비스는 '갤럭시 AI' 라는 이름으로 실시간 통역 통화(AI Live Translate Call) 기능이 가능함.

4. 내년 초 공개할 갤럭시 S24 시리즈에 적용이 유력한 이 기능은 별도의 앱 설치 없이 사용자가 전화 통화 중 모국어로 말하면 실시간으로 상대방 언어로 통역해주며 상대방 휴대폰에 갤럭시 AI가 탑재되지 않아도 적용이 가능한 기술임.

5. 휴대폰 적용을 시작으로 아이언맨의 자비스 처럼 자율주행 차량, 각종 웨어러블 기기 내 AI 비서 등으로 활용하기에 적합한 것이 바로 온 디바이스 AI임.

6. 온 디바이스 AI는 데이터가 생성되는 기기에서 AI 알고리즘을 실행하기 때문에 '높은 처리 속도'와 '저전력 소비'가 요구되며, 이러한 장점을 지니고 있는 모바일용 D램이 LPDDR임.

7. LPDDR(Low Power Double Data Rate)은 D램의 처리 속도를 2배 개선한 DDR(Duouble Date Rate)에 전력 소모량을 최소화한 특성으로 LP(Low Power)라는 이름이 붙은 모바일용 D램 규격을 뜻함.

8. 올해 SK하이닉스가 공급을 시작한 LPDDR5T(Low Power Double Data Rate 5 Turbo)는 초당 9.6Gb(기가비트)의 데이터를 전송할 수 있는 현존 최고속 모바일용 D램인 ‘LPDDR5T(Low Power Double Data Rate 5 Turbo)’의 16GB(기가바이트) 패키지임.
- LPDDR5X: 22년 11월 개발, 8.5Gbps, 1.01~1.12V
- LPDDR5T: 23년 1월 개발, 9.6Gbps, 1.01~1.12V

9. LPDDR5T는 SK하이닉스가 최초 개발한 버전으로, 8세대 LPDDR6가 업계에 공식 출시되기 전 7세대인 LPDDR5X의 성능을 업그레이드한 제품이며 지난 1월 LPDDR5T 개발에 성공한 직후부터 글로벌 모바일 AP 기업들과 성능 검증을 진행하며 제품 상용화를 준비해 왔음.

10. 이는 국제반도체표준화기구(JEDEC)가 정한 최저 전압 기준 범위인 1.01~1.12V(볼트)에서 작동한다. 또 이 패키지의 데이터 처리 속도는 초당 77GB로, 이는 FHD(Full-HD)급 영화 15편을 1초에 처리하는 수준임.

11. 반면 삼성전자는 지난달 미국 실리콘밸리에서 열린 '삼성 메모리 테크 데이'에서 온디바이스 AI에 특화한 'LLW(Low Latency Wide I/O) D램'을 공개했음.

12. 내년 말 양상을 목표로 한 LLW는 기존 LPDDR에서 대역폭을 높인 제품으로 실시간 데이터 처리 속도가 더 빠름.

13. 기존 LPDDR의 경우 삼성전자와 SK하이닉스가 주력으로 삼고 있지 않는 니치마켓인 사물인터넷, 엣지디바이스 위주로 공급해왔는데, 온 디바이스 AI가 붙으면서 기대감이 커진 상태임.

14. 생성형 AI 이후 AI 시장이 폭발적으로 성장하면서 메모리 반도체 업계는 HBM에 이어 온디바이스 AI 관련 고성능·고용량·저전력 제품의 수요가 늘고 있기에 '온디바이스 AI'가 확대하는 만큼 업계가 성장할 것으로 전망.

[참고] 노컷뉴스 '온디바이스AI'가 온다
[작성] 👔도PB의 생존투자