메모리와 GPU 처리량 8분의 1로 줄이고, 성능 8배 높은 칩삼성전자가 LLM(Large Language Models, 거대언어모델)을 지원하는 첫번째 AI 반도체 '마하1(MACH-1)를 올해 말 출시할 계획이다.

경계현 삼성전자 DS부문(반도체) 대표이사 사장은 20일 경기 수원시 수원컨벤션센터에서 열린 정기주주총회 이후 진행된 '주주와의 대화'에서 AI 반도체 '마하1'을 처음으로 언급했다.

경계현 삼성전자 사장(사진=삼성전자)
경 사장은 "AI 반도체 마하1은 FPGA를 통해서 기술 검증을 완료했고, 현재 SOC 디자인을 진행 중에 있다"라며 "올해 연말 정도면 칩을 만들어서 내년 초에 저희 칩으로 구성된 시스템을 보실 수 있을 것이다"고 말했다.

범용인공지능(AGI)은 인간 지능에 가깝거나 이를 능가하는 수준의 스스로 학습하는 기술이다. 최근 삼성전자는 범용인공지능(AGI) 반도체를 개발하기 위해 미국과 한국에 AGI 컴퓨팅랩을 설립했다. AGI 컴퓨팅랩은 마하1 칩 개발을 담당하며, 구글 텐서처리장치(TPU) 개발자 출신 우동혁 박사가 AGI 컴퓨팅랩을 이끈다.

경 사장은 "현존하는 AI 시스템은 메모리 병목으로 인해 성능 저하와 파워 문제를 안고 있다"라며 "우리는 이 문제를 개선하기 위해 AGI 컴퓨팅랩을 신설하고 AI 아키텍처의 근본적인 혁신을 추진하고 있다"고 말했다.

이어서 그는 "마하1은 트랜스포머 모델에 적합하게 디자인돼 있고, 여러 가지 알고리즘을 써서 메모리와 GPU 사이에 바틀랙(처리량)을 8분의 1 정도로 줄이고 8배의 파워 효율을 갖게 하는 것을 목표로 현재 개발 중"이라며 "LLM의 인퍼런스가 가능하도록 준비하고 있다"고 설명했다.

앞서 경 사장은 하루전(19일) 자신의 SNS(사회관계망서비스) 링크드인에서도 AGI 반도체 개발을 언급한 바 있다.

그는 "AGI 컴퓨팅랩은 추론과 서비스 애플리케이션에 초점을 두고 LLM용 칩을 개발하는 데 중점을 둘 것"이라며 "앞으로 더 강력한 성능과 점점 더 큰 모델을 소수의 전력과 비용으로 지원하는 AGI 칩의 새로운 버전을 지속적으로 출시할 계획"이라고 밝혔다.

뻘짓하지말고 이제 잘좀 해라

오늘은 주가 굿