반응형
삼성전자가 개발한 ai 가속기 마하1을 네이버에 납품할 예정입니다.
대화형 챗봇이나 식당 추천하는 서비스 등의 과정에 마하1을 활용한다고 하는데요.
반응형
ai 가속기
ai 연산할 때 cpu 내에서 cpu 대신에 특정 역할을 가속기에게 맡겨, cpu 자원을 더 효율적인 것에 쓸 수 있게 하는 것이 ai 가속기입니다.
cpu는 중요하고 전문적인 것에 집중하도록 하고, 대량으로 처리해야 하거나, 단순 작업 등은 가속기를 이용하는 것이죠.
일반적으로 빅테크 기업들은 엔비디아의 ai 가속기를 사용합니다.
엔비디아의 ai 가속기는 gpu에 고대역폭메모리를 붙인 것입니다.
다만, 이 ai 가속기는 맞춤형이 아니라, 추론하는 영역에 쓰기에는 비싼감이 있습니다.
삼성전자 마하1
삼성에서는 ai 가속기 시장을 개척해야 하기 때문에, 네이버와 함께 맞춤형 기능을 강화한 마하1을 만든 것입니다.
엔비디아 제품 10분의 1가격에, 데이터가 지연되는 현상을 훨씬 줄였습니다.
또한, 엔비디아의 ai 가속기보다 전력 효율성이 높아, 가성비가 좋다고 합니다.
반응형
