DSA, 딥가젯 그리고 텐스토렌트: AI 인프라 최적화의 철학
AI 추론 수요 폭증 속에서 GPU의 한계를 넘어서는 DSA (NPU) 의 부상. 딥가젯과 텐스토렌트가 함께 그리는 AI 인프라 최적화 철학을 소개합니다.
🚀 최신 AI 연구와 고성능 인프라의 만남. Energy-Based Transformer 시대를 여는 새로운 가능성
Energy-Based Transformer(EBT)는 AI 추론 방식의 혁신을 제시합니다. EBT의 등장과 함께 고성능 컴퓨팅 인프라가 왜 중요한지, 매니코어소프트가 제시합니다.
삼성전자가 독일 플랙트를 인수한 이유, 그리고 AI 인프라의 미래
삼성전자가 유럽 최대 HVAC 기업 플랙트를 약 2조 4,000억 원에 인수하며 공조·냉각 시장의 중요성이 부각되고 있습니다. 매니코어소프트는 직접 액체냉각 서버와 CDU 솔루션으로 첨단 데이터센터 인프라 혁신에 기여하고 있습니다.
'딥시크 쇼크'가 우리에게 준 교훈? 고비용 GPU 없어도, '이게' 중요!
중국 AI 기업 딥시크가 2,048대의 H800 GPU로 2,360억 파라미터 모델을 훈련해 Llama 2 70B에 필적하는 성능을 달성했습니다. 하드웨어 제약을 극복한 최적화 전략이 AI 인프라의 새로운 가능성을 보여줍니다.
