딥가젯 바로가기↗️

deep gadget by ManyCoreSoft

액체냉각에서 AI 컴퓨팅까지. 더 나은 컴퓨팅이 더 나은 AI를 만듭니다.

See All AI인프라 상식 AI 동향 인사이트 성능·구축기 고객 인터뷰 딥가젯 뉴스

AI의 기억은 저장한 뒤부터 어려워진다

AI의 기억은 저장한 뒤부터 어려워진다

컴퓨터는 기록을 정확히 저장하는데 AI는 왜 오래된 기록을 현재 값처럼 사용할까요? AI 장기기억의 구조, RAG의 한계와 GPU 비용을 살펴봅니다.

AI 토큰 한 개가 데이터센터를 통과하는 길

AI 토큰 한 개가 데이터센터를 통과하는 길

엔터를 누른 뒤 첫 토큰이 화면에 나타나기까지, 시간과 돈과 전기는 어디에 쓰일까

인사이트AI인프라 상식

펠리컨 한 마리로는 부족했다

펠리컨 한 마리로는 부족했다

그래서 누군가는 AI 마을을 통째로 만들었다

AI 동향인사이트

AI 데이터센터가 산업단지의 중심이 되는 이유 | 다크팩토리와 피지컬 AI

AI 데이터센터가 산업단지의 중심이 되는 이유 | 다크팩토리와 피지컬 AI

지금까지는 산업단지가 데이터센터를 '유치'해 왔다. 우리는 이 관계가 곧 역전된다고 본다. 피지컬 AI와 저지연 AI 서비스가 산업의 기본 조건이 되면, AI 데이터센터가 클러스터의 중심이 되고 공장이 그 주위로 모인다.

GLM-5.2 쇼크, AI 추론 마진은 왜 무너지고 있나 | 오픈웨이트 시대의 온프레미스 AI 인프라

GLM-5.2 쇼크, AI 추론 마진은 왜 무너지고 있나 | 오픈웨이트 시대의 온프레미스 AI 인프라

GLM-5.2가 쏘아올린 AI 추론 마진 붕괴 논쟁을 정리하고, 오픈웨이트 모델 경쟁이 왜 온프레미스 AI 인프라 수요로 이어지는지 분석합니다.

AI의 기억은 저장한 뒤부터 어려워진다

AI의 기억은 저장한 뒤부터 어려워진다

컴퓨터는 기록을 정확히 저장하는데 AI는 왜 오래된 기록을 현재 값처럼 사용할까요? AI 장기기억의 구조, RAG의 한계와 GPU 비용을 살펴봅니다.

AI 토큰 한 개가 데이터센터를 통과하는 길

AI 토큰 한 개가 데이터센터를 통과하는 길

엔터를 누른 뒤 첫 토큰이 화면에 나타나기까지, 시간과 돈과 전기는 어디에 쓰일까

인사이트AI인프라 상식

펠리컨 한 마리로는 부족했다

펠리컨 한 마리로는 부족했다

그래서 누군가는 AI 마을을 통째로 만들었다

AI 동향인사이트

AI 데이터센터가 산업단지의 중심이 되는 이유 | 다크팩토리와 피지컬 AI

AI 데이터센터가 산업단지의 중심이 되는 이유 | 다크팩토리와 피지컬 AI

지금까지는 산업단지가 데이터센터를 '유치'해 왔다. 우리는 이 관계가 곧 역전된다고 본다. 피지컬 AI와 저지연 AI 서비스가 산업의 기본 조건이 되면, AI 데이터센터가 클러스터의 중심이 되고 공장이 그 주위로 모인다.

GLM-5.2 쇼크, AI 추론 마진은 왜 무너지고 있나 | 오픈웨이트 시대의 온프레미스 AI 인프라

GLM-5.2 쇼크, AI 추론 마진은 왜 무너지고 있나 | 오픈웨이트 시대의 온프레미스 AI 인프라

GLM-5.2가 쏘아올린 AI 추론 마진 붕괴 논쟁을 정리하고, 오픈웨이트 모델 경쟁이 왜 온프레미스 AI 인프라 수요로 이어지는지 분석합니다.

사카나 AI는 프론티어 모델을 한 번도 처음부터 학습시키지 않았다

사카나 AI는 프론티어 모델을 한 번도 처음부터 학습시키지 않았다

모델을 섞고, 얹고, 지휘해서 일본에서 가장 빠른 유니콘이 된 3년

모델 하나가 사라진 밤, 페이블 수출통제 사태가 증명한 온프레미스 AI 인프라의 필요성

모델 하나가 사라진 밤, 페이블 수출통제 사태가 증명한 온프레미스 AI 인프라의 필요성

앤트로픽 페이블·미토스 모델의 전면 차단 사태는 클라우드 AI에 의존한 비즈니스가 지정학적 변수 하나로 멈출 수 있음을 보여줬다. 이 글에서는 온프레미스 AI 인프라가 왜 더 이상 선택이 아닌 생존 전략인지, 그리고 모델·연산 주권을 확보하는 구체적 방법을 분석한다.

DSA, 딥가젯 그리고 텐스토렌트: AI 인프라 최적화의 철학

DSA, 딥가젯 그리고 텐스토렌트: AI 인프라 최적화의 철학

AI 추론 수요 폭증 속에서 GPU의 한계를 넘어서는 DSA (NPU) 의 부상. 딥가젯과 텐스토렌트가 함께 그리는 AI 인프라 최적화 철학을 소개합니다.

🚀 최신 AI 연구와 고성능 인프라의 만남. Energy-Based Transformer 시대를 여는 새로운 가능성

🚀 최신 AI 연구와 고성능 인프라의 만남. Energy-Based Transformer 시대를 여는 새로운 가능성

Energy-Based Transformer(EBT)는 AI 추론 방식의 혁신을 제시합니다. EBT의 등장과 함께 고성능 컴퓨팅 인프라가 왜 중요한지, 매니코어소프트가 제시합니다.

삼성전자가 독일 플랙트를 인수한 이유, 그리고 AI 인프라의 미래

삼성전자가 독일 플랙트를 인수한 이유, 그리고 AI 인프라의 미래

삼성전자가 유럽 최대 HVAC 기업 플랙트를 약 2조 4,000억 원에 인수하며 공조·냉각 시장의 중요성이 부각되고 있습니다. 매니코어소프트는 직접 액체냉각 서버와 CDU 솔루션으로 첨단 데이터센터 인프라 혁신에 기여하고 있습니다.

'딥시크 쇼크'가 우리에게 준 교훈? 고비용 GPU 없어도, '이게' 중요!

'딥시크 쇼크'가 우리에게 준 교훈? 고비용 GPU 없어도, '이게' 중요!

중국 AI 기업 딥시크가 2,048대의 H800 GPU로 2,360억 파라미터 모델을 훈련해 Llama 2 70B에 필적하는 성능을 달성했습니다. 하드웨어 제약을 극복한 최적화 전략이 AI 인프라의 새로운 가능성을 보여줍니다.

딥가젯 액체냉각 GPU 서버, 30%의 재구매율이 말해주는 것

딥가젯 액체냉각 GPU 서버, 30%의 재구매율이 말해주는 것

ManyCoreSoft의 고성능 수냉 GPU 서버, 딥가젯은 높은 효율성과 안정성을 제공하며, 대학 연구실 및 기업 서버실에서 강력한 클러스터 구성을 통해 AI 연산과 고부하 작업을 최적화합니다. 30%의 재구매율로 신뢰받는 액체 냉각 기술을 경험해 보세요.

매니코어소프트의 혁신적인 액체냉각(DLC,수랭) 시스템 총정리 - 알아야 할 5가지

매니코어소프트의 혁신적인 액체냉각(DLC,수랭) 시스템 총정리 - 알아야 할 5가지

매니코어소프트의 MCS L2A DLC 시스템은 AI 시스템의 필수적인 액체냉각(수랭) 솔루션입니다. 혁신적인 기술과 높은 신뢰성을 바탕으로 다양한 환경에서 최적의 성능과 편의성을 제공합니다. 소규모 연구실, AI 팀, 스타트업까지 모든 서버 냉각 관련 정보를 이 글에서 확인하세요.

MS 클라우드 장애로 인한 대란, 클라우드 vs. 온프레미스: 어떤 선택이 최적일까? (+비용 비교)

MS 클라우드 장애로 인한 대란, 클라우드 vs. 온프레미스: 어떤 선택이 최적일까? (+비용 비교)

2024년 7월, MS 클라우드 서비스 장애로 인한 대란이 발생했습니다. 클라우드와 온프레미스 서버의 장단점을 비교하고, 비용 분석을 통해 어떤 선택이 최적인지 알아보세요. 안정성과 성능을 겸비하고 클라우드의 장점도 갖춘 딥가젯의 고성능 HPC 서버를 소개합니다.

CEO 젠슨 황은 왜 엔비디아 GPU에 직접액체냉각(DLC, 수랭)을 도입할까

CEO 젠슨 황은 왜 엔비디아 GPU에 직접액체냉각(DLC, 수랭)을 도입할까

엔비디아의 CEO 젠슨 황이 2024 Computex 기조연설에서 차세대 Blackwell GPU 칩이 직접액체냉각(DLC, 수랭) 방식을 채택했다고 발표했습니다. 액체냉각 방식은 공랭보다 더 효율적으로 발열을 관리하며, 높은 전력 소모로 인한 발열 문제를 해결합니다.

4가지 라인업, 다양한 GPU 그리고 확장 가능성 외 – 딥가젯을 선택해야 하는 6가지 이유

4가지 라인업, 다양한 GPU 그리고 확장 가능성 외 – 딥가젯을 선택해야 하는 6가지 이유

deep gadget by ManyCoreSoft

RSS·Powered by Inblog