생성형AI 특화 데이터센터1

• 

  생성형AI 특화 데이터센터, 빅테크 대규모 투자 이어진다 챗GPT, 제미나이와 같은 생성형AI에 특화된 데이터센터는 기존의 데이터센터와는 완전히 다른 데이터센터가 필요하다. 기존의 데이터센터는 컴퓨팅 파워와 함께 데이터를 저장해 놓는 ‘보관소’의 성격이 강했다. 하지만 AI를 학습시키고, 학습된 AI를 소비자에게 서비스하기 위한 데이터센터는 슈퍼컴퓨터에 비견되는 고성능의 서버컴퓨터가 필요하다. 따라서 엔비디아의 ‘H100’과 같은 고성능 GPU가 많이 필요다. 즉, 장비의 투자 비용이 엄청나게 올라간다는 뜻이며 또한 많은 연산을 하기 때문에 그 과정에서 엄청난 열이 발생하고 많은 전력이 필요하다. 그래서 한편으로는 생성형AI가 기후변화를 가속화시키는 요인이 되기도 한다. 빅테크 기업, AI데이터센터 대규모 투자 이어진다 MS, 메타, 테슬라 등으로 대표되는 빅.. 돈이 되는 경제 이야기 2024. 2. 28.