AI데이터센터2

• 

  ‘AI데이터센터’ 는 곧 ‘AI공장’ 이다 현재 거의 모든 분야의 산업을 혁신으로 이끌고 있는 인공지능, 인공지능의 대표주자인 엔비디아의 젠슨 황 CEO는 최근 GTC 2024 행사에서 다음과 같은 의미심장한 말을 했습니다. 참고로 ‘GTC’ 란 엔비디아 매년 개최하는 연례 행사로서, ‘그래픽처리장치(GPU) 테크놀러지 콘퍼런스’ 의 약자입니다. “지금 두 개의 산업 차원에서 변화의 초입에 있다. 하나는 ‘AI데이터센터’ 이고 다른 하나는 ‘생성형AI’ 이다.” “새로운 ‘AI데이터센터’ 는 데이터를 원재료로 ‘인공지능’을 만들어는 ‘AI공장/AI Factory’ 이다” “생성형AI로 이제 소프트웨어가 언어와 동영상, 생물학까지 이해하게 될 것이다” “향후 5년 동안 전 세계 데이터센터 인프라 설치가 두 배로 늘어나고 연간 수천억 달러의 시장 기.. 돈이 되는 경제 이야기 2024. 3. 27.

• 

  생성형AI 특화 데이터센터, 빅테크 대규모 투자 이어진다 챗GPT, 제미나이와 같은 생성형AI에 특화된 데이터센터는 기존의 데이터센터와는 완전히 다른 데이터센터가 필요하다. 기존의 데이터센터는 컴퓨팅 파워와 함께 데이터를 저장해 놓는 ‘보관소’의 성격이 강했다. 하지만 AI를 학습시키고, 학습된 AI를 소비자에게 서비스하기 위한 데이터센터는 슈퍼컴퓨터에 비견되는 고성능의 서버컴퓨터가 필요하다. 따라서 엔비디아의 ‘H100’과 같은 고성능 GPU가 많이 필요다. 즉, 장비의 투자 비용이 엄청나게 올라간다는 뜻이며 또한 많은 연산을 하기 때문에 그 과정에서 엄청난 열이 발생하고 많은 전력이 필요하다. 그래서 한편으로는 생성형AI가 기후변화를 가속화시키는 요인이 되기도 한다. 빅테크 기업, AI데이터센터 대규모 투자 이어진다 MS, 메타, 테슬라 등으로 대표되는 빅.. 돈이 되는 경제 이야기 2024. 2. 28.