히스기야(지혜,일상,신뢰)

왜 AI 산업에서는 항상 '병목'이 새로운 기회를 만들까?

"우리는 AI를 설명하지 않는다. AI 산업을 이해하는 지도를 만든다."AI 산업은 가장 빠른 기술이 아니라, 가장 느린 연결 고리의 속도로 성장합니다.​AI 관련 뉴스를 보다 보면 비슷한 이야기가 반복됩니다.어느 날은 GPU가 부족하다고 하고, 다음에는 HBM이 모자란다고 합니다. 시간이 지나면 첨단 패키징(CoWoS)이 부족하다는 소식이 들려오고, 최근에는 데이터센터 전력과 변압기 공급 부족이 새로운 이슈가 되고 있습니다.뉴스만 보면 전혀 다른 문제처럼 보입니다.하지만 조금만 시야를 넓혀 보면 공통된 질문이 떠오릅니다.​왜 AI 산업은 항상 '무언가가 부족하다'는 뉴스가 반복될까요?오늘은 이 질문을 통해 AI 산업을 움직이는 첫 번째 원리를 함께 살펴보겠습니다. 가장 넓은 고속도로도 한 곳이 막히면 ..

AI 칩은 왜 모두 데이터센터로 향할까?AI 시대의 진짜 공장은 '데이터센터'입니다.

"우리는 AI를 설명하지 않는다. AI 산업을 이해하는 지도를 만든다." 지난 탐험에서는 AI 반도체 하나가 완성되기까지 수많은 기업과 국가가 연결된 공급망을 살펴봤습니다. 그렇다면 그 긴 여정을 거쳐 만들어진 AI 칩은 어디로 갈까요?노트북일까요?스마트폰일까요?게임용 PC일까요?물론 일부는 그곳으로 향합니다. 하지만 최신 AI 칩의 대부분은 한곳으로 모입니다.바로 AI 데이터센터입니다.오늘은 AI 산업의 심장이라 불리는 데이터센터를 함께 탐험해 보겠습니다. 첫 번째 탐험지AI 칩은 혼자서는 아무 일도 하지 못합니다. 우리는 GPU를 보면 'AI 반도체'라고 생각합니다.하지만 GPU 하나만 책상 위에 올려둔다고 AI가 작동하지는 않습니다.GPU는 데이터를 받아야 하고,다른 GPU와 끊임없이 통신해야 하며..

지난 탐험에서 우리는 Microsoft가 왜 기존 원전을 다시 주목했는지 살펴봤습니다.AI 데이터센터를 멈추지 않게 하기 위해 안정적인 전력을 확보하는 전략이었습니다.그런데 최근 또 하나의 흥미로운 뉴스가 등장합니다. Oracle은 AI 데이터센터를 이야기하면서 GPU보다 먼저 전력 인프라를 강조하기 시작했습니다. 왜 일까요? 먼저, 결론부터 답을 드리자면,AI 시대의 데이터센터 경쟁력은 서버의 개수가 아니라, 전력을 얼마나 안정적으로 공급할 수 있는가에 달려 있다. AI 데이터센터 경쟁은 새로운 국면에 들어섰다.AI 산업이 빠르게 성장하면서 세계 곳곳에서 초대형 데이터센터 건설 경쟁이 벌어지고 있습니다.예전에는 GPU 확보가 가장 중요한 경쟁력이었습니다.하지만 최근 산업 뉴스를 보면 빅테크 CEO들이..

지난 탐험에서 우리는 AI 시대에 SMR이 새로운 전력 해답으로 주목받는 이유를 살펴봤습니다. 하지만 산업 뉴스를 계속 읽다 보면 또 하나의 흥미로운 장면을 발견하게 됩니다. 원자력 기업보다,오히려 AI 기업인 마이크로소프트(Microsoft) 가 더 자주 등장하는 것입니다. 처음에는 조금 이상하게 느껴질 수도 있습니다.AI 소프트웨어를 만드는 기업이 왜 원자력 이야기를 하는 걸까요?오늘은 그 이유를 AI 인프라 지도 속에서 함께 추적해 보겠습니다. AI 경쟁은 이제 GPU 경쟁만이 아니다.몇 년 전까지만 해도 AI 경쟁력은 GPU를 얼마나 확보했는지가 중요한 기준이었습니다. 하지만 AI 모델이 커지고 데이터센터가 급격히 늘어나면서 새로운 문제가 나타났습니다. 바로 전력 부족입니다. GPU가 있어도 전기..

지난 탐험에서 우리는 AI 산업의 예상치 못한 병목 하나를 발견했습니다.GPU가 부족해서도, HBM이 부족해서도 아니었습니다.바로 전력이었습니다. AI 데이터센터는 점점 더 많은 전기를 필요로 하지만, 전력망은 그 속도를 따라가지 못하는 곳이 늘어나고 있습니다. 우리는 그 문제를 전력 병목이라고 불렀습니다.그렇다면 이제 새로운 질문이 생깁니다.AI 기업들은 이 전력 병목을 어떻게 해결하려고 할까요?출처 입력이 질문을 따라가다 보니, 예상하지 못했던 이름 하나가 다시 등장했습니다.원자력. 불과 몇 년 전만 해도 미래 산업의 중심에서 조금 멀어진 것처럼 보였던 원자력이, AI 시대에는 다시 중요한 전력 카드로 거론되고 있는 걸까요? 오늘은 AI 인프라 지도를 따라 그 이유를 추적해 보겠습니다. AI가 원하..

밤이 깊었습니다.수천 개의 GPU가 쉬지 않고 움직이고, 데이터센터는 여전히 환하게 빛나고 있습니다. 누군가는 ChatGPT에게 질문을 하고, 누군가는 AI로 영상을 만들고, 또 다른 누군가는 AI에게 코드를 작성시키고 있습니다. 겉으로는 아주 평범한 밤입니다. 하지만 그 순간에도 한 가지는 절대 멈출 수 없는게 있습니다. 그것은 바로 전기입니다.우리는 지금까지 AI 인프라 지도를 따라 여행해 왔습니다.GPU를 만났고, HBM을 지나, CoWoS를 거쳐, 데이터센터 안으로 들어갔습니다.그리고 UPS, 발전기, 가스터빈, 천연가스까지 따라왔습니다. 여기까지 오면서 하나의 사실을 발견 있는데, AI는 결국 전기를 먹고 움직인다는 것입니다. 그런데 또 하나의 질문이 생깁니다.과연, 전기는 누가 공급할까요?예전..

AI 인프라 지도를 따라 걷다 보면 흥미로운 순간이 찾아옵니다.GPU를 지나고, HBM을 지나고, 데이터센터와 발전기까지 도착했습니다.그런데 여기서 예상하지 못한 이름 하나가 등장합니다. 바로 천연가스(LNG) 입니다.잠깐, 이상하지 않으시나요?AI를 공부하는데 왜 갑자기 에너지 이야기가 나오는 걸까요?GPU와 반도체를 따라가던 길이 어느새 발전소와 연료까지 이어지고 있습니다. 과연 AI와 천연가스는 어떤 관계가 있을까요? AI 산업이 커질수록 연료도 함께 필요해진다.많은 사람들은 AI 산업을 디지털 산업이라고 생각합니다.하지만 AI는 현실 세계의 전기를 사용합니다. 수천 개의 GPU가 쉬지 않고 연산을 수행하면, 데이터센터는 엄청난 전력을 소비합니다. 전기를 더 많이 사용한다는 것은, 결국 더 많은 ..

AI 산업 지도를 따라 한 걸음씩 이동하다 보니 흥미로운 장면을 발견했습니다.GPU가 있고, HBM이 있고, AI 서버와 데이터센터도 있습니다.여기까지는 많은 사람들이 알고 있지요. 그런데 지도의 끝으로 갈수록 낯선 이름들이 등장하기 시작합니다.변압기, 송전망, UPS,발전기… 그리고 오늘 만난 주인공은 가스터빈(Gas Turbine) 입니다.처음 들으면 발전소에서만 사용하는 장비처럼 느껴질 수 있습니다.그런데, 왜 최근 AI 기업들은 가스터빈에 관심을 갖기 시작했을까요? AI 데이터센터가 가장 두려워하는 것은 무엇일까?AI 데이터센터는 하루 24시간, 1년 365일 쉬지 않고 운영되고, ChatGPT 같은 AI 서비스는 언제든 사용할 수 있어야 합니다.만약 전력 공급이 부족해진다면 어떻게 될까요? ..

한 밤중~ 거대한 AI 데이터센터가 조용히 돌아가고 있습니다.수천 개의 GPU가 AI 연산을 수행하고 있고, 전 세계 사용자들은 ChatGPT와 같은 AI 서비스를 이용하고 있습니다. 그런데 갑자기 예상치 못한 일이 발생하는데, 외부 전력 공급이 끊어진 것입니다.도시 전체가 정전될 수도 있는 상황입니다.그렇다면 AI 데이터센터는 어떻게 될까요? , 모든 서버가 한꺼번에 꺼질까요?생각보다 답은 간단하지 않습니다. 우리는 이미 UPS라는 장비를 살펴봤습니다.UPS는 정전이 발생하는 순간 즉시 전력을 공급해 주는 장치지만, 여기서 한 가지 의문이 생깁니다. UPS만으로 몇 시간 동안 데이터센터를 운영할 수 있을까요?오늘은 AI 데이터센터의 마지막 전력 보험이라고 불리는 발전기(Generator)에 대해 알아보..

최근 해외 데이터센터 업계에서는 흥미로운 이야기가 자주 등장합니다."AI 데이터센터는 정전이 허용되지 않는다."처음 들으면 당연한 이야기처럼 느껴질 수 있지만, 생각해 보면 조금 이상합니다. 태풍이나 폭염, 송전망 사고 등으로 인해 전기가 끊기는 일은 언제든 발생할 수 있는데도 ChatGPT와 같은 AI 서비스는 대부분 멈추지 않습니다. 도대체 어떻게 가능한 것일까요? 오늘은 뉴스 기사에서는 자주 등장하지만 생각보다 잘 알려지지 않은 장비, UPS(무정전 전원장치)에 대해 알아보겠습니다.데이터센터가 가장 두려워하는 것은 무엇일까?많은 사람들은 AI 데이터센터의 경쟁력이 GPU 숫자에 달려 있다고 생각합니다.물론 틀린 말은 아닙니다. 하지만 데이터센터 운영 기업들이 더 민감하게 생각하는 것은 따로 있습니다..