히스기야(지혜,일상,신뢰)

왜 AI 산업에서는 항상 '병목'이 새로운 기회를 만들까?

"우리는 AI를 설명하지 않는다. AI 산업을 이해하는 지도를 만든다."AI 산업은 가장 빠른 기술이 아니라, 가장 느린 연결 고리의 속도로 성장합니다.​AI 관련 뉴스를 보다 보면 비슷한 이야기가 반복됩니다.어느 날은 GPU가 부족하다고 하고, 다음에는 HBM이 모자란다고 합니다. 시간이 지나면 첨단 패키징(CoWoS)이 부족하다는 소식이 들려오고, 최근에는 데이터센터 전력과 변압기 공급 부족이 새로운 이슈가 되고 있습니다.뉴스만 보면 전혀 다른 문제처럼 보입니다.하지만 조금만 시야를 넓혀 보면 공통된 질문이 떠오릅니다.​왜 AI 산업은 항상 '무언가가 부족하다'는 뉴스가 반복될까요?오늘은 이 질문을 통해 AI 산업을 움직이는 첫 번째 원리를 함께 살펴보겠습니다. 가장 넓은 고속도로도 한 곳이 막히면 ..

AI 칩은 왜 모두 데이터센터로 향할까?AI 시대의 진짜 공장은 '데이터센터'입니다.

"우리는 AI를 설명하지 않는다. AI 산업을 이해하는 지도를 만든다." 지난 탐험에서는 AI 반도체 하나가 완성되기까지 수많은 기업과 국가가 연결된 공급망을 살펴봤습니다. 그렇다면 그 긴 여정을 거쳐 만들어진 AI 칩은 어디로 갈까요?노트북일까요?스마트폰일까요?게임용 PC일까요?물론 일부는 그곳으로 향합니다. 하지만 최신 AI 칩의 대부분은 한곳으로 모입니다.바로 AI 데이터센터입니다.오늘은 AI 산업의 심장이라 불리는 데이터센터를 함께 탐험해 보겠습니다. 첫 번째 탐험지AI 칩은 혼자서는 아무 일도 하지 못합니다. 우리는 GPU를 보면 'AI 반도체'라고 생각합니다.하지만 GPU 하나만 책상 위에 올려둔다고 AI가 작동하지는 않습니다.GPU는 데이터를 받아야 하고,다른 GPU와 끊임없이 통신해야 하며..

브로드컴은 왜 엔비디아 다음의 AI 핵심 기업으로 떠오를까? | GPU는 계산하고, 브로드컴은 연결한다.

AI 산업을 이야기하면 가장 먼저 떠오르는 기업은 단연 엔비디아입니다.GPU는 AI 모델을 학습하고 추론하는 핵심 반도체이기 때문입니다.하지만 최근 AI 관련 뉴스를 읽다 보면 엔비디아와 함께 자주 등장하는 기업이 있습니다.바로 브로드컴(Broadcom)입니다. 많은 사람들은 브로드컴도 단순한 반도체 회사라고 생각합니다.그런데 정말 그 정도의 역할만 하는 기업이라면, 왜 AI 시대의 최대 수혜 기업 가운데 하나로 평가받을까요?오늘은 AI 인프라 지도의 새로운 좌표를 따라가며 그 이유를 살펴보겠습니다. GPU만으로는 AI가 움직이지 않는다.우리는 지금까지 GPU와 HBM, CoWoS를 차례대로 탐험했습니다.GPU는 연산을 담당하고, HBM은 데이터를 빠르게 공급하며, CoWoS는 GPU와 HBM을 하나의..

최근 해외에서는 흥미로운 논쟁이 벌어지고 있습니다."AI가 물을 너무 많이 사용한다." 처음 들으면 이상하게 느껴집니다.AI는 소프트웨어인데 왜 물 이야기가 나오는 걸까요?우리는 ChatGPT를 사용할 때 물을 떠올리지 않습니다.질문을 입력하고 답변을 받는 것이 전부라고 생각하는데, 실제로는 그렇지 않습니다. 생성형 AI가 확산되면서 전력뿐 아니라 물도 중요한 자원이 되고 있죠.어떤 지역에서는 데이터센터 때문에 물 사용 문제가 논의되기도 합니다만, 도대체 AI와 물은 어떤 관계가 있을까요?오늘은 반도체나 GPU가 아니라, AI 시대의 새로운 인프라 자원인 '물'에 대해 알아보겠습니다. 왜 물 사용량이 사회적 이슈가 될까?여기서 중요한 점이 있습니다.문제는 단순히 물을 사용하는 것이 아닙니다. 문제는 데이..

ChatGPT에 질문 하나를 입력하는 데 전기가 얼마나 필요할까요?대부분의 사람들은 이렇게 생각합니다."AI는 인터넷 서비스 아닌가?""그냥 프로그램인데 전기를 그렇게 많이 쓰겠어?"그런데 최근 AI 산업 뉴스를 보면 이상한 이야기가 들립니다.AI 데이터센터 하나가 도시 하나 수준의 전기를 사용할 수 있다??​그래서, 원자력 발전소가 다시 주목받고 있는 상태에서 변압기 부족 현상이 발생하고 있습니다.​처음 들으면 조금 과장된 이야기처럼 느껴질텐데...도대체 AI가 무엇을 하길래 전력 산업 전체가 움직이고 있는 걸까요?​오늘은 그 이유를 초보자도 쉽게 이해할 수 있도록 따라가 보겠습니다.ChatGPT 뒤에서는 무슨 일이 벌어질까?우리가 ChatGPT에 질문을 입력하면 화면에는 몇 초 뒤 답변이 나타납니다...

AI 산업 관련 뉴스를 보다 보면 자주 등장하는 단어가 있는데, 바로 "액체냉각(Liquid Cooling)" 입니다. 과거 데이터센터는 대부분 공기로 열을 식혔습니다. 하지만 ChatGPT와 같은 생성형 AI가 등장하면서 상황이 달라졌습니다.AI 서버가 사용하는 전력이 급격히 증가했고, 그만큼 발생하는 열도 폭발적으로 늘어났기 때문입니다. 그래서 최근에는 "AI 데이터센터가 물을 마신다"는 표현까지 등장하고 있습니다.왜 AI 시대에는 액체냉각이 중요해졌을까요? 오늘은 초보자도 쉽게 이해할 수 있도록 액체냉각이 무엇인지, 왜 필요한지, 그리고 어떤 기업들이 수혜를 받을 수 있는지 알아보겠습니다. AI 데이터센터는 왜 뜨거워질까?먼저 AI 데이터센터가 무엇을 하는 곳인지 생각해 보겠습니다. AI 데이터센터..

AI 산업 이야기를 하다 보면 아래와 같이 자주 등장하는 단어들이 있습니다.GPU, HBM, CoWoS, 데이터센터 하지만 대부분의 사람들은 이런 생각을 합니다."GPU는 알겠는데, 그래서 실제 AI는 어디서 돌아가는 거지?" 정답은 바로 AI 서버입니다.사실 GPU도 중요하고 HBM도 중요하지만, 이 모든 부품들이 한곳에 모여 실제로 AI를 학습시키고 답변을 생성하는 공간은 AI 서버입니다. 오늘은 초보자도 쉽게 이해할 수 있도록 AI 서버가 무엇인지, 왜 중요한지, 그리고 AI 산업에서 어떤 역할을 하는지 알아보겠습니다. AI 서버란 무엇일까?쉽게 말하면 AI 서버는 AI를 위한 초고성능 컴퓨터입니다.우리가 사용하는 노트북이나 데스크톱 컴퓨터도 서버의 일종이라고 볼 수 있습니다. 하지만 AI 서버는 ..

많은 분들께서 AI 산업에 대한 관심이 폭발적으로 증가하고 있습니다.ChatGPT, Gemini, Claude 같은 생성형 AI 서비스가 빠르게 확산되면서 많은 투자자들이 AI 관련 기업에 관심을 갖고 있습니다.그런데 여기서 한 가지 질문이 생깁니다."AI는 도대체 어떤 기업들이 만들고 있는 것일까?" 많은 사람들은 엔비디아만 떠올립니다.물론 엔비디아는 AI 시대의 핵심 기업이 맞습니다.하지만 실제 AI 산업은 하나의 기업이 만드는 것이 아닙니다. GPU, HBM, 반도체 생산, AI 서버, 데이터센터, 전력 산업까지 수많은 기업들이 연결되어 하나의 거대한 생태계를 만들고 있습니다. 오늘은 AI 반도체 공급망을 초보자도 이해할 수 있도록 쉽게 정리해보겠습니다. ■ AI 서비스의 시작은 ChatGPT우리가..

AI 산업 이야기를 하다 보면 빠지지 않고 등장하는 기업이 있습니다. 바로 TSMC인데, 많은 사람들은 엔비디아를 AI 시대의 핵심 기업으로 알고 있습니다. 실제로 엔비디아는 AI GPU 시장을 사실상 주도하고 있습니다만, 흥미로운 사실이 하나 있습니다. 엔비디아는 GPU를 설계하지만 직접 생산하지는 않습니다.그렇다면 엔비디아의 AI 반도체는 누가 만들고 있을까요? 바로 TSMC입니다. 그래서 최근 반도체 산업에서는 이런 말도 나옵니다."엔비디아가 AI의 두뇌라면, TSMC는 AI의 공장이다."오늘은 왜 TSMC가 세계에서 가장 중요한 공장으로 불리는지 쉽게 알아보겠습니다. ■ TSMC는 무엇을 하는 회사일까?TSMC는 대만에 위치한 세계 최대 파운드리 기업입니다. 여기서 파운드리란 쉽게 말해, "반도체..

최근 AI 산업이 폭발적으로 성장하면서, 전 세계 빅테크 기업들이 경쟁적으로 투자하는 분야가 있습니다.바로 AI 데이터센터입니다. 특히:엔비디아(NVIDIA)마이크로소프트구글아마존같은 기업들은 AI 데이터센터 구축 경쟁에 들어가고 있습니다.그런데 여기서 흥미로운 점이 있습니다.AI 산업이 성장할수록, 전력 부족 이야기가 함께 나오기 시작했다는 점입니다. 왜 AI는 이렇게 엄청난 전기를 사용하는 걸까요? ■ AI는 왜 그렇게 많은 전기를 사용할까?우리가 사용하는 생성형AI는 단순 검색 서비스와 다르게 엄청난 계산을 계속 수행합니다. 예를 들어:이미지 생성영상 생성음성 인식AI 검색자율주행같은 작업들은 매우 많은 연산을 필요로 합니다.그리고 그 중심에는 GPU가 있습니다. 특히 AI 데이터센터 안에는 수천~..