솔직히 말하면, 저는 GPU 성능만 높으면 AI 모델은 다 잘 돌아간다고 생각했습니다. 직접 로컬 AI를 써보기 전까지는요. 엔비디아가 내놓은 DGX 스파크는 미국 출시가 3,999달러, 국내 예판가 750만 원짜리 초소형 AI 전용 컴퓨터입니다. 처음 이 제품을 접했을 때 제가 가장 먼저 든 의문은 "도대체 누가 이걸 쓰는 거지?"였습니다. 두 달 가까이 관련 정보를 뜯어보고, 제 컴퓨터에서 직접 로컬 LLM을 돌려본 뒤에야 그 답을 찾을 수 있었습니다. 로컬 LLM을 직접 돌려보니, GPU보다 메모리가 문제였습니다제가 처음 로컬 LLM(Large Language Model)을 설치했을 때 이야기를 먼저 꺼내야 할 것 같습니다. LLM이란 챗GPT나 제미나이처럼 텍스트를 이해하고 생성하는 대규모 언어 ..

ChatGPT나 Claude를 쓰다 보면 가끔 이런 생각이 듭니다. '이게 왜 이렇게 갑자기 똑똑해졌지?' 저도 처음엔 그냥 코드 보조 도구 정도로 썼는데, 어느 순간부터 API 설계나 SQL 최적화까지 제법 쓸 만한 결과를 내놓더군요. 그때부터였습니다. AI 성능 뒤에 어떤 인프라가 받쳐주고 있는지, 그리고 그 인프라를 둘러싼 산업의 흐름이 지금 어디쯤 와 있는지 궁금해진 것이. 이 글은 GPU부터 광통신까지, AI 산업의 병목이 어떻게 이동하고 있는지를 개발자 시각으로 풀어본 기록입니다. GPU가 먼저 터진 이유 — AI 학습의 병목AI 모델을 처음 만들 때 가장 중요한 작업은 '학습'입니다. 방대한 데이터를 모델에 집어넣고 반복적으로 최적화하는 과정인데, 이 작업에는 복잡한 연산 하나를 깊게 파는 ..