솔직히 말하면, 저는 GPU 성능만 높으면 AI 모델은 다 잘 돌아간다고 생각했습니다. 직접 로컬 AI를 써보기 전까지는요. 엔비디아가 내놓은 DGX 스파크는 미국 출시가 3,999달러, 국내 예판가 750만 원짜리 초소형 AI 전용 컴퓨터입니다. 처음 이 제품을 접했을 때 제가 가장 먼저 든 의문은 "도대체 누가 이걸 쓰는 거지?"였습니다. 두 달 가까이 관련 정보를 뜯어보고, 제 컴퓨터에서 직접 로컬 LLM을 돌려본 뒤에야 그 답을 찾을 수 있었습니다. 로컬 LLM을 직접 돌려보니, GPU보다 메모리가 문제였습니다제가 처음 로컬 LLM(Large Language Model)을 설치했을 때 이야기를 먼저 꺼내야 할 것 같습니다. LLM이란 챗GPT나 제미나이처럼 텍스트를 이해하고 생성하는 대규모 언어 ..