안드레이 카파시가 실제로 LLM을 쓰는 방법 (실전 워크플로우 총정리)
하나의 최고 모델은 없다. 도구를 조합하고 지휘하는 새로운 운영체제를 맞이하라
Andrej Karpathy(안드레이 카파시)는 단순한 AI 연구자가 아닙니다. OpenAI 창립 멤버이자 전 Tesla AI 디렉터로서, 인공지능의 최전선에서 발전 과정을 이끌어온 인물입니다. 그가 이전에 올린 “Intro to Large Language Models” 영상이 LLM의 이론적 작동 원리를 설명하는 데 집중했다면, 이번 “How I use LLMs” 영상은 철저하게 실전 활용과 도구의 조합에 초점을 맞춥니다.
Karpathy는 이 영상에서 명확한 메시지를 던집니다. “LLM은 더 이상 단순한 챗봇이 아니라, 새로운 형태의 운영체제(OS)로 진화했다.”기술은 빠르게 발전하고 있지만, 여전히 많은 사람들이 LLM을 단순한 텍스트 생성 도구로만 사용하며 그 잠재력의 극히 일부만 활용하고 있습니다. 그는 자신이 일상과 업무에서 실제로 어떤 도구들을 어떻게 조합해 사용하는지, 그 구체적인 워크플로우를 투명하게 공개했습니다.이 글은 단순한 프롬프트 팁을 나열하는 것이 아닙니다. 세계 최고 수준의 AI 엔지니어가 문제를 어떻게 분해하고, 어떤 작업에 어떤 모델을 배정하며, 기술의 한계를 어떻게 극복하는지 그 ‘생각의 구조’를 상세히 해부한 실전 가이드입니다.
Karpathy는 현재 LLM 생태계를 ‘캄브리아기 대폭발’에 비유합니다. 과거에는 ChatGPT 하나에 모든 것을 의존하려 했지만, 이제는 텍스트, 코드, 이미지, 음성 등 각 분야에 특화된 수많은 모델과 도구가 등장했습니다.
OpenAI는 범용성과 멀티모달(음성·이미지)에서 강점을 보이고, Anthropic의 Claude는 코딩과 긴 문서 처리에서 압도적인 사용성을 제공합니다. Google은 자사 생태계와의 통합을 강조하고 있죠.
LLM 생태계의 폭발적 성장
Karpathy가 가장 강조하는 점은 “하나의 최고 모델에 얽매일 필요가 없다”는 것입니다.
코딩은 Cursor, 빠른 아이디어 스케치는 Claude Artifacts, 복잡한 추론은 o1 모델처럼 상황에 맞는 도구를 선택하고 조합하는 능력이 중요해졌습니다. LLM을 ‘도구 상자 속의 다양한 연장’으로 보는 관점의 전환이 필요하다는 이야기입니다.
