NVIDIA를 만든 마인드셋 — 젠슨 황이 49분간 말한 '틀린 기술로 시작해 1조 기업을 만든 법'

개요

항목 내용
주제 Y Combinator Startup School 2026(Chase Center)에서 개리 탄(Garry Tan)이 진행한 엔비디아 창업자 겸 CEO 젠슨 황 대담
핵심 관점 창업 초기 선택한 기술 자체가 틀렸다는 것을 인정하고, 책 3권으로 갈아탄 것이 엔비디아의 진짜 시작이었다
핵심 키워드 현실 직시(Confront Reality) · 알고리즘 중심 사고 · 유니버설 펑션 앱록시메이터 · 퍼스트 프린시플스 조직 · 시스템 사고 · 에이전트 제어성 · 복원력(Resilience)
발표 형식 슬라이드 없는 1:1 대담 (영상 길이 49분, 발화 세그먼트 482개, 화면 프레임 120개)

젠슨 황이 검은 가죽 재킷을 입고 Startup School 2026 무대에 입장하는 오프닝 장면


핵심 메시지 3가지

1. "우리를 창업하게 만든 기술은 정확히 틀렸다"

엔비디아는 1993년 "모든 PC를 게임 콘솔로 만든다"는 비전으로 출발했지만, 1995년 그 알고리즘이 근본적으로 틀렸고, 게다가 옳은 방법조차 아무도 모르고 있었다는 사실을 깨달았다. 젠슨 황은 주머니 속 60달러와 몇백 달러를 들고 Fry's에 가서 OpenGL 교과서 3권을 사 왔고, 그것을 엔지니어들에게 건네며 회사를 다시 세웠다.

2. 위대한 회사를 만드는 것은 기술도 시장도 아니라 '세상에 대한 고유한 관점'

그가 30년 동안 놓지 않은 단 하나의 렌즈는 "칩을 잘 만드는 회사"가 아니라 "알고리즘 도메인을 가속하는 회사" 라는 믿음이다. 이 렌즈 덕분에 AlexNet을 본 15년 전, 모두가 이미지 인식 하나를 봤을 때 그는 "보편 함수 근사기를 발견했다"고 말했다.

3. 창업자에게 필요한 마지막 자질은 지능이 아니라 복원력

"하루 만에 인생을 이길 필요는 없습니다. 그 아침만, 오늘만 이기면 됩니다."


① 첫 번째 교훈 — 틀린 기술을 인정하는 데서 회사가 시작된다

초기 가설과 붕괴

시점 상황 근거
1993 CPU는 유용하지만 가속기로 보강하면 너무 어려웠던 문제를 풀 수 있다는 철학으로 창업 "general-purpose computers… if we could augment it with accelerators"
1993 첫 타깃 = 3D 그래픽. "모든 PC를 게임 콘솔로" "turn every single personal computer into a game console"
1995 알고리즘이 정확히 틀렸음을 확인. 이미 35~40개 경쟁사가 PC용 3D 그래픽을 만들고 있었음 "the algorithm was exactly wrong… some 35, 40 other companies"
1995 팀 전체가 "옳은 방법"을 모른다는 사실까지 드러남 "not only did we choose the wrong technology, we didn't know how to do it the right way"

살을 에는 현실 직시의 순간

젠슨 황은 사내에서 이렇게 말했다고 한다.

"이게 안 된다는 사실을 직면하지 않으면, 옳은 알고리즘을 향해 나아가지 않으면, 우리는 회사가 되지 않을 겁니다."

그리고 그날 그는 Fry's에서 OpenGL 파이프라인 설계 교과서 3권을 사서 엔지니어들에게 건넸다. 결과는 다음과 같다.

  • 컴퓨터 그래픽스를 재발명
  • 현대 컴퓨터 그래픽스의 세계 리더 등극
  • 지난 25년간 주요 돌파구의 대부분을 자체 발명

그의 요약은 냉정하다. "누구라도 그 교과서를 읽을 수 있었다." 즉 지식 자체는 해자가 아니고, 현실을 직면하고 학습해 실행한 것이 해자였다.

화면 하단 이름표에 'Jensen Huang / Founder & CEO, NVIDIA'로 소개된 대담 장면

세가(Sega) 이야기 — 정직함이 자금이 된 순간

항목 수치
세가가 발주한 계약 규모 1,200만 달러 (새턴 이후 콘솔, 즉 드림캐스트)
젠슨 황의 선택 일본으로 가서 세가 CEO 이리마지리에게 "기술이 안 되니 계약 이행 불가 + 다른 업체를 쓰라" 고 직접 권고
그러나 덧붙인 말 "불행히도 저는 여전히 그 돈이 필요합니다"
세가의 응답 500만 달러 지급 → 회사가 다음 날을 살아남을 시간 확보
세가의 회수 엔비디아 상장 시점에 지분 매각, 1,500만 달러
엔비디아 IPO (1999) 기업가치 3억 달러 ("1999년에 3억 달러는 진짜 돈이었다")
현재 1조 달러 이상 (개리 탄: "34년간 파운더 모드가 0에서 5조까지 확장됐다")

그가 여기서 뽑은 교훈은 투자에 대한 정의다. "회사에 투자하는 게 아니라 사람에게 투자한다." 이리마지리는 이미 신뢰하던 상대가 정직하게 설명하니, 다음 날을 넘길 수 있도록 도와준 것이다.


② 두 번째 교훈 — 칩이 아니라 알고리즘을 가속하라

회사에서 '정확히 맞았던' 단 하나의 큰 아이디어

CPU를 보강해 너무 어려웠던 문제를 푸는 것 — 분자 동역학, 이미지 처리, 역물리(inverse physics), 그리고 딥러닝. 그래서 그는 일찍이 이렇게 방향을 잡았다.

"훌륭한 칩을 만드는 게 문제가 아니라, 알고리즘 도메인을 가속하는 것이 관건이다."

그리고 위대한 회사에 대한 정의를 이렇게 내린다.

요소 젠슨 황의 우선순위
세상에 대한 고유한 관점(깊이 믿는) ★ 최우선
기술 중요하지만 2순위
시장 중요하지만 2순위
하드한 실행 난이도 좋을수록 유리 ("추구하기 어려운 비전일수록 좋은 조합")

AlexNet을 '다르게' 본 법

그의 렌즈는 늘 알고리즘을 향했다. NAMD, VASP, OpenGL, SQL 같은 도메인 특화 알고리즘을 찾아다니던 눈으로 AlexNet을 봤을 때의 결론은 이랬다.

① AlexNet을 본다
↓
② "이건 AlexNet이 아니다" — 어떤 함수든 학습할 수 있는 접근법임을 본다
↓
③ "우리는 방금 유니버설 펑션 앱록시메이터를 발견했다"고 15년 전부터 말 다님
↓
④ "이게 컴퓨팅 스택, 소프트웨어, 산업에 무슨 영향을 주는가?"로 질문 확장
↓
⑤ 즉시 컴퓨터 비전 · 로봇 · 자율주행 착수
↓ ⑥ 프로세서–미들웨어–알고리즘–응용을 아우르는 5단 케이크 산업 스택 전체를 재발명

핵심은 질문 기술이다. "if this, then what?" / "if this can get better, then so what?" — 관찰한 것을 퍼스트 프린시플까지 분해해 되묻는 것.

자율주행에서 증명한 '먼저 보고, 나중에 이해하기'

스탠퍼드의 초기 chain-of-thought를 8~10년 전에 봤을 때, 그는 이렇게 연결했다. 추론이 가능하면 → 자율주행 학습에 필요한 데이터가 줄어든다 → Alpamayo, "세계 최초의 생각하는(self-thinking) 자율주행차"를 만들고 오픈소스로 공개했다. 학습 주행거리는 100만~200만 마일 수준으로, 사람처럼 "처음 보는 상황을 이미 아는 조각으로 분해"하기 때문이다.


③ 세 번째 교훈 — 조직은 운전자에게 맞춰라 (F1 원리)

퍼스트 프린시플스 조직을 만드는 2단계 본능

단계 젠슨 황의 행동
1단계 호기심에서 출발 → 주변 사람의 답이 불만족스러우면 직접 답을 발견하러 간다
2단계 그 정보가 회사에 중요하다고 판단되면 → 최대한 많이 배워 모두에게 공유해 서비스한다

그는 이를 "관리 기법이 아니라 성격(personality) 기법"이라고 잘라 말한다. CEO는 회사를 섬기는(servant) 위치다.

기술 변화의 파도 타기 = 서핑

"서핑과 비슷합니다. 남들에겐 카오스로 보이지만, 서퍼는 파도를 읽고 그 위에 머무는 법을 압니다."

파도를 읽는 법은 결국 퍼스트 프린시플스를 시간에 걸쳐 체득하는 것. 그래서 그가 늘 "가장 낮은 층(the weeds)"까지 내려간다.

F1 자동차 원리 — 조직 설계의 역전

통념 젠슨 황의 원칙
표준 관리·조직 기법을 따라 "네가 레이스할 F1 머신을, 네가 운전할 수 있게 만들어라"
리더가 바뀌면 조직도 원칙대로 유지 "내가 현장에서 쓰러지는 날엔, 다음 CEO가 회사를 다시_shape_하면 된다"
조직을 안정적으로 운영하라 "나는 constantly 회사를 tweak한다 — 비즈니스 프로세스와 작동 방식을 계속 재편한다"

개리 탄의 정리: "차에 가하는 모든 변화는 네가 운전하기 전엔 그냥 속도를 늦추고 레이스를 지게 만든다." 그리고 "파운더 모드는 34년간 스케일된다."

아레나 대형 스크린에 'systems thinking' 관련 발화 자막과 협찬사 로고가 표시된 현장


④ 네 번째 교훈 — 시스템 사고가 새로운 코딩이다

왜 시스템 사고인가

"미래에 가장 유용한 스킬은 시스템 이해 · 시스템 인식 · 시스템 설계 · 시스템 조직, 즉 시스템 사고다. 저층 작업은 대부분 에이전트가 알아서 하고, 자동화될 테니까."

  • 칩 설계: 트랜지스터·게이트·기능 블록 합성은 이미 자동화 → 대부분의 설계자는 시스템 설계자
  • 소프트웨어: "대부분의 소프트웨어는 어차피 agentically 만들어진다"
  • 따라서 추상적으로 시스템을 생각하는 능력이 필요 → 문제·제약·입출력·정보 흐름 속도·프로세서/메모리/네트워킹

에이전트 시대의 진짜 병목 = 제어성(Controllability)

논점 젠슨 황의 진단
현재 상태 이미 coarse-level 재귀적 자기개선이 작동 중 — 쓸 때마다 markdown 파일이 갱신되고, 장기 기억이 압축·지식그래프화
정확도 요구 100%일 필요 없다. 80%든 99%든 나머지를 사람이 채우면 된다
진짜 돌파구 세밀한 제어 — plan 파일의 단어 하나가 delta를 만들고, 픽셀 하나 / 삼각형 하나 / CAD 컴포넌트 하나 / 레이어·비아·연결 하나가 나머지를 재생성
결론 "제어성이 에이전트에 필요한 단일 최대의 돌파구다"

NVIDIA 안에서 이미 돌아가는 방식

  • Claude Code가 NVIDIA 전역의 샌드박스에서 자율 실행 중
  • Codex, Claude Code, Cursor, Cognition을 팀이 자유롭게 선택 → "천 송이의 꽃이 피게 하고(thousand flowers bloom), 그 전부에서 배운다"
  • 에이전트를 이해해야 하는 이유: "에이전트가 새로운 소프트웨어이고, 그 소프트웨어가 어떻게 처리되느냐가 컴퓨터 아키텍처를 결정"
  • 시스템 하나 만드는 데 약 3년, 램프업 몇 년, 사용 수명 10년 → 그래서 "5~10년 미래에서 살아야 한다"

Open Claw를 '리눅스 모멘트'로 읽은 이유

그가 Open Claw를 봤을 때의 첫 생각은 "우리는 방금 현대 컴퓨터를 설계했다" 였다. 즉 LLM을 얹을 운영체제. 그래서 NVIDIA는 Peter에게 이렇게 제안했다.

"NVIDIA의 모든 엔지니어는 당신의 엔지니어입니다. 당신 집 앞에 전함(battleship)이 있으니, 원하는 대로 문제를 분해하고 원하는 만큼 기여받으세요."

Hermes 팀에도 동일하게 접근했다. 그의 소신은 명확하다. "모두가 자기 AI를 만들 수 있어야 하고, 오픈소스여야 한다." 클라우드(ChatGPT, Claude)를 적극 쓰되, 도메인 특화 AI가 필요하면 Hermes, Open Claw, LangChain, Deep Agent으로 직접 만들라는 것. 그리고 "text is intelligence / words are thoughts" — 마크다운 파일을 우습지 말라는 개리 탄의 지적에 대한 화답이었다.

물리 AI — 로봇의 'ChatGPT 모멘트'는 이미 지났다

단계 내용
계기 생성형 AI가 영상을 만들기 시작한 순간 → "손가락 움직이는 영상을 생성할 수 있으면, 왜 로봇을 그렇게 못 시키나?"
근거 NVIDIA는 autoregressive GANs·conditional GANs 원 연구를 수행, 신경망이 완전 생성한 시뮬레이터로 자율주행을 이미 주행
노정 물리 법칙·인과·마찰·장력 이해 → World Foundation Model, Isaac Sim, Cosmos
3축 시스템 ① real-to-sim 환경 생성 ② grounded + generative 물리 시뮬레이션 ③ sim-to-real + RL
첫 상용 도메인 자율주행차 — 시장 규모·기술 표준화·경제적 가치 3박자. Waymo, Tesla, Mercedes에 칩·소프트웨어 스택 공급
오픈소스 이유 농업, 택배, 창고 AMR 등 자율 내비게이션 시장은 각각이 자율주행차 시장만큼 크지 않아 스택 전체를 오픈
현재 규모 로보틱스+자율주행+물리AI 사업 = 약 100억 달러
다음 목표 "우리의 다음 1000억 달러 사업" — 2~3년은 더 걸리지만 10년은 걸리지 않는다

"AI가 일자리를 없앤다"는 서사는 정확히 거꾸로다

도메인 자동화된 태스크 직무 결과
소프트웨어 코딩 SW 엔지니어 채용 전년 대비 +10%
의료 방사선 판독 방사선과 직무 +20% (수년 사이) — 환자 백로그 해소 → 더 많은 환자 수용 → 간호사·방사선사 추가 필요
법률 문서·패러리걸 업무 패러리걸 급증 (Harvey 등장에도) — 소송 백로그 처리량 증가

그의 공식은 이렇다.

태스크 자동화 → 생산성 증가 → 성장 → 더 많은 고용

"아이디어의 백로그, 야망과 야심의 백로그가 너무 높다."


관점 포인트 (실무자가 짚을 것)

  • 기술 선택은 틀릴 수 있다. 치명적인 건 '옳은 방법을 모른다는 걸 인정하지 않는 것'이다. 1995년의 그 인정과 교과서 3권이 회사를 살렸다.
  • 현금 60달러짜리 학습 투자와 1,200만 달러 계약 파기 사이의 연결고리는 '정직'이다. 세가가 500만 달러를 남긴 이유는 기술이 아니라 사람이었다.
  • 경쟁 우위는 지식이 아니라 학습 속도다. "누구나 그 교과서를 읽을 수 있었다."
  • 칩이 아니라 알고리즘을 보라. 같은 AlexNet을 보고 '이미지 인식'을 본 사람과 '보편 함수 근사기'를 본 사람의 15년 뒤가 갈렸다.
  • 조직을 표준 매니지먼트에 맞추지 마라. F1 머신을 네 운전 스타일에 맞춰 계속 tweak하는 것이 34년 파운더 모드의 실체다.
  • 코딩은 태스크이고, 시스템 사고는 직무다. 저층이 자동화될수록 "문제·제약·입출력·병목"을 보는 능력이 값이 오른다.
  • 에이전트는 100% 정확하지 않아도 쓸 수 있다. 대신 세밀하게 제어할 수 있어야 한다. plan 파일 단어 하나, CAD의 비아 하나가 나머지를 재생성하는 구조를 만들어라.
  • 5~10년 뒤에서 현재를 설계하라. 시스템 구축 3년 + 램프업 + 10년 수명이라는 하드 제약이 있다.
  • 오픈소스는 이타가 아니라 시장 전략이다. 자율주행 스택을 연 이유는 농업·택배·창고 AMR이 각자 시장이 너무 작았기 때문이다.
  • AI 서사는 '태스크 vs 직무'로 분해해서 판단하라. 코딩이 자동화됐는데 SW 엔지니어 채용은 늘었다.

최종 핵심 정리 — 확인해야 할 질문

# 스스로에게 던질 질문
1 우리 회사의 근본 가설(기술) 이 틀렸을 가능성을 언제 마지막으로 점검했는가?
2 우리는 좋은 칩/제품을 만들고 있는가, 알고리즘 도메인을 가속하고 있는가?
3 우리 조직은 CEO의 운전 스타일에 맞춰져 있는가, 관성적 표준 프로세스에 묶여 있는가?
4 에이전트를 세밀하게 제어할 수 있는가, 아니면 결과물이 80%일 때 버리고 마는가?
5 우리는 몇 년 뒤의 워크로드를 보고 오늘 시스템을 설계하고 있는가?
6 "AI가 일자리를 뺏는다"는 판단은 태스크 기준인가, 직무 기준인가?
7 오늘 아침, 우리는 오늘만 이기고 있는가?

그가 18~22세 자신에게, 그리고 이 자리에 보낼 마지막 전언은 이 한 문장으로 수렴한다.

"중요한 일이라면 가서 배우면 된다. 얼마나 어렵겠나? — 그리고 하루 만에 인생을 이길 필요 없다. 그 아침만, 오늘만 이겨라. 충분히 오래 버티면 NVIDIA가 된다."