안드레이 카파시 (Andrej Karpathy)

안드레이 카파시(Andrej Karpathy)는 신경망 연구와 구현 중심의 AI 교육 자료를 만드는 연구자이자 교육자입니다. 오픈AI 창립 멤버와 테슬라 AI 책임자로 일한 경력이 있으며, 신경망을 직접 만들고 학습시키는 강의와 코드를 공개했습니다. 그의 이름이 붙은 자료를 읽을 때는 인물의 경력, 강의에서 다루는 개념, 개별 저장소의 구현 범위를 구분합니다.

신경망 연구와 산업 현장의 경력

카파시의 공식 소개는 자신을 AI 연구자이자 교육자로 소개합니다. 같은 이력에 따르면 2015~2017년에는 오픈AI의 연구자이자 창립 멤버로, 2017~2022년에는 테슬라의 AI 책임자로 일했습니다. 테슬라에서는 Autopilot의 컴퓨터 비전 팀을 이끌었고, 팀의 업무에는 데이터 라벨링과 신경망 학습, 추론 칩 배포가 포함됐습니다. 이 날짜는 당시 맡았던 역할의 기간이며 현재 직책으로 옮겨 적을 수는 없습니다.

스탠퍼드 박사 과정에서는 합성곱 신경망과 순환 신경망, 컴퓨터 비전과 자연어 처리의 연결을 연구했습니다. 이미지의 내용을 문장으로 설명하는 과제처럼 시각 정보와 언어 정보를 함께 다루는 연구가 이 경력에 들어 있습니다. 공식 소개에는 스탠퍼드의 딥러닝 강의 CS231n을 설계하고 주 강사로 가르친 이력도 실려 있습니다. 연구 논문, 산업 시스템, 교육 자료는 같은 사람이 참여했더라도 결과를 평가하는 기준이 서로 다릅니다.

2026년 10월 11일 확인한 공식 사이트는 2023~2024년 오픈AI로 돌아가 중간 학습과 합성 데이터 생성을 다루는 팀을 만들었다고 적습니다. 이후 활동으로는 기술 독자와 일반 독자를 나눈 AI 교육 영상을 소개합니다. 이력의 회사명은 과거 소속을 설명하며, 개인 강의의 모든 설명을 해당 회사의 공식 제품 약속으로 해석하는 근거가 되지는 않습니다. 회사별 지원 조건은 해당 제품 문서에서 따로 확인합니다.

코드로 신경망을 만드는 교육 자료

Neural Networks: Zero to Hero 공식 저장소는 기초부터 신경망을 구현하고 학습하는 영상 강좌와 실습 노트북을 모읍니다. 첫 강의는 작은 자동 미분 엔진인 micrograd를 만들며 역전파를 설명합니다. 저장소는 Python 기초와 고교 미적분을 어느 정도 안다는 전제를 밝힙니다. 코드가 짧다는 점만으로 사전 지식이 전혀 필요 없는 자료라고 소개하면 강의가 전제하는 독자 범위를 놓칩니다.

이어지는 makemore 강의는 문자 단위 언어 모델을 만들며 학습, 표본 생성, 손실 평가를 다룹니다. 다층 퍼셉트론으로 확장하는 과정에서는 학습률, 하이퍼파라미터, 학습·검증·시험 자료의 분리와 과적합 같은 개념을 설명합니다. 하나의 완성된 서비스를 사용하는 방법보다 모델 안에서 어떤 계산과 평가가 일어나는지 확인하는 구성입니다. 예제에서 만든 모델의 결과를 상용 대형 모델의 성능으로 바꾸어 해석하지 않습니다.

같은 강좌에는 Transformer 방식의 GPT를 직접 만드는 영상과 토크나이저를 만드는 영상도 있습니다. 앞의 강의가 예측 모델의 구조를 다룬다면 토크나이저 강의는 문자열과 토큰을 바꾸는 별도의 단계를 다룹니다. 저장소는 토크나이저가 자체 학습 자료와 알고리즘을 가진다고 설명합니다. 모델과 입력 처리기를 나눠 보는 이 구성은 같은 문장을 넣어도 토큰 분할 방식이 결과의 길이와 처리에 영향을 주는 이유를 이해하는 데 쓰입니다.

인물 소개와 개별 구현의 구분

카파시가 만든 예제는 강의에서 설명하는 원리를 코드로 따라갈 수 있게 합니다. 공식 소개의 micrograd 설명은 이 프로젝트를 스칼라 값을 다루는 작은 자동 미분 엔진과 신경망 라이브러리로 한정합니다. 동적으로 만든 계산 그래프에서 역방향 자동 미분을 수행하는 구현입니다. 자동 미분을 시험하는 코드와 대규모 서비스 운영에 쓰는 학습 시스템은 지원 범위가 다릅니다.

실습 코드를 재사용할 때는 가져온 저장소와 파일, 적용한 수정 사항을 구분합니다. Zero to Hero 저장소는 강의별 노트북과 관련 프로젝트를 연결하므로, 영상에서 설명한 부분과 현재 열어 본 코드가 같은 자료인지 대조할 수 있습니다. 학습 결과는 데이터와 실행 환경에 따라 달라집니다. 같은 강사의 자료라는 이유만으로 서로 다른 예제의 학습 설정이나 평가 결과를 합쳐 읽으면 모델이 실제로 배운 범위와 실험 조건을 놓치게 됩니다.