시카로의 공부방

2026.08.26 - [프로그래밍 공부/컴퓨터 구조 & 운영체제] - [GPU & CUDA] CUDA 이해를 위한 GPU 기본 지식 - 2 2026.08.26 - [프로그래밍 공부/컴퓨터 구조 & 운영체제] - [GPU & CUDA] CUDA 이해를 위한 GPU 기본 지식 - 1 지난 두 편에서 하드웨어를 아래에서부터 쌓아 올렸다.1탄에서는 트랜지스터가 전압으로 켜는 스위치라는 것부터 시작해서, CMOS 인버터 → 논리 게이트 → 되먹임 → SRAM 셀 6개 = 1비트 → 레지스터까지 갔다. 그리고 그게 웨이퍼 위에 화학적으로 박히는 과정을 봤다.2탄에서는 그 레지스터들이 SM 안에 어떻게 모여 있는지, 레지스터 파일이 왜 SRAM이라 비싼지, DRAM은 왜 트랜지스터 1개로 만들 수 있는지를 봤다.이..

2026.08.26 - [프로그래밍 공부/컴퓨터 구조 & 운영체제] - [GPU & CUDA] CUDA 이해를 위한 GPU 기본 지식 - 1 [GPU & CUDA] CUDA 이해를 위한 GPU 기본 지식 - 1vLLM을 공부할 때, CUDA 백엔드에 대한 이해를 얇게나마 하고 넘어갔었다. 그러나 완전한 이해는 아니라서, 아예 이해 플로우를 잡고 가려고 한다. 아날로그 반도체 공학과 현재 디지털 공학은 매sikaro.tistory.com 지난 시간에는 트랜지스터와 반도체 자체가 어떻게 만들어지는지에 대해서 소개했다.이번 시간에는 본격적으로 GPU 다이의 구조에 대해서 이해해보자. 1. 다이는 어떻게 되어 있는가.보통 다이라고 하면 결국에는 위와 같은 이미지의 구조로 되어 있다.그리고 각 층의 이름은 이미 ..

vLLM을 공부할 때, CUDA 백엔드에 대한 이해를 얇게나마 하고 넘어갔었다. 그러나 완전한 이해는 아니라서, 아예 이해 플로우를 잡고 가려고 한다. 아날로그 반도체 공학과 현재 디지털 공학은 매우 다르기도 하고(CMOS / 웨이퍼, 다이 등..) 배운 요소에서 내가 좀 약한 부분이라고 생각되는 반도체적 요소까지 한번에 다뤄볼 것이다. 시작해보자. 1. 트랜지스터 반도체라고 하면, 말 그대로 도체(전류가 흐름) 과 부도체(전류가 흐르지 않음)을 바탕으로 P(인)과 N(붕소)를 바탕으로 만들어지는, 이른바 스위치다.일정 전압을 흘려주면 전류가 흐르고, 그 아래로는 전류가 흐르지 않는,전류가 흐를 때는 1, 아닐때는 0을 표시할 수 있는 기본적인 비트의 개념을 가진다.이 스위치는 우리가 트랜지스터라고도 부..

보호되어 있는 글입니다.

보호되어 있는 글입니다.

요즘 좀 프로젝트에 치이면서 너무 코드 생성에만 집중되었다는 생각을 했다. 그래서 원래 근본이었던 AI학습 쪽을 더 파고들기로 마음먹고 퇴근 후 및 주말에 짬짬히 캐글 노트북을 제출하며 참여했다. 내가 고른 건 RL 챌린지. RL 관련해서 이미 GRPO도 많이 해봤고, 최신 RLVR도 어느정도 알고, AGAPO 같은 최신 논문도 읽었기에 한번 해보자는 마음이었다. 무엇보다 내 초심 자체가 로봇공학자이기도 하니, 로봇에서 강화학습은 빠지면 안되는 영역이다. 따라서 스펙도 키울 겸 겸사겸사였다.NVIDIA Nemotron Reasoning Challenge결론부터 말하면 동메달을 받았다. 그런데 이 글에서 진짜 하고 싶은 이야기는 등수가 아니라, 0.86이라는 점수가 왜 그렇게 안 넘어가는 벽이었는지, 그리..