[전자/반도체/면접질문] HBM은 기존 DRAM과 무엇이 다를까? TSV와 넓은 데이터 통로

HBM을 DRAM의 경쟁 저장 원리처럼 생각하면 설명이 꼬이기 쉽습니다. HBM도 DRAM입니다. 차이는 셀의 휘발성을 바꾼 데보다, 많은 DRAM과 연산 칩 사이의 데이터 이동 방식을 바꾼 데 있습니다.

Q1. 면접관 질문

HBM은 일반적인 DDR 계열 DRAM 구성과 무엇이 다르며, 적층·TSV가 대역폭과 전력 효율에 어떤 영향을 주나요?

Q2. 핵심 원리

많이 쌓는 것과 빠르게 보내는 것은 다르다

HBM(High Bandwidth Memory)은 여러 DRAM 다이를 적층하고, 짧고 넓은 인터페이스로 연산 칩과 연결해 높은 대역폭을 확보하는 메모리입니다. 여러 개를 쌓았다는 사실만으로 대역폭이 자동으로 커지는 것은 아닙니다. 병렬 데이터 경로와 채널 구성도 필요합니다.

기존 DDR 메모리는 일반적으로 메인보드 배선과 모듈·패키지를 통해 CPU와 연결됩니다. HBM은 GPU 같은 연산 칩과 같은 패키지 안에서 인터포저 등의 고밀도 연결 구조를 사용하는 경우가 대표적입니다. 여기서 DDR·HBM은 서로 다른 인터페이스·구성 방식이며, DRAM은 셀 기반 저장 기술이라는 구분이 중요합니다.

TSV는 적층 내부의 수직 통로

실리콘 관통 전극(Through-Silicon Via, TSV)은 다이 두께 방향을 관통하는 전기 연결입니다. 적층 DRAM과 하부 연결부 사이에 많은 신호·전원 경로를 만들 수 있게 합니다. 다이 사이의 접합과 수평 패키지 배선까지 합쳐야 시스템의 연결이 완성됩니다.

TSV 하나만으로 GPU까지 모든 구간이 연결된다고 이해하면 안 됩니다. 적층 내부의 수직 연결과 인터포저를 통한 연산 칩까지의 연결은 역할이 다릅니다. SK hynix의 TSV 기술 설명에서 이 구조적 접근을 확인할 수 있습니다.

대역폭은 통로 수와 전송률의 곱

이론 대역폭 = 데이터 I/O 폭 × 핀당 전송률 / 8

I/O 폭을 bit, 전송률을 Gbit/s per pin으로 넣으면 GB/s가 됩니다. 전송률에 이미 DDR 효과가 반영되어 있으면 다시 2를 곱하지 않습니다.

예를 들어 설명용 인터페이스 폭이 512 bit이고 핀당 전송률이 4 Gbit/s라면 이론 대역폭은 256 GB/s입니다. 특정 HBM 제품 사양이 아닌 계산 연습입니다. 실제 유효 대역폭에는 명령·Refresh·Bank 충돌과 접근 패턴 등이 영향을 줍니다.

HBM은 핀 하나의 속도를 높이는 것뿐 아니라 매우 넓은 병렬 통로를 활용합니다. 그래서 용량 증가와 대역폭 증가를 같은 지표로 보지 않는 것이 좋습니다.

전력 효율과 총전력은 구분하자

짧은 연결은 구동해야 할 기생 용량과 장거리 I/O 부담을 줄이는 데 유리할 수 있습니다. 전력 효율은 bit당 전송 에너지처럼 같은 기준으로 비교해야 합니다.

전송하는 데이터가 크게 늘면 bit당 에너지가 낮아져도 메모리 전체 전력은 커질 수 있습니다. 또한 적층은 열 배출과 기계적 응력, 제조·검사·접합 수율을 어렵게 만들 수 있습니다. Micron의 HBM 통합 백서는 인터페이스와 패키지 통합을 함께 설명합니다. 이 글에서는 세대별 제품 숫자를 비교하지 않습니다.

HBM은 대역폭을 늘리는 기술이므로 한 번의 임의 접근 지연이 같은 비율로 줄어든다고 볼 수 없습니다. 연산기가 데이터를 충분히 병렬 요청할 수 있는지, 접근이 특정 자원에 몰리는지도 실제 성능을 좌우합니다.

 

Q3. 30초 답변 예시

HBM도 DRAM이며, 여러 다이를 TSV로 적층하고 연산 칩과 짧고 넓게 연결하는 것이 특징입니다. 이 넓은 I/O와 채널 병렬성으로 높은 대역폭을 확보하고 데이터 이동의 bit당 에너지 부담을 줄이는 데 유리합니다. 다만 대역폭과 접근 지연은 다르며, 적층에 따른 열·검사·패키지 비용도 함께 고려해야 합니다.

Q4. 심화 꼬리 질문

• 적층 수가 늘면 대역폭도 반드시 비례하나요? 용량은 늘어도 외부 I/O 폭·전송률과 채널 구성이 유지되면 같은 비율의 대역폭 증가는 보장되지 않습니다.
• HBM은 Refresh가 없나요? DRAM 셀을 사용하므로 Refresh가 필요합니다.
• HBM이 모든 메모리를 대체하나요? 용량·비용·실장 방식·확장성과 대역폭 요구가 달라 DDR 등과 역할이 나뉩니다.