Skip to main content
duksoo.dev
Toggle Dark/Light/Auto mode Toggle Dark/Light/Auto mode Toggle Dark/Light/Auto mode Back to homepage

RDMA와 RoCE v2 완전정리: 커널을 건너뛰는 네트워크는 어떻게 동작하는가

GPU 클러스터를 다루기 시작하면 반드시 마주치는 단어가 RDMA다. NCCL(NVIDIA Collective Communications Library) 로그에 IB가 찍히고, 스토리지 벤더는 NVMe-oF를 말하고, 네트워크 팀은 PFC 얘기를 꺼낸다. 이 글은 그 조각들이 어떻게 하나의 그림으로 이어지는지를, 용어 하나 빼놓지 않고 정리한 기록이다.

순서는 이렇게 잡았다. 먼저 RDMA가 무엇인지 보고, 어떤 객체들로 동작하는지 뜯어본 다음, RoCE가 그중 어떤 구현인지 위치를 잡는다. 이어서 왜 설정이 까다로운지를 짚고, 마지막으로 서버와 스위치에서 실제로 뭘 만지는지로 넘어간다.

약어가 많이 나오는 분야다. 모르는 약어가 보이면 맨 끝의 약어 사전을 보면 된다. 본문에 나온 것은 전부 거기 정리해두었다.

Read full post gdoc_arrow_right_alt

AI에게 운영을 맡기는 법: 신뢰가 아니라 구조로 안전을 만든다

운영에서 가장 비싼 것은 다운타임이 아니라 잘못된 자동화다. 사람이 실수하면 한 번이지만, 자동화가 실수하면 실수를 자동화한다.

Google SRE가 최근 공개한 AI Engineering for Reliable Operations를 읽으면서 계속 밑줄을 친 대목이 이거였다. AI가 코드 생성을 몇 배씩 빠르게 만드는 지금, “AI에게 운영을 맡길 것이냐"는 이미 정해진 질문이다. 진짜 질문은 어떻게 맡겨야 사고가 안 나느냐다.

이 글에서는 그 문서의 핵심 프레임워크: 자율성 단계 모델, 안전 가드레일, 평가 파이프라인, 실제 배포 시스템을 정리한다. 그리고 이게 왜 우리 같은 인프라 팀의 운영 규칙과 그대로 겹치는지까지 짚는다.

Read full post gdoc_arrow_right_alt