[백엔드 개발자 채용] 대규모 트래픽 처리 경험자 우대

채용공고에 대규모 트래픽이 빠지지 않는 이유

이
이승재
2026년 11월 · 약 4분

들어가며

안녕하세요, 이승재입니다. 이직을 준비하며 채용공고를 많이 봤는데, 백엔드 공고 우대사항에는 대규모 트래픽 처리 경험이 빠지지 않았습니다.

처음엔 의례적인 문구라고 생각했지만, 가고 싶은 회사를 고민하다 보니 저도 같은 기준에 도착해 있었습니다. 오늘은 그 문구가 왜 있는지, 제가 왜 트래픽이 나오는 곳을 찾게 됐는지 정리해 보려 합니다.

개발이 어려워지는 시점

개발은 규모가 커질 때부터 어려워집니다. 하루 100건이 들어오는 API는 어떻게 짜도 돌아가지만, 초당 수만 건이 몰리면 커넥션이 모자라고, 같은 행을 고치려는 요청끼리 부딪히고, 몇 밀리초의 지연이 쌓여 장애로 번집니다.

쿼리도 마찬가지입니다. 1만 행 테이블에서는 인덱스가 없어도 눈치채기 어렵지만, 10억 행이 되면 같은 쿼리가 몇 분씩 걸리거나 끝나지 않습니다. 코드는 한 글자도 바뀌지 않았는데 풀어야 할 문제가 달라진 셈이죠.

그래서 개발 난이도를 정하는 가장 큰 변수는 스케일이라고 생각합니다.

기본 CRUD + 인덱스 + N+1 + 커넥션 풀 + 캐시 + 락 + 파티셔닝 + 장애 격리 하루 100건 초당 수만 건
같은 API라도 규모가 커질수록 고민이 하나씩 늘어납니다

용량(用量)과 용량(容量)

스케일에는 두 축이 있는데, 요청이 많은 경우와 데이터가 큰 경우입니다.

요청이 많으면 커넥션 풀을 얼마로 잡을지, 무엇을 캐시에 두고 언제 비울지, 락을 어디까지 걸지 고민하게 됩니다. 데이터가 크면 테이블을 어떻게 나눌지, 쿼리 한 번에 얼마나 읽는지, 배치가 제시간에 끝나는지를 따지게 되고요.

둘 중 하나만 있어도 충분합니다. 어느 쪽이든 프레임워크의 기본값을 믿을 수 없게 되고, 그 아래에서 무슨 일이 일어나는지 들여다봐야 하거든요. 깊은 지점까지 고민하게 되는 게 이때입니다.

탁월해질 수 없는 개발자

둘 다 없다면 어떨까요? 기본만 지켜도 돌아갑니다.

Spring은 설정을 잡아주고, JPA는 쿼리를 만들어주며, DB 옵티마이저는 제가 쓴 쿼리보다 나은 실행 계획을 찾아냅니다. 언어와 프레임워크가 잘 만들어졌다는 증거이고, 그 자체는 좋은 일입니다.

다만 개발자에게는 고민할 거리가 줄어든다는 뜻이기도 합니다. N+1이 생겨도 데이터가 적으면 티가 나지 않고, 인덱스를 빼먹어도 응답은 빠릅니다. 문제가 드러나지 않으니 파고들 이유도 생기지 않죠.

탁월함의 천장

제가 일하던 조직은 비용에 민감했고, 트래픽은 적었지만 데이터는 쌓이고 있었습니다.

그래서 저는 배치를 깎아냈습니다. 매일 6천만 행이 넘는 데이터를 적재하는 배치가 지금은 한 달에 1달러 정도의 비용만 쓰며 돌아가고 있습니다. 주어진 자원에서 무엇을 덜어내고 무엇을 미룰지 고르는 과정은 재밌었고, 엔지니어링의 즐거움이 있었습니다.

하지만 한계도 명확했습니다. 선택지가 정해져 있으니 고민이 "어떤 구조가 맞을까"까지 가지 못하고 "이 안에서 어떻게 버틸까"에서 멈추더군요.

엔지니어링의 임팩트도 작았습니다. 인프라에 수십만 달러를 쓰는 조직이라면 최적화로 줄일 수 있는 비용도 수만, 수십만 달러가 되지만, 처음부터 작은 돈으로 돌아가는 조직이라면 줄일 수 있는 금액의 천장도 그에 맞춰 내려갑니다. 1달러로 돌아가는 배치는 아무리 깎아도 아낄 수 있는 돈이 1달러를 넘지 않으니까요.

앞의 경우와 비교하면, 스케일이 없으면 고민할 이유가 없고 스케일이 있어도 선택지가 없으면 고민의 폭이 좁아집니다. 방향은 다르지만 깊이가 부족하다는 아쉬움은 같았습니다.

스케일 큼 스케일 작음 선택지 적음 선택지 많음 제한된 인프라 고민이 좁아진다 트래픽이 나오는 곳 깊이 고민하게 된다 스케일이 없는 곳 기본만 해도 된다
스케일과 선택지가 둘 다 있어야 깊이까지 내려갈 수 있습니다

서로 다른 어려움

도메인이 복잡한 서비스도 어렵다는 반론이 있을 수 있고, 저도 동의합니다. 정산이나 결제처럼 규칙이 얽힌 도메인은 모델을 나누고 경계를 정하는 게 핵심이고, 그것도 실력이 필요한 일입니다.

다만 종류가 다른 어려움이라고 생각합니다. 도메인의 어려움은 사람과 규칙을 이해하는 데서, 스케일의 어려움은 시스템의 한계를 이해하는 데서 옵니다. 이 글은 뒤쪽 이야기이고, 저는 그 깊이를 쌓고 싶습니다.

탁월함 꿈꾸기

트래픽이 중요한 이유가 하나 더 있는데, 혼자서는 만들 수 없다는 점입니다.

프레임워크 내부나 인덱스 구조는 책과 문서로 공부하고 사이드 프로젝트로 만들어볼 수 있습니다. 부하 테스트 도구로 요청을 흉내 낼 수도 있지만, 실제 사용자의 트래픽은 예상하지 못한 시간에 몰리고 예상하지 못한 데이터를 들고 옵니다. 이런 트래픽은 그 트래픽이 있는 회사에서만 만날 수 있습니다.

채용공고가 대규모 트래픽 처리 경험자를 우대하는 것도 같은 이유일 겁니다. 그래서 제게 가고 싶은 회사는 트래픽이 많은 회사와 같은 말이 되었습니다.

그리고 그 기준대로 이번에 MAU가 650만이 넘는 조직에 합류했습니다. 어떤 일을 하게 될지는 모르겠지만, 그 트래픽 앞에서 탁월함을 꿈꾸고 있습니다.

읽어주셔서 감사합니다.