운영체제 미드레벨 기술면접

페이지 폴트 급증은 주로 물리 메모리 부족으로 인한 스왑 발생이 원인입니다. 먼저 vmstat, sar 등으로 Major 페이지 폴트와 스왑 사용량을 확인하여 디스크 I/O로 인한 지연인지 판단합니다. 애플리케이션의 메모리 사용 패턴을 프로파일링하여 메모리 누수나 비효율적인 할당을 찾아냅니다. 단기적으로는 물리 메모리 증설이나 스왑 공간 조정, 장기적으로는 메모리 사용 최적화(캐시 크기 조정, 객체 풀 사용)와 워킹셋 크기 축소가 필요합니다. 필요시 프로세스를 여러 서버로 분산하거나 메모리 집약적 작업을 스케줄링으로 분산시킵니다.

실시간 컴포넌트에는 SCHED_FIFO나 SCHED_RR 같은 실시간 스케줄링 정책을 적용하고 RT priority를 높게 설정하여 즉각 응답성을 보장합니다. 배치 처리 컴포넌트는 기본 CFS(SCHED_OTHER) 정책을 사용하되 nice 값을 높여(우선순위 낮춤) CPU를 양보하도록 합니다. 실시간 스레드가 CPU를 독점하지 않도록 cgroup의 cpu.rt_runtime_us를 설정하여 CPU 시간을 제한합니다. CPU 코어 친화성(affinity)을 설정해 실시간 작업을 특정 코어에 고정하고 배치 작업을 다른 코어에 배치하는 것도 효과적입니다. 모니터링을 통해 스케줄링 지연(scheduling latency)과 컨텍스트 스위칭을 측정하여 지속적으로 튜닝합니다.

뮤텍스는 락 획득 실패 시 슬립 상태로 전환되어 컨텍스트 스위칭이 발생하며, 긴 임계 영역에 적합합니다. 스핀락은 바쁜 대기(busy waiting)로 CPU를 계속 사용하므로 짧은 임계 영역과 멀티코어 환경에 적합하며, 인터럽트 핸들러처럼 슬립할 수 없는 컨텍스트에서 사용됩니다. 세마포어는 카운팅 기능으로 여러 자원 접근 제어에 사용되며 뮤텍스처럼 슬립 방식으로 동작합니다. RWLock은 읽기 작업이 많은 경우 여러 읽기 스레드의 동시 접근을 허용하여 성능을 향상시키지만, 쓰기 작업 시 모든 접근을 차단합니다. 임계 영역이 수 마이크로초 이하면 스핀락, 그 이상이면 뮤텍스나 세마포어를 선택하며, 읽기 비율이 80% 이상이면 RWLock이 유리합니다.

저널링 파일 시스템은 변경 사항을 먼저 저널 영역에 기록한 후 실제 데이터 영역에 반영하여 크래시 시 일관성을 보장합니다. 메타데이터 저널링(ordered mode)은 메타데이터만 저널에 기록하고 데이터는 직접 쓰기하여 성능이 좋지만 크래시 시 데이터 손실 가능성이 있습니다. 풀 데이터 저널링(journal mode)은 메타데이터와 데이터를 모두 저널에 기록하여 안정성이 높지만 쓰기가 두 번 발생해 성능이 저하됩니다. ext4는 기본적으로 ordered mode를 사용하며, XFS는 메타데이터 저널링과 함께 지연 할당으로 성능을 최적화합니다. 데이터베이스처럼 무결성이 중요한 경우 data=journal 옵션을, 일반 서버는 data=ordered를 사용하는 것이 일반적입니다.

멀티프로세스 모델은 격리성이 뛰어나지만 프로세스당 메모리 오버헤드가 크고 컨텍스트 스위칭 비용이 높아 수천 개 이상 확장이 어렵습니다. 멀티스레드 모델은 메모리 효율이 좋지만 스레드 수가 증가하면 컨텍스트 스위칭과 동기화 오버헤드가 커지며 C10K 문제에 직면합니다. 이벤트 기반 모델(epoll/kqueue)은 단일 스레드에서 수만 개의 연결을 비동기로 처리하여 메모리와 컨텍스트 스위칭 오버헤드를 최소화하며 C10K 문제를 해결합니다. 실무에서는 하이브리드 접근으로 워커 풀 패턴(여러 스레드가 각각 epoll 사용)을 사용하여 멀티코어를 활용하면서도 높은 동시성을 지원합니다. Nginx는 이벤트 기반 워커 프로세스, Apache MPM은 멀티프로세스/스레드 하이브리드를 사용하는 대표적 예입니다.