Linux 시니어 성능 최적화 면접

먼저 iostat -x 1로 디바이스별 I/O 패턴을 확인하고, iotop으로 I/O를 유발하는 프로세스를 특정합니다. 그 후 해당 프로세스에 대해 strace -e trace=file,desc를 사용해 시스템 콜 레벨에서 어떤 파일에 접근하는지 파악합니다. blktrace와 blkparse로 블록 레이어의 I/O 패턴을 분석해 랜덤 I/O인지 순차 I/O인지 확인합니다. 진단 결과에 따라 파일시스템 마운트 옵션 튜닝(noatime, barrier 설정), I/O 스케줄러 변경(deadline, noop), 애플리케이션 레벨의 배치 처리나 비동기 I/O 적용, 또는 SSD 도입 등의 최적화 전략을 수립합니다. 최종적으로 fio 벤치마크로 개선 효과를 정량적으로 측정합니다.

먼저 /proc/meminfo와 vmstat으로 페이지 캐시, 버퍼, slab 메모리 분포를 확인하고, smem이나 pmap으로 프로세스별 실제 물리 메모리(RSS, PSS) 사용량을 측정합니다. OOM Killer 로그(/var/log/messages)를 분석해 어떤 프로세스가 메모리를 과다 사용했는지 확인합니다. cgroup을 사용 중이라면 memory.limit_in_bytes와 실제 사용량을 비교해 컨테이너 레벨 제한을 점검합니다. vm.swappiness 값을 조정해 페이지 캐시와 스왑 간 균형을 맞추고, transparent hugepage 설정을 검토합니다. 애플리케이션이 대용량 파일을 다룬다면 madvise나 fadvise를 활용해 페이지 캐시 힌트를 제공하거나, 직접 I/O(O_DIRECT)를 고려합니다. 근본적으로는 메모리 프로파일링(valgrind massif, heaptrack)으로 메모리 누수나 과도한 할당을 찾아 애플리케이션을 개선합니다.

먼저 /proc/interrupts로 네트워크 인터럽트가 특정 CPU에 집중되는지 확인합니다. ethtool -l eth0으로 NIC의 수신 큐 개수를 확인하고, 필요시 ethtool -L로 큐를 늘려 여러 CPU에 분산시킵니다. irqbalance 데몬이 동작 중인지 확인하거나, 수동으로 /proc/irq/IRQ번호/smp_affinity를 설정해 인터럽트를 코어별로 분산합니다. RPS(Receive Packet Steering)와 RFS(Receive Flow Steering)를 활성화해 소프트웨어 레벨에서 패킷 처리를 분산시킵니다. ethtool -g로 링 버퍼 크기를 확인하고 필요시 증가시키며, net.core.netdev_max_backlog과 net.ipv4.tcp_max_syn_backlog 등 커널 네트워크 파라미터를 튜닝합니다. 애플리케이션 레벨에서는 SO_REUSEPORT 소켓 옵션으로 여러 워커 프로세스가 동일 포트를 리스닝하게 해 로드를 분산시킵니다.

작은 파일이 많은 환경에서는 메타데이터 성능이 핵심입니다. ext4는 dir_index 옵션으로 HTree 인덱싱을 활성화해 디렉토리 검색 성능을 개선할 수 있지만, 수백만 파일에는 한계가 있습니다. XFS는 B+tree 기반 디렉토리 구조로 대량 파일 처리에 유리하며, inode64 옵션으로 inode 공간을 최적화할 수 있습니다. 파일시스템 마운트 시 noatime이나 relatime 옵션으로 불필요한 메타데이터 업데이트를 줄입니다. 파일 배치 전략으로 해시 기반 디렉토리 샤딩을 적용해 단일 디렉토리에 파일이 집중되지 않도록 하고, SSD를 사용한다면 파일시스템의 TRIM 지원을 활성화합니다. 근본적으로는 오브젝트 스토리지나 key-value 스토어로의 전환을 검토하는 것도 방법입니다.

먼저 wrk, ab, JMeter 등으로 현재 시스템의 한계점을 파악하는 기준선 테스트를 수행합니다. 부하를 단계적으로 증가시키며 CPU, 메모리, 디스크 I/O, 네트워크 대역폭, 파일 디스크립터 등 각 리소스의 포화 지점을 찾습니다. sar, perf, ebpf 기반 도구로 실시간 시스템 메트릭을 수집하고, 응답 시간 백분위수(p95, p99)를 추적합니다. 병목이 CPU라면 수평 확장으로 서버를 추가하고 로드밸런서를 구성하며, 메모리나 I/O라면 캐싱 레이어(Redis, Memcached) 추가를 고려합니다. 커널 파라미터(net.core.somaxconn, fs.file-max, net.ipv4.ip_local_port_range)를 대용량 트래픽에 맞게 튜닝하고, ulimit 설정을 조정합니다. 프로덕션 환경과 동일한 구성의 스테이징에서 실제 트래픽 패턴을 재현하는 카오스 엔지니어링을 수행해 예상치 못한 장애 지점을 발견합니다. 이벤트 당일에는 Grafana와 Prometheus로 실시간 대시보드를 구성하고, 임계치 기반 알람을 설정합니다.