머신러닝 신입 트러블슈팅 면접

이는 과적합(overfitting) 현상입니다. 모델이 학습 데이터에 지나치게 맞춰져서 새로운 데이터에 대한 일반화 성능이 떨어진 것입니다. 해결 방법으로는 첫째, 조기 종료(early stopping)를 적용해 검증 손실이 증가하기 전에 학습을 멈추는 것입니다. 둘째, L1/L2 정규화를 추가하거나 드롭아웃을 적용해 모델의 복잡도를 제한할 수 있습니다. 셋째, 더 많은 학습 데이터를 수집하거나 데이터 증강을 적용하는 방법도 있습니다. 넷째, 모델의 복잡도를 줄이기 위해 레이어 수나 파라미터 수를 감소시킬 수 있습니다.

이는 입력 데이터의 스케일이 너무 커서 발생하는 문제입니다. 0~255 범위의 픽셀값이 그대로 입력되면 가중치 업데이트 시 그래디언트가 불안정해지고, 수치적 오버플로우가 발생해 NaN이 나타날 수 있습니다. 해결 방법은 입력 데이터를 정규화(normalization)하는 것입니다. 가장 간단한 방법은 픽셀값을 255로 나누어 0~1 범위로 스케일링하는 것입니다. 더 나은 방법은 평균을 빼고 표준편차로 나누는 표준화(standardization)를 적용하는 것으로, ImageNet 데이터셋의 평균과 표준편차를 사용하는 것이 일반적입니다. 이를 통해 학습 속도가 빨라지고 안정적인 수렴이 가능합니다.

이는 클래스 불균형(class imbalance) 문제입니다. 모델이 모든 샘플을 정상으로 분류해도 99%의 정확도를 달성할 수 있어, 정확도는 적절한 평가 지표가 아닙니다. 이런 경우 정밀도(precision), 재현율(recall), F1-score를 함께 확인해야 합니다. 특히 의료 분야에서는 질병을 놓치는 것이 치명적이므로 재현율이 중요합니다. 혼동 행렬(confusion matrix)을 통해 실제 양성을 얼마나 잘 탐지했는지 확인해야 합니다. 또한 ROC 곡선과 AUC 점수를 사용하거나, 클래스 가중치를 조정하고, SMOTE 같은 오버샘플링 기법을 적용해 불균형을 해결할 수 있습니다.

이는 데이터 누수(data leakage) 문제입니다. 시계열 데이터를 무작위로 분할하면 미래 정보가 학습 데이터에 포함되어 모델이 실제로는 불가능한 예측을 학습하게 됩니다. 시계열 데이터는 시간 순서대로 분할해야 하며, 과거 데이터로 학습하고 미래 데이터로 테스트해야 합니다. 예를 들어 2020~2023년 데이터로 학습하고 2024년 데이터로 테스트하는 방식입니다. 또한 시계열 교차 검증(time series cross-validation)을 사용해 여러 시간 구간에서 모델을 평가하는 것이 좋습니다. 이를 통해 실제 운영 환경과 유사한 조건에서 모델 성능을 평가할 수 있습니다.

먼저 현재 추론 시간과 모델 크기를 측정해 병목 지점을 파악해야 합니다. 해결 방법으로는 첫째, 모델 경량화 기법을 적용할 수 있습니다. 양자화(quantization)를 통해 32비트 부동소수점을 8비트 정수로 변환하거나, 프루닝(pruning)으로 불필요한 가중치를 제거할 수 있습니다. 둘째, 지식 증류(knowledge distillation)를 사용해 큰 모델의 지식을 작은 모델로 전이할 수 있습니다. 셋째, ONNX Runtime이나 TensorRT 같은 추론 최적화 엔진을 사용할 수 있습니다. 넷째, 배치 처리를 통해 여러 요청을 한 번에 처리하거나, 모델 캐싱을 적용해 반복 요청에 대한 응답 시간을 줄일 수 있습니다. 마지막으로 더 작은 모델 아키텍처(예: DistilBERT)로 교체하는 것도 고려할 수 있습니다.