그누보드 5.3에서 5.5.17로 업데이트 하려고 합니다.

저 같은 경우에도 5.3에서 최신 버전으로 적용은 무난하게 되었습니다.

보통 테마에서 작업을 하셨다면 오히려 더 쉽습니다.

그냥 최신 버전을 설치를 하시고 그리고 5.3테마를 넣으시면 대부분은 올라 올라올거에요
저도 그렇게 해서 사용 했어요 

한번 해보세요

그리고 혹시 모르니 하시기 전에 백업은 하시고 진행을 하시는 것을 추천 합니다.

그리고 DB도 백업을 해서 옮기시면 됩니다.
그리고 꼭 seo_title 추가는 필수초 하셔야 하구요

어렵지 않아요
 

패치 파일만 따로 받으셔서 차근차근 올리셔야 합니다.
특히 php 7x 에서 8x 시 기존 버전에서 사용하시던 스킨이나 수정된 부분도 오류가 있을수 있습니다.

초보자가 하시기엔 오류발생시 대응이 어려우니 의뢰를 통하여 하시는걸 추천해드립니다.

흠 5.3에서 5.5이상 업데이트 한다라느건 사실상 힘들거에요. 
만약 코어가 건들어져 있지않는 상태라면 패치버전 하나씩 다운받아서 
5.3에서 5.4 까지 하나씩 버전 다운로드 받아서 해결을 먼저 해야합니다.
디비 스키마 구조 및 하다못해 기본 회원테이블 게시판 테이블 구조자체가 달라졌다라는뜻입니다
만약 
코어가 건들어져 있다면 이는 포기하셔야합니다.

하여 나같으면 새버전을 설치후 데이터 마이그레이션 시도하겠습니다.
즉, 기존 5.3을 유지하면서, 새로 5.5.17을 설치하고 DB 데이터를 옮기다던지. 이 경우 커스터마이징을 새 버전에 맞게 다시 적용해야 하지만, 깨끗하게 전환할 수 있다고 볼수가있습니다.

한마디로
단계별로  하나씩 단계별로 진행하거나  아니면 새버전 설치후 데이타 마이그레이션 이 현실적인 방법뿐이라고 생각해야할것입니다.

기왕 하시는 김에 가장 최신 버전으로 하시고
https://sir.kr/boards/g5_pds/7549

윈머지 같은 파일 비교 프로그램 이용해 보세요.
현재 사용 중 버전의 원본과 비교해 달라진 것들을 최신 그누에 반영해 나가시면 될 듯.