3) 게시판에 글쓴 사람에게 메일 보내기도 해결되었습니다.
다른 문제가 아니라 gblayer.php에서 formmail.php를 호출할 때 &name="+name으로
받는 사람의 이름을 인자를 넘겨주는데
여기서 name이 한글일 경우 넘어가지 않네요.
아무래도 리눅스를 기준으로 만든 프로그램이라 윈도우에서 잘 안 되는 듯 하네요.

폼메일을 보내는 기능이 그누보드에 총 3가지가 있군요.
(1) 관리자로 로그인후 회원메일 보내기, (2)비밀번호를 잊었을 때 임시비밀번호를 메일로 보내기, (3)게시판에 글 쓴 사람에게 메일 보내기 등이 그것인데요.
앞에 2가지는 해결이 되었습니다.
문제는 다른 게 아니라 mailer.lib.php 파일에서 chunk_split 함수가 윈도우 2003에서 먹지 않더군요.
그래서 할 수 없이 $content 부분을
      $content = base64_encode($content);
와 같이 변경하고
//    $header .= chunk_split(base64_encode($content)) . "\r\n";
chunk_split 합수를 사용하는 위의 문장은 주석처리하고,
mail 함수를 호출하는 이 부분을
    @mail($to, $subject, "", $header);
이렇게 바꿨더니
    @mail($to, $subject, $content, $header);
일단 폼메일이 작동합니다.
다른 분들도 도움이 좀 되었으면 좋겠습니다.

문제는 (3)게시판에 글쓴 사람에게 메일 보내기가 안 되고 있는데 이것은 mailer 함수 부분의 오류가 아닌 듯 하네요.
php를 접한지 1주일 밖에 되지 않아 문제를 찾아내기가 만만치 않네요.

php.ini의 [Mail function] 부분은 아래와 같습니다.
또 NMail에는 도메인 등록이 이미 되어 있고
서버는 실제로 IDC 센터에서 서비스를 하고 잇는 리얼 서버입니다.

[mail function]
; For Win32 only.
SMTP = 66.xxx.xxx.141  (보안 관계상 xxx로 표시)
smtp_port = 25

; For Win32 only.
sendmail_from = admin@localhost

; For Unix only.  You may supply arguments as well (default: "sendmail -t -i").
; sendmail_path =

; Force the addition of the specified parameters to be passed as extra parameters
; to the sendmail binary. These parameters will always replace the value of
; the 5th parameter to mail(), even in safe mode.
; mail.force_extra_paramaters =