PHP のバージョンは何を使っていますか。漢字コードを扱うライブラリに問題がある版 (4.2.3など) を使っているとそういう問題が起こるかもしれません。

ちなみに、メールは、XOOPS のコードをそのまま使っているだけなので、XOOPS 本体の通知メールも文字化けしていると思います。
--
安冨 伸浩 (マイサイト管理人)