UNIX系OSでメール送信時にDNSエラーが起きた場合は私は以下の様に調べています。

1.名前解決しようとしているホストが何なのかを把握(推測)する。
この場合、メールサーバのAレコードなのか、送信先ドメインのMXレコードなのか、localhostなのか
2.問題となるホストが分かったら、nslookup,dig等のコマンドで名前解決クエリがきちんと通るまで設定を確認する。
localhostの場合はhosts等でループバックアドレスを確認する。

今回はメール送信時、もしくはメールサーバにアクセスする時点のエラーだと思うので、ログはOTRS固有のログファイルか、/var/log/配下にあるメール系のログを探すことになると思います。

この辺のログを探すのもいいですが、探した挙句にエラーメッセージと同じ内容が書かれていたりする場合もあるので、私はDNSエラーが出たときには最初にいくつかのホストにPINGやnslookupを打ってみることにしています。

ご参考になれば。