Server.appとしてではなく、Mac OS X ServerとしてサーバOSが提供されていた頃は、サーバ管理からは色々細かく設定できる項目がありました。
今回の受信メールの容量サイズも簡単に値を変える事が出来ましたが、Server.appにはその項目がありません。
ですが、ターミナル.appを使ってコマンドserveradminを使えば、以前同様設定変更可能です。

デフォルトは10MBに設定されています。

現在のメールの設定を確認するのが下記コマンドです。

$ sudo serveradmin settings mail

Server.appだけでは見えない設定項目がたくさん出てきます。
その中の

mail:postfix:message_size_limit_enable = yes
mail:postfix:message_size_limite = 10485760

がメッセージサイズを設定している項目です。

●メッセージサイズ有効無効の設定

$ sudo serveradmin settings mail:postfix:message_size_limit_enable = yes

メッセージサイズの制限を設定しています。
無効にしたい時は「no」を、有効にしたい時は「yes」にします。

●メッセージサイズ制限の設定

$ sudo serveradmin settings mail:postfix;message_size_limite = 10485760

メッセージサイズを変えたい時のコマンドです。
メッセージサイズはバイト単位で設定する必要があります。
設定したいMBに1048576をかけた数字を入力します。

設定後は念のためメールサービスを再起動しておきましょう(変更する事で自動的にサービスが再起動しているようですが)。

$ sudo serveradmin stop mail
$ sudo serveradmin start mail

Appleのサポートサイトにも同じ情報が出ています。
OS X Server：メールサービスのメッセージサイズ制限の調整