FileMakerのネットワーク共有機能を利用した通信は暗号化されるのでしょうか？

はい、FMプラン16以降のプランではFileMaker Pro（もしくはFileMaker Go）とFileMaker Server間の通信は暗号化されます。オプションのSSLサービスをお申し込みいただく必要はございません。

FMプラン15以前では、オプションのSSLサービスをご利用いただいていない場合にはFileMaker Pro（もしくはFileMaker Go）とFileMaker Server間の通信は暗号化されません。オプションのSSLサービスをご利用いただき、FileMaker Server用のSSLサーバー証明書をご取得いただく必要があります。