遺留分請求額の対象の計算法は？？

遺留分侵害額の計算は民法の計算なので、税法の特例である「小規模宅地等の評価減」の規定は適用しません。

また、各資産の評価は、考え方として、時価であり相続税評価額ではありません。また、死亡保険金は相続財産ではありません。（みなし相続財産であり、税法上、相続財産とみなしているだけです。）

この内容ですと、精度の高い計算や相談は、お近くの税理士に相談することをお勧めします。
遺言作成を前提とし、その遺言だと遺留分侵害請求に引っかかる分配額になるのかのご質問という事になります。
税理士と行政書士を兼業しており資産税に精通した税理士であれば、公正証書遺言作成時に同時に検討できると思います。
相続税の基礎控除は、配偶者と子３名の４人ですから、５４００万円の財産があれば申告が必要になりますので、超えたときは、その税理士にもみてもらうことができるので安心かと思います。
おそらく依頼された税理士兼行政書士の先生は、貴殿のいう分割内容の遺言作成時に、付言を記載して「姉には生前に合計約３０００万円の金銭を渡しているので遺言のとおり相続取得して争いがないようにしてください」釘をさすことも考えられます。
付言には強制的絶対的な効果はなくても一定の効果を与えることを期待すると思われます。
【簡易回答１】
遺留分侵害請求の考え方は、「時価」が基になり、「本来の相続財産＋特別受益」を計算します。
貴殿が言う、
Ａ実家の家（固定資産税評価額約1800万、小規模住宅控除適用です）→私
Ｂ兄宅の土地（固定資産税評価額1000万）→兄
Ｃ預貯金（今で1500万）→母と私で半分こ
Ｄかんぽ死亡保険金（300万）→私
Ｅ姉は生前贈与で証拠を残さずズルく現金を約3000万
これらを時価換算して、「みなし相続財産」のＤ以外を合計します。
仮に時価が、Ａ２０００＋Ｂ１２００＋Ｃ１５００＋Ｅ３０００であれば、合計で７７００万円ですから、
法定相続分である配偶者１／２、子各１／６を１／２した
配偶者１／４、子各１／１２に満たない取得財産の者が、遺留分侵害請求をする可能性があるという事になります。
金額に乗ずると３８５０万円、子各１２８３万円。
分配された時価額が、兄が８３万円、配偶者が３１００万円不足していますが、遺言に納得していれば問題ないといえます（侵害請求されない）。
【簡易回答２】
相続税の基礎控除を超えた場合に申告が必要になります。
生前贈与の加算を必要とするか否かが、このケースのキーになりそうです。
仮に３年または７年の贈与加算および相続時精算課税制度を適用した贈与の加算の必要がない場合では、上記Ａ＋Ｂ＋Ｃ＋Ｄ（Ｄは非課税枠２０００万円以内なので０円想定）－負債－葬儀費用　の合計が基礎控除判定ラインとなります。
申告が必要な場合に、申告することにより、小規模宅地の特例を適用して減額計算をすることになります。
くわえて、遺留分侵害請求の増減は、各人計算の中で増減しますので、合計した課税価額は変わりませんが、各人の税負担が変動すると考えると良いでしょう。
回答は以上としますので、詳細は、お近くの専門家へご相談ください。

すみませんが、回答入力しているうちに、先に回答されている先生がおられました。回答は同意ですが、せっかく入力しましたので、掲載しておきます。