公庫からの借入金について

以下のようになると思います。
1.公庫から借入時
(現金預金)1900万円　(長期借入金)1900万円
2.返済時
(長期借入金)xxxx (現金預金)XXXX
(支払利息)　xxxx

公庫からの借入は振込手数料が引かれますので、後日送付されてくる支払明細表をご確認いただく必要があります。
仕訳は以下のようになります。
（借入時）預金〇〇円・支払手数料〇〇円／長期借入金1900万円
（返済時）長期借入金〇〇円・支払利息〇〇円／預金〇〇円

借入時、返済時とも2つの取引として記載していいんですか。
例　普通預金/長期借入金　1890万円
　　支払手数料/長期借入金　10万円

　　長期借入金/普通預金
　　支払利子/普通預金
元金は費用にならないと聞きましたが、どう考えればいいのでしょうか。　

仕訳はご記載の通りです。
借入時の長期借入金を1900万円一本で仕訳されるのであれば
普通預金　〇〇円／長期借入金1900万円
支払手数料〇〇円
とされても結構です。

元金は費用になりません。
借入時は、普通預金／長期借入金と仕訳したものを、返済時は長期借入金／普通預金と逆の仕訳になりますので、資産と負債の増減のみになります。