入社後必要書類を提出をせずに退社した従業員への給与の支払い

税務調査に際し、調査官が納得する書類を残してください。
形式は、領収書でもメモでも構いませんが、住所・氏名・生年月日など本人を特定できる項目と金額や日付を明記し、署名又は捺印などが必要かと思います。
収入印紙は不要です。

給与に関しては印紙は不要です。独自の受領確認書があれば大丈夫かと存じます。よろしくお願いいたします。

採用時(面接時)に履歴書等は受け取られてなかったのでしょうか。
扶養控除等申告書も提出されないとなると、乙欄での源泉徴収になります。
給与支払い時には受取書の会社で用意して、現金と引き換えに住所と氏名を記載して頂くのが宜しいと思います。
受取書(領収書)の印紙は不要です。

採用時に履歴書は受け取りましたので、雇用保険の手続きは履歴書のコピーで行うつもりでいます。面接時の話と履歴書で扶養人数は分かっていますが、扶養控除等申告書の提出がなければ乙欄での徴収でよろしいのでしょうか。

はい、乙欄で徴収してください。
扶養控除等申告書は、調査の際に確認されます。
ない場合は、差額をご相談者様の会社が負担せざる得ません。
後で、元従業員の方から徴収すべきものですが、
実際には、支払っていただけずに、会社負担になってしまうケースが多いので、お気を付けください。

ご連絡ありがとうございます。
履歴書で扶養人数が分かっていたとしても、給与の支給日前に「扶養控除等申告書」の提出がない場合には甲欄での計算はできませんので、乙欄での源泉徴収で問題ありません。
宜しくお願いします。