১৮৭১ সালের ২০ অক্টোবর ঢাকায় তার মাতুলালয়ে জন্মগ্রহণ করেন। তাদের আদি নিবাস শরীয়তপুরের নড়িয়া উপজেলার মগর গ্রামে। অতি অল্পবয়সেই অতুলপ্রসাদ পিতৃহারা হন। বাল্য কালে পিতৃহীন হয়ে অতুল প্রসাদ ভগবদ্ভক্ত, সুকন্ঠ গায়ক ও ভক্তিগীতিরচয়িতা মাতামহ কালীনারায়ণ গুপ্তের আশ্রয়ে প্রতিপালিত হন। পরবর্তীকালে মাতামহের এসব গুণ তার মাঝেও সঞ্চালিত হয়