او در ابتدا به شیخ محمدعلی غزنوی معروف بود و پس از آن که در سال 1304 به حوزه علمیه نجف رفت، با تلاش‌های خود، لقب مدرس به او داده شد. مدرس افغانی، پس از حــدود بیست سال تحصیل و تحقیق، در سال 1318 با توصیه سید ابوالحسن اصفهانی به افغانستان برگشت

من در حالی که روحانی جوان بودم از نجـف اشرف به دستـور آیت‌الله العظـمی سید ابوالـحسن اصفهانی مرجع تقلید وقـت، به افغـانستان رفته و در ولسـوالی جاغـوری ولایت غـزنی در خـاک اجـدادی ام اقامـت گزیـدم و مدرسـه‌ای بـناء نهـادم و مشغـول تـدریس و تربـیت طـلاب شـدم