بعد اللقاءات الممهدة التي كانت تتم بين ابن باديس والبشير الإبراهيمي, تارة في سطيف, وأخرى في قسنطينة, التي كانت تنصب على دراسة الوضع في الجزائر والبحث عن السبل الكفيلة بمعالجة هذا الوضع, فكر الشيخ عبد الحميد في أن يخطو خطوة عملية تكون تمهيدا مباشر للشروع في التحضر لتأسيس هذه الجمعية.

فتوالت الجهود الممهدة لإنشاء هذه الهيئة، ويذكر الشيخ خير الدين في مذكراته أنه في عام 1928 م دعا الشيخ عبد الحميد بن باديس الطلاب العائدين من جامع الزيتونة والمشرق العربي لندوة يدرسون فيها أوضاع الجزائر، وما يمكن عمله لإصلاح هذه الأوضاع، وكان ممن لبى الدعوة من يمكن تسميتهم بـ (رواد الإصلاح) أمثال : البشير الإبراهيمي، ومبارك الميلي، والعربي بن بلقاسم التبسي، ومحمد السعيد الواهري، ومحمد خير الدين، واجتمعوا برئاسة الشيخ عبد الحميد بمكتبه. وقد سطر في هذا الاجتماع برنامج يهدف إلى النهوض بالجمعية المزمع إنشاؤها، فكأن ابن باديس أراد أن يسبق الأحداث، فحدد محاور النشاط الإصلاحي، الذي تضطلع به الجمعية التي دعا إلى إنشائها.

وقد سطر في هذا الاجتماع برنامج يهدف إلى النهوض بالجمعية المزمع إنشاؤها, فكأن ابن باديس أراد أن يسبق الأحداث, فحدد محاور النشاط الإصلاحي, الذي تضطلع به الجمعية التي دعا إلى إنشائها, وفعلا كان ذلك هو البرنامج الذي اتبعته الجمعية بعد ميلادها.

وفي خلال الفترة بين عام 1926 م إلى عام 1930 م برز «نادي الترقي» وأصبح ذا ثقل ثقافي وتأثير جدي فكان ملتقى النخبة المفكرة سواء من كان منهم مقيماً بالعاصمة أو من كان وافداً عليها من الخارج. وكانت تلقى فيه المحاضرات والمسامرات، وتقام فيه الحفلات، وداوم عبد الحميد كلما جاء إلى الجزائر يحاضر فيه أو يسامر أو يجتمع فيه بالشباب الناهض المتوثب من طلبة العلم والمفكرين، فكان النادي بذرة صالحة للنهضة الجزائرية. ولقد تكونت لجنة تحضيرية فيه لتنبثق عنها الجمعية، وكان كاتب اللجنة الشيخ أحمد توفيق المدني ورئيسها السيد عمر إسماعيل.