সৈয়দ আবুল আলা মওদুদী সূচিত এই সংগঠনটির মূল নাম ছিল জামায়াতে ইসলামী হিন্দ। ১৯৪১ সালের ২৬ আগস্ট এর প্রতিষ্ঠা।
১৯৬২ সালে আইয়ুব খান প্রণিত মুসলিম পরিবার আইন অধ্যাদেশের বিরোধিতা করার কারণে ১৯৬৪ সালের ৪ জানুয়ারি জামায়াতে ইসলামীর কর্মকান্ডের উপর নিষেধাজ্ঞা আরোপ করা হয়। মওদুদী সহ ৬০ জন জামায়াত নেতাকে গ্রেফতার করা হয়। এর মধ্যে পূর্ব পাকিস্তানের ১৩ জন জামায়াত নেতা ছিলেন। গু. আযম তাদের একজন। পরবর্তিতে আবার নিষেধাজ্ঞা তুলে নেয়া হয়।
পরবর্তীতে জামায়াতে ইসলামী আওয়ামী লীগ প্রদত্ত ছয় দফা এবং মাওলানা আবদুল হামিদ খান ভাসানী ঘোষিত ১১ দফার তারা তীব্র বিরোধিতা করে। ১৯৭০ সালের নির্বাচনে জামায়াতে ইসলামী পশ্চিম পাকিস্তানে ৪ টি আসন লাভ করে।
১৯৭১ সালে জামায়াতে ইসলামী বাংলাদেশের মুক্তিযুদ্ধের তীব্র বিরোধিতা করেন। ২৫ মার্চ রাতে সংঘটিত অপারেশন সার্চলাইট এর ছয় দিন পর গু. আযম ঢাকা বেতার কেন্দ্র থেকে একটি ভাষণ দেন।
জামায়াতে ইসলামী পাকিস্তান সেনাবাহিনীকে সাহায্য করতে রাজাকার, আলবদর, আলশামস্ প্রভৃতি বাহিনী গড়ে তোলেন। এরা পুরো মুক্তিযুদ্ধের সময় পাকিস্তানী বাহিনীর পক্ষে কাজ করে। ৩০ জুন লাহোরে সাংবাদিকদের কাছে গু. আযম বলেন, "তাঁর দল পূর্ব পাকিস্তানে দুস্কৃতকারীদের (মুক্তিযোদ্ধা) তৎপরতা দমন করার জন্য যথাসাধ্য চেষ্টা করছে ।
১৯৭১ সালের ১০ এপ্রিল পাকিস্তানের অখন্ডতা রক্ষার উদ্দেশ্য ঢাকায় শান্তি কমিটি গঠন করা হয়। এর সদস্য ছিলেন পাকিস্তানপন্থী রাজনৈতিক ব্যাক্তিত্বরা। গু.আযম ও এই কমিটির সদস্য ছিলেন।
১৯৭১ সালের পর ধর্মভিত্তিক রাজনীতি নিষিদ্ধ করা হলে জামায়াত ও এর আওতায় পড়ে। ১৯৭৬ সালের আগস্টে জিয়াউর রহমান সরকার সকল ধরণের রাজনৈতিক দলের রাজনীতি উন্মুক্ত করে রাজনৈতিক দল অধ্যাদেশ ঘোষণা করেন। এ সময় ইসলামিক ডেমোক্র‌্যাটিক পার্টি নামক একটি দলের সাথে জামায়াতে ইসলামী যুক্ত ছিল। পরে গোলাম আযম বাংলাদেশে ফিরে এলে ১৯৭৯ সালের মে মাসে জামায়াতে ইসলামী বাংলাদেশ গঠিত হয়।