Türk Silahlı Kuvvetleri’nin 12 Mart 1971’deki müdahalesinden sonra, CHP’nin tutumu konusunda parti içinde önemli görüş ayrılıkları belirdi ve İnönü parti genel sekreteri Bülent Ecevit’le anlaşmazlığa düştü. Ecevit’e göre, müdahalenin amacı, CHP içinde egemen olan “ortanın solu” politikasına son vermek ve partinin iktidar olmasını önlemekti. İnönü ise müdahaleyi onaylamıyordu ve müdahaleden 2 gün sonra CHP grubunda çok sert bir konuşma yaptı; ancak yine de ortamın yumuşaması için yeni kabineye bakan vermeyi kabul etti. Yeni kurulacak hükümete partinin üye verip vermeyeceği konusunda beliren anlaşmazlık sonucunda Ecevit istifa etti. Ecevit’le yoğun bir mücadeleye giren İnönü, Mayıs 1972’de toplanan V. Olağanüstü Kurultay’da, politikasının partisince onaylanmaması durumunda istifa edeceğini açıkladı. Kurultayda Parti Meclisi Ecevit’in yanında yer alınca da 8 Mayıs 1972’de CHP genel başkanlığından ayrıldı.
