KSAD Jenderal TNI Nasution mencalonkan Mayjen TNI Gatot Soebroto sebagai penggantinya, namun ditolak Presiden Sukarno. Nasution kemudian mengusulkan deputi operasinya, Mayjen TNI Ahmad Yani. Nasution menganggap Yani memiliki beberapa kelebihan.
“Dia telah memperoleh reputasi yang baik ketika memimpin pasukan dan dengan mudah menupas pemberontakan PRRI tahun 1958, dan sebagai seorang antikomunis yang keras, mendapat kepercayaan Nasution dan korps perwira umumnya,” tulis Harold Crouch dalam Militer dan Politik di Indonesia.
Kepemimpinan Yani dianggap dapat melanjutkan peran AD dalam membendung pengaruh PKI yang semakin besar memasuki dekade 1960-an. Dengan pembawaan diri yang luwes, Yani diyakini dapat mengambil hati Sukarno dan berangsur-angsur mempengaruhinya untuk mengerem laju komunis yang kian cepat. Sukarno sendiri mengenal Yani dengan baik. Selain berprestasi, Yani bekerjasama dengan Sukarno selama di KOTI (Komando Operasi Tertinggi).
Menurut Crouch meskipun Yani menentang keras kebijakan Sukarno terhadap PKI, tetapi gayanya berbeda dengan Nasution. Sebagai seorang Jawa, dia cenderung memperlakukan Sukarno sebagai “bapak” yang bisa saja bertindak salah tetapi tidak boleh ditentang secara terbuka. Sehingga, dia lebih mudah menjadi bagian dari lingkungan Sukarno.
Sukarno menerima usul Nasution. Yani resmi menjabat KSAD pada 23 Juni 1962. Sesuai harapan Nasution dan banyak perwira, Yani tetap dapat menjaga independensi politik AD sekaligus mengambil hati presiden. Bahkan, Yani menjadi kesayangan Sukarno. Namun, kedekatan Yani dan Sukarno membuat hubungannya dengan Nasution menjauh. Mereka semakin banyak pertentangan kecuali melawan PKI. Penggantian beberapa panglima kodam mengecewakan Kubu Nasution. Selain itu, Nasution dan para perwira menengah yang hidup sederhana prihatin dengan gaya hidup glamor Yani dan beberapa jenderal di sekelilingnya.
Yani lebih cenderung masuk ke dalam Istana ketimbang AD. Menurut Wakil Perdana Menteri I Soebandrio dalam Kesaksianku Tentang G-30-S, hal itu memang yang diinginkan Sukarno dari pengangkatan Yani. “Tugasnya, secara formal, jelas memimpin pasukan TNI AD, namun di balik itu Yani mendapat misi khusus dari presiden agar membatasi desakan kubu Nasution terhadap pemerintah,” kata Soebandrio.
Namun, konflik Yani dan Nasution baru terjadi ketika Dwikora yang oleh Nasution dinilai sebagai momen penting untuk menunjukkan peran politik dan kesetiaan AD terhadap negara. Meski sudah tak punya wewenang komando, Nasution nekat mengorganisasi kegiatan anti-Malaysia di Kalimantan untuk menarik simpati rakyat kepada AD sekaligus mengungguli PKI dan BPI (Badan Pusat Intelijen) di bawah Soebandrio. Nasution bahkan memerintahkan Panglima Kalimantan Kolonel Hassan Basri mengirim pasukan ke Kalimantan Utara untuk operasi-operasi intelijen. Perbuatan Nasution jelas menyalahi aturan.
“Yani sangat marah dengan tindakan Nasution yang melangkahi jalur komando itu, dan dia mulai menyabot kebijaksanaan Indonesia terhadap Malaysia,” tulis Ulf Sundhaussen dalam Politik Militer Indonesia 1945-1967: Menuju Dwi Fungsi ABRI. Namun, sepulang dari Filipina, hubungan Yani dengan Nasution kembali pulih.
Konflik Yani dengan Nasution semakin keras ketika lembaga pemberantasan korupsi yang dipimpin Nasution, Panitia Retooling Aparatur Negara (Paran) semakin dalam masuk ke dalam SUAD (Staf Umum AD). Namun, Yani tak frontal melawan karena presiden turun tangan bahkan membubarkan Paran dan menggantinya dengan Kotrar (Komando Tertinggi Retooling Aparat Revolusi).
Toh, AD tetap solid tapi hanya untuk melawan PKI. Dalam hal lain, AD tidak pernah benar-benar solid. Pada awal 1965, kentara ada dua kubu yang saling bersaing dalam AD: faksi Yani dan Na-To (Nasution-Soeharto). Keduanya berbeda sikap dalam menghadapi Sukarno, yang kala itu dekat dengan PKI. Na-To tak suka Yani dan jajarannya yang terlalu mengikuti tabuhan genderang presiden, sementara Yani tak suka kekakuan Nasution dalam berpolitik.
Perbedaan itulah, menurut Salim Said dalam Gestapu 65: PKI, Aidit, Soekarno, dan Soeharto, yang membawa konflik keduanya ke puncak. Pada akhir 1964, Yani menarik pasukan dari Mabad (Markas Besar AD) yang menjaga rumah Nasution. Mengetahui panglima pertama Siliwangi diperlakukan seperti itu, Pangdam Ibrahim Adjie –yang sama-sama antikorupsi dan pernah bekerjasama dengan Nasution dalam Operasi Budhi– langsung mengirimkan satu pleton pasukannya untuk mengawal rumah Nasution.
Yani juga memarahi Letkol Muchlas Rowi, salah seorang komandan batalyon di Kodam Brawijaya karena kedapatan menjalankan perintah Nasution tanpa sepengetahuannya selaku panglima AD. “Padahal, waktu itu Jenderal Rowi sudah dimutasikan dari Mabes Angkatan Darat ke Kantor Menko Hankam/KSAB Nasution,” tulis Salim Said.
Pada awal 1965, ketegangan semakin meningkat. Yani mengambil keputusan keras. “Pada suatu hari Letnan Jenderal TNI Ahmad Yani memerintahkan Mayor Jenderal TNI Suprapto, salah seorang deputinya –kemudian lebih dikenal sebagai salah seorang Pahlawan Revolusi– menangkap Jenderal Nasution,” tulis Salim Said. Perintah itu dimaksudkan Yani untuk menunjukkan loyalitasnya kepada Sukarno.
Meski tak menyebar ke khalayak, kabar perintah itu sampai ke kubu Nasution. Brigjen TNI Abdul Kadir Besar, salah seorang perwira di kubu Nasution, mengatakan bahwa kubunya telah menyiapkan senjata untuk menghadapi konflik fisik bila Nasution ditangkap. Pasukan Siliwangi yang dikirm Adjie untuk menjaga rumah Nasution pun siap siaga.
Namun, kabar perintah penangkapan Nasution itu sampai ke telinga jenderal-jenderal senior. Basuki Rahmat, R. Soedirman, Sarbini, dan Soeharto, menentang rencana Yani itu. Yani langsung membatalkan perintahnya beberapa hari kemudian. “Bentrok antara pendukung masing-masing kubu yang nyaris terjadi, berhasil terhindarkan,” tulis Said.