Sejak itu, Ali Yafie mengajar di berbagai lembaga pendidikan tinggi Islam di Jakarta, dan semakin aktif di Majelis Ulama Indonesia (MUI). Pada Muktamar NU di Semarang 1979 dan Situbondo 1984, ia terpilih kembali sehagai Rais, dan di Muktamar Krapyak 1989 sebagai wakil Rais Aam.
Karena Kiai Achmad Siddiq meninggal dunia pada 1991, maka sebagai Wakil Rais Aam ia kemudian bertindak menjalankan tugas, tanggung jawab, hak dan wewenang sebagai pejabat sementara Rais Aam.
(Angkasa Yudhistira)