Al-Sharaa bergabung dengan al-Qaeda di Irak tahun 2003 dan ikut bertempur selama tiga tahun dalam pemberontakan Irak. Dilansir dari The Times, mereka menjelaskan bahwa keputusan ini justru berdampak sebaliknya, karena al-Julani menjadi terkenal di cabang al-Qaeda Irak, yang dikenal dengan metode ekstremisnya.
Dalam salah satu konfrontasi, Amerika menangkapnya dan menahannya di Kamp Bucca, penjara Irak yang menahan sejumlah besar jihadis yang kemudian menjadi tokoh terkemuka. Di antara mereka adalah Abu Bakr al-Baghdadi, yang kemudian menjadi pemimpin ISIS.
The Times menyebutkan bahwa al-Baghdadi adalah orang yang mengirim Julani ke Suriah pada tahun 2011 untuk mendirikan Front Nusra sebagai faksi baru melawan Assad, namun mereka berbeda pendapat dalam beberapa hal, termasuk metode ekstrem yang disukai al-Baghdadi, seperti pembunuhan massal dan pemenggalan kepala.
Pada musim semi tahun 2013, pemisahan tersebut cukup jelas, dan pada tahun-tahun berikutnya, al-Julani juga mengisolasi dirinya dari al-Qaeda dan menggabungkan kekuatannya dengan kelompok-kelompok Islam lain yang kurang ekstremis. Saat itu, al-Julani mengatakan bahwa dia hanya fokus pada pembebasan Suriah dengan nuansa Islam.
Ahmed al-Sharaa ditugaskan pada bulan Agustus 2011 oleh Ayman al-Zawahiri dan komando pusat al-Qaeda untuk mendirikan misi al-Qaeda di Suriah. Al-Sharaa menyeberang ke Suriah dengan pendanaan yang signifikan dan mandat untuk membangun kehadiran al-Qaeda. Bersama dengan para operator senior dari komando pusat al-Qaeda, ia membentuk "Jabhat al-Nusra", juga dikenal sebagai Front Al-Nusra, sebuah koalisi kelompok militan Islam yang dipimpinnya, yang setia kepada al-Qaeda.
Meskipun ada ketegangan dengan Negara Islam Irak (ISI), al-Sharaa berhasil membentuk aliansi dengan ISI di Suriah. Namun, seiring waktu, al-Sharaa mulai menjauhkan diri dari ideologi jihad transnasional dan lebih fokus pada perjuangan nasionalis Suriah. Jabhat al-Nusra, di bawah kepemimpinan al-Sharaa, menjadi salah satu kelompok paling kuat di Suriah, dengan basisnya di Kegubernuran Idlib.
Pada 2016, al-Sharaa memutuskan untuk memisahkan al-Nusra dari al-Qaeda dan mendirikan Jabhat Fateh al-Sham (JFS). Meskipun mendapat tentangan dari al-Qaeda, ia berhasil memimpin JFS dalam upaya untuk lebih mandiri dan terlibat dalam penggabungan dengan beberapa kelompok pemberontak lainnya, meskipun negosiasi dengan Ahrar al-Sham gagal.
Pada 2017, al-Sharaa mengumumkan pembentukan Hay'at Tahrir al-Sham (HTS), yang mencakup beberapa kelompok bersenjata di Suriah, dengan tujuan untuk memperkuat posisinya dan mengalahkan ISIS serta al-Qaeda di wilayah tersebut. Meskipun demikian, Amerika Serikat tetap menganggap HTS sebagai kelanjutan dari al-Nusra.