Pada saat usia 20 tahun, KH Ahmad Dahlan pulang ke kampung halamannya. Sepulang dari Makkah, KH Ahmad Dahlan diangkat menjadi Khatib Amin di lingkungan Kesultanan Yogyakarta. Pada tahun 1902-1904, KH Ahmad Dahlan menunaikan ibadah haji kedua kalinya yang dilanjutkan dengan memperdalam ilmu agama kepada beberapa guru di Mekah.
Sepulang dari Makkah, dia menikah dengan Siti Walidah, saudara sepupunya sendiri, anak Kyai Penghulu Haji Fadhil, yang kelak dikenal dengan Nyai Ahmad Dahlan, seorang pahlawan nasional dan pendiri Aisyiyah.
Dari perkawinannya dengan Siti Walidah, KH Ahmad Dahlan mendapat enam orang anak yaitu Djohanah, Siradj Dahlan, Siti Busyro, Irfan Dahlan, Siti Aisyah, Siti Zaharah.
Disamping itu, KH Ahmad Dahlan pernah juga menikahi Nyai Abdullah, janda H. Abdullah. Dia juga pernah menikahi Nyai Rum, adik Kyai Munawwir Krapyak. KH Ahmad Dahlan juga mempunyai putra dari perkawinannya dengan Ibu Nyai Aisyah (adik Ajengan Penghulu) Cianjur yang bernama Dandanah. Dia pernah juga menikah dengan Nyai Yasin, Pakualaman Yogyakarta.
Pada tahun 1912, KH Ahmad Dahlan mendirikan organisasi Muhammadiyah untuk melaksanakan cita-cita pembaruan Islam di bumi Nusantara. KH Ahmad Dahlan ingin mengadakan suatu pembaruan dalam cara berpikir dan beramal menurut tuntutan agama Islam. Perkumpulan ini berdiri bertepatan pada tanggal 18 November 1912.
Gagasan pendirian Muhammadiyah oleh KH Ahmad Dahlan ini juga mendapatkan resistensi, baik dari keluarga maupun dari masyarakat sekitarnya. Berbagai fitnahan, tuduhan, hasutan datang bertubi-tubi kepadanya.
Namun dia berteguh hati untuk melanjutkan cita-cita dan perjuangan pembaruan Islam di Tanah Air bisa mengatasi semua rintangan itu.