Pada saat usia 20 tahun, KH Ahmad Dahlan pulang ke kampung halamannya. Sepulang dari Makkah, KH Ahmad Dahlan diangkat menjadi Khatib Amin di lingkungan Kesultanan Yogyakarta. Pada tahun 1902-1904, KH Ahmad Dahlan menunaikan ibadah haji kedua kalinya yang dilanjutkan dengan memperdalam ilmu agama kepada beberapa guru di Mekah.
Sepulang dari Makkah, dia menikah dengan Siti Walidah, saudara sepupunya sendiri, anak Kyai Penghulu Haji Fadhil, yang kelak dikenal dengan Nyai Ahmad Dahlan, seorang pahlawan nasional dan pendiri Aisyiyah.
Dari perkawinannya dengan Siti Walidah, KH Ahmad Dahlan mendapat enam orang anak yaitu Djohanah, Siradj Dahlan, Siti Busyro, Irfan Dahlan, Siti Aisyah, Siti Zaharah.
Disamping itu, KH Ahmad Dahlan pernah juga menikahi Nyai Abdullah, janda H. Abdullah. Dia juga pernah menikahi Nyai Rum, adik Kyai Munawwir Krapyak. KH Ahmad Dahlan juga mempunyai putra dari perkawinannya dengan Ibu Nyai Aisyah (adik Ajengan Penghulu) Cianjur yang bernama Dandanah. Dia pernah juga menikah dengan Nyai Yasin, Pakualaman Yogyakarta.
Pada tahun 1912, KH Ahmad Dahlan mendirikan organisasi Muhammadiyah untuk melaksanakan cita-cita pembaruan Islam di bumi Nusantara. KH Ahmad Dahlan ingin mengadakan suatu pembaruan dalam cara berpikir dan beramal menurut tuntutan agama Islam. Perkumpulan ini berdiri bertepatan pada tanggal 18 November 1912.
Gagasan pendirian Muhammadiyah oleh KH Ahmad Dahlan ini juga mendapatkan resistensi , baik dari keluarga maupun dari masyarakat sekitarnya. Berbagai fitnahan, tuduhan, hasutan datang bertubi-tubi kepadanya.
Namun dia berteguh hati untuk melanjutkan cita-cita dan perjuangan pembaruan Islam di tanah air bisa mengatasi semua rintangan itu.
Pada tanggal 20 Desember 1912, dia mengajukan permohonan kepada pemerintah Hindia Belanda untuk mendapatkan badan hukum. Permohonan itu baru dikabulkan pada tahun 1914, dengan Surat Ketetapan Pemerintah No. 81 tanggal 22 Agustus 1914.
Namun, izin itu hanya berlaku untuk daerah Yogyakarta dan organisasi ini hanya boleh bergerak di daerah Yogyakarta. Dari Pemerintah Hindia Belanda timbul kekhawatiran akan perkembangan organisasi itu. Maka dari itu, kegiatannya dibatasi.
Walaupun Muhammadiyah dibatasi, tetapi daerah lain seperti Srandakan, Wonosari, Imogiri, dan lain-lain telah berdiri cabang Muhammadiyah. Hal ini jelas bertentangan dengan keinginan pemerintah Hindia Belanda.
KH Ahmad Dahlan menyiasatinya dengan menganjurkan agar cabang Muhammadiyah di luar Yogyakarta memakai nama lain. Misalnya Nurul Islam di Pekalongan, Al-Munir di Ujung Pandang, Ahmadiyah di Garut. Sedangkan di Solo berdiri perkumpulan Sidiq Amanah Tabligh Fathonah (SATF) yang mendapat pimpinan dari cabang Muhammadiyah.
Sebagai seorang yang demokratis dalam melaksanakan aktivitas gerakan dakwah Muhammadiyah, KH Ahmad Dahlan juga memfasilitasi para anggota Muhammadiyah untuk proses evaluasi kerja dan pemilihan pemimpin dalam Muhammadiyah.