Sambil bekerja, dia bersekolah sore hari di Burgerlijke Avond School (sekolah teknik) dengan mengambil jurusan teknik mesin. Sesudah lulus, dia bekerja sebagai ahli kimia pada sebuah pabrik gula di daerah Surabaya.
Pada tahun 1912, titik balik dalam perjuangan politiknya dimulai. Ia sudah tak pernah bekerja lagi sebagai pegawai. Pada tahun itu dirinya bertemu Haji Samanhudi, pendiri Sarekat Dagang Islam (SDI) di Surabaya. Tjokroaminoto mengusulkan agar nama SDI diubah menjadi Sarekat Islam, tanpa meninggalkan misi dagang. Tujuannya adalah agar cakupannya lebih luas dan berkembang.
Haji Samanhudi memberikan kata sepakat atas usulan itu. Ia kemudian meminta Tjokroaminoto menyusun Anggaran Dasar SI. Tjokroaminoto bergerak cepat. Tugas yang diberikan Haji Samanhudi pun diselesaikannya.
Dalam anggaran dasar itu disebutkan bahwa tujuan SI ialah memajukan perdagangan, menolong anggotanya yang mengalami kesulitan, memajukan kepentingan rohani dan jasmani kaum bumiputera, dan memajukan kehidupan agama Islam.
Baca juga: Melongok Pemandian Air Panas Peninggalan Raja Kraton Solo yang Kini Merana
SI berkembang dengan pesat dan dalam waktu singkat jumlah anggotanya bertambah. Pada 1913, SI mengajukan permohonan kepada Pemerintah Hindia-Belanda supaya diakui sebagai badan hukum untuk seluruh Indonesia. Permohonan itu pun ditolak.
Pada 1915, istilah Central Comitte diganti dengan Central SI. Bersamaan dengan itu, Tjokroaminoto diangkat sebagai Ketua Central SI, sedangkan Samanhudi sebagai Ketua Kehormatan. Pada Maret 1916, Anggaran Dasar SI akhirnya diakui oleh pemerintah.
Baca juga: Peristiwa 17 Desember: HOS Cokroaminoto Meninggal, Nazi Serbu Kota di Ukraina
Sejak aktif dalam SI, Tjokroaminoto tidak mempunyai penghasilan tetap. Untuk membantu keperluan rumah tangganya, ia menerima beberapa orang pemuda mondok di rumahnya yang kecil yang terletak di sebuah gang sempit di kawasan Peneleh, Surabaya.
Selain sibuk memimpin SI, Tjokroaminoto juga banyak menulis di berbagai majalah dan surat kabar. Ia menjadi pembantu tetap majalah Bintang Surabaya. Untuk kepentingan SI, ia mendirikan NV Setia yang menerbitkan harian Utusan Hindia yang dipimpinnya sendiri.