
Ia tidak menyetujui kebijaksanaan pemerintahan presiden Soekarno pada masanya, sehingga balik menentang pemerintah pusat dengan mengangkat senjata. Ia dinyatakan pemerintah pusat sebagai pembangkan dan pemberontak.
Pada awal tahun 1950-an ia memimpin para bekas gerilyawan Sulawesi Selatan dan Sulawesi Tenggara mendirikan TII (Tentara Islam Indonesia) kemudian bergabung dengan Darul Islam (DI), hingga di kemudian hari dikenal dengan nama DI/TII di Sulawesi Selatan dan Tenggara.
Pada tanggal 3 Februari 1965, melalui Operasi Tumpas, ia dinyatakan tertembak mati dalam pertempuran antara pasukan TNI dari satuan Siliwangi 330 dan anggota pengawal Kahar Muzakkar di Lasolo. Namun tidak pernah diperlihatkan pusaranya, mengakibatkan para bekas pengikutnya mempertanyakan kebenaran berita kejadiannya. Menurut kisah, jenazahnya dikuburkan di Kilometer 1 jalan raya Kendari.