Habib Ali bin Jaafar bin Ahmad bin Abdul Qodir bin Salim al-Idrus, seorang wali Allah yang dikasihi dan dicintai sekalian ummah, dilahirkan di Purwarkarta, Jawa Barat, pada tahun 1919.
Beliau mendirikan rumah tangga bersama Syarifah Alawiyah binti Sayyid Ahmad al-Idrus (wafat pada 19 Zulkaedah 1361 bersamaan tahun 1952 dalam usia 33 tahun) dan dikurniakan enam orang cahaya mata. Sayyid Abdul Qadir (wafat sewaktu kecil -22 Februari 1951-), Syarifah Zahrah (juga wafat semasa kecil -1954-), Syarifah Khadijah, Sayyid Muhammad, Sayyid Omar dan Sayyid Husen.
Sekitar tahun 1926, iaitu ketika beliau berumur tujuh tahun, beliau tiba di Singapura.
Namun cuma seketika, lalu kembali semula ke Indonesia. Kemudian, sekitar tahun 1929, beliau sekali lagi menjejakkan kaki ke Singapura dan menetap di sana hingga tahun 1942.
Dikatakan ayahanda beliau, Habib Jaafar bin Ahmad al-Idrus, datang ke Singapura dari Purwarkarta dan menetap di Kota Singa itu selama beberapa tahun sekitar tahun 1930-an kemudian ayahanda beliau pulang ke Hadhramaut, Yaman pada tahun 1938.
Di Singapura, Habib Ali tinggal bersama ayahanda dan kekandanya, Habib Abdul Qadir bin Jaafar al-Idrus, di sebuah rumah di Arab Street.
Dikisahkan bahawa kekandanya menerima sambutan hangat dan menggalakkan ketika mula sampai ke Kota Singa. Habib Abdul Qadir wafat di Purwakarta dan dimakamkan di sana.
Sekitar tahun 1942, Habib Ali bin Jaafar telah dibawa ayahandanya, Habib Jaafar bin Ahmad hijrah ke Batu Pahat, Johor. Ketika itu, Habib Jaafar tinggal di Jalan Abdul Rahman, berhampiran Jalan Sultanah, Batu Pahat (dikatakan beliau menetap di Batu Pahat sekitar lapan tahun). Namun, Habib Jaafar kembali semula ke kampung halamannya Hadhramaut. Beliau wafat di sana pada tahun 1976 di kota Tarim.
Jenazahnya dimakamkan di Pemakaman Zanbal, berdekatan dengan makam datuknya, Habib Abdullah al-Idrus.
Dikatakan Habib Ali tinggal di sekitar Jalan Bukit Pasir pada awalnya. Kemudian berpindah ke kawasan penempatan berhampiran Sekolah Kebangsaan Temenggung Ibrahim, Penggaram dan akhirnya menetap di Kampung Solok Wan Moh hingga akhir usia.
Kehidupannya sangat zuhud dan sederhana.
Makan dan minumnya pun sekadar cuma. Bahkan beliau sangat menjaga sumber dari mana dan apa sahaja yang meragukannya.
Hidupnya yang seolah-olah tiada apa, maka tiada siapa yang memberi perhatian padanya. Tiada siapa yang menumpu pada sosok dirinya.
Hinggalah sebahagian besar murid Syeikh Umar Khatib Singapura, datang menziarahinya atas nasihat guru mereka.
Dikatakan bermula detik itu, beliau dikenali dan sering dikunjungi alim ulama mahupun orang biasa, tidak putus-putus bertamu ke rumahnya.
Beliau sering menjadi tempat mengadu pelbagai masalah. Menjadi tumpuan orang ramai sama ada masyarakat setempat, dari Nusantara mahupun negara-negara Arab.
Di antara kalam nasihat yang pernah beliau sampaikan, “Allah SWT adalah Kholiq (Pencipta).
Manusia hanyalah makhluk. maka, manusia harus mematuhi apa pun perintah Sang Maha Pencipta. Bukan Sang Maha Pencipta yang mematuhi perintah manusia.”
Di rumahnya yang amat sederhana, kecil, dan sempit itu, senantiasa muliakan tiap tamu yang datang. Beliau menerima siapa sahaja yang tiba, dengan penerimaan yang menyenangkan, tanpa dipedulikan rupa yang bagaimana, apalagi harta benda mereka.
Berjumpa dengan sosok tubuh insan mulia yang tenang dan bersahaja itu, hati pun terasa menjadi lapang dan tenang.
Meski hidupnya sederhana, hampir tiap tamu yang datang, pasti beliau berikan wang.
Jumlahnya terkadang tidak sedikit. Jika mereka berkunjung pada waktu makan, tidak mungkin tamunya diizinkan pulang sebelum mereka menikmati hidangan bersamanya.
Sifat rendah hatinya kepada setiap tamunya amat mengagumkan. Sebelum mereka pulang, orang semulia dirinya, meminta pula doa dari mereka.
Habib Ali bin Jaafar al-Idrus telah menemui Penciptanya sekitar jam 5.10 atau 5.15 petang Khamis, 28 Jamadil Awal 1431, bersamaan 13 Mei 2010 di rumahnya, Kampung Solok Wan Moh, Batu Pahat.
Ahwalnya sentiasa menjadi tauladan, semasa hayatnya mahupun setelah kewafatannya. Moga kekal ia sebagai pedoman, petunjuk dan panduan buat sekalian insan.
Dari saat kewafatan beliau, tiadalah putus-putus dikunjungi ribuan manusia dari segala penjuru dan lapisan masyarakat, terutama dari Malaysia, Singapura, dan Indonesia. Begitu juga bacaan Al-Quran, Yaasin, dan tahlil, tiada putus-putusnya dibacakan hingga selesai segala urusan sekitar jam 9.30 pagi Jumaat.
Jenazahnya disolatkan sebanyak dua kali. Pertama, sebagaimana wasiatnya, disolatkan di dalam rumah, di imami Habib Abdullah bin Alwi bin Muhammad al-Idrus, dan kedua di luar rumah, dengan berimamkan Habib Hasan bin Muhammad bin Salim Al-Attas.
Jenazahnya kemudian dimakamkan sebelum solat Jumaat, 29 Jamadil Awal 1431 H bersamaan 14 Mei 2010, di Tanah Pekuburan Islam Bukit Cermai, Batu Pahat, Johor, Malaysia.
Semasa pengkebumian Beliau, Bandar Batu Pahat sesak teruk dengan kerjasama Polis Trafik, Kesesakan dapat dikawal