Di antara kewenangan Guru Mursyid adalah mengangkat jamaah dari murid biasa menjadi Khalifahnya dan sebaliknya juga mencabut status Khalifah kembali menjadi murid biasa. Dalam Thariqat Naqsyabandiyah Yayasan Jabal Qubis ada 4 status Khalifah Guru, yaitu Khalifah Muda, Khalifah Tua, Khalifah Besar, dan Khalifah Syekh.
Berikut adalah daftar Khalifah Syekh Jabal Qubis :
| 1. | Ayang Aruan (Alm.), Dolok Masihul, Sumut |
| 2. | Jumingun Afiat (Alm.), Tanjung Morawa, Sumut |
| 3. | Tukiman JM (Alm.), Dolok Manampang, Sumut |
| 4. | Kharim (Alm.), Tebing Tinggi, Sumut |
| 5. | Tukiman (Alm.), Tanjung Morawa, Sumut |
| 6. | Ngadirin, Tanjung Morawa, Sumut |
| 7. | Muhammad Paing, Tanjung Morawa, Sumut |
| 8. | Baharuddin Lubis, Sigambal, Sumut |
| 9. | Sagino, Sigambal, Sumut |
| 10. | Paidi, Sigambal, Sumut |
| 11. | Ir. Syukri Hamid (Alm.), Bogor |