Menurut sejarah, Islam masuk ke Palembang diperkirakan pada awal abad ke-8 Masehi. Sepanjang abad ke-8 sampai abad ke-14 Masehi, Islam di kota Palembang tumbuh dan berkembang pesat sehingga berdiri sebuah kerajaan Islam Kesultanan Palembang. Menurut sumber, ada banyak pendapat tentang masuknya Islam ke Sumatera bagian Selatan salah satunya adalah berdasarkan sumber-sumber Arab dan Cina, pada abad ke-9 di Palembang, yang diyakini sebagai ibukota Kerajaan Buddha Sriwijaya, telah terdapat sejumlah pemeluk Islam di kalangan penduduk pribumi Palembang. Hal ini merupakan konsekuensi dari interaksi antara penduduk Sriwijaya dengan kaum Muslimin Timur Tengah yang sudah berlangsung sejak masa awal kelahiran Islam. Walaupun pada masa Kerajaan Sriwijaya, sudah ada penduduk Muslim, agama Islam belum menjadi agama negara. Setelah melalui proses yang panjang yang berhubungan erat dengan kerajaan-kerajaan besar di Pulau Jawa, seperti Kerajaan Majapahit, Demak, Pajang, dan Mataram. Raden Patah alias Raden Panembahan Palembang yang lahir di Palembang, sebagai Pendiri dan Raja Demak yang pertama (1478-1518), sangat besar pengaruhnya terhadap Palembang atau sebaliknya.
Raden Patah yang berhasil memperbesar kekuasaan dan menjadikan Demak sebagai kerajaan Islam pertama di Jawa. Akibat pertentangan politik, Kerajaan Demak tidak dapat bertahan lama. Perebutan kekuasaan antara Aria Penangsang dari Jipang dan Pangeran Adiwijaya dari Pajang disebabkan masalah suksesi dan warisan Kerajaan Demak, mengakibatkan Demak tidak dapat bertahan lama. Kemunduran Demak mendorong tumbuhnya Kesultanan Pajang. Penyerangan Kesultanan Pajang ke Demak mengakibatkan sejumlah bangsawan Demak melarikan diri ke Palembang. Rombongan dari Demak yang berjumlah 80 Kepala Keluarga ini diketuai oleh Pangeran Sedo Ing Lautan (1547-1552) menetap di Palembang Lama (1 ilir) yang saat itu Palembang dibawah pimpinan Dipati Karang Widara, keturunan Demang Lebar Daun. Mereka mendirikan Kerajaan Palembang yang bercorak Islam serta mendirikan Istana Kuto Gawang dan Masjid di Candi Laras (PUSRI sekarang). Pengganti Pangeran Sedo Ing Lautan sebagai Raja adalah anaknya, Ki Gede Ing Sura Tuo selama 22 tahun (1552-1573). Pendirian Kerajaan Palembang yang bercorak Islam ini adalah salah satu bukti terjadinya proses Islamisasi di Palembang. Hingga nantinya pada masanya ini terjadilah pertempuran pertama dengan Belanda pada tahun 1659 yang mengakibatkan Keraton Kuto Gawang hangus terbakar. Pangeran Sido Ing Rejek yang saat itu sedang menjabat menyerahkan kepemimpinannya kepada adiknya, Pangeran Kesumo Abdurrohim Kemas Hindi. emas Hindi dengan upaya dan kharismanya yang tinggi, menegakkan kembali harkat dan martabat Palembang. Ia berhasil memimpin, membentuk serta membangun kembali peradaban Palembang pasca perang 1659, dan memutuskan keterikatan dengan Jawa terutama Mataram. Kemudian pada tahun 1666, Pangeran Ario Kusumo Kemas Hindi memproklamirkan Palembang menjadi Kesultanan Palembang Darussalam dan beliau dilantik sebagai sultan oleh Badan Musyawarah Kepala-kepala Negeri Palembang dengan gelar Sultan Abdurrahman Khalifatul Mukminin Sayidul Imam serta mendapat legalitas pula dari Kerajaan Istambul (Turki Usmani)
Dengan demikian Islam masuk ke Sumatera Selatan diperkirakan pada awal abad ke-8 Masehi. Pada abad ke-8 sampai abad ke-14 Masehi, proses Islamisasi di Sumatera Selatan ini berkembang dengan pesat yang di awali dengan adanya bangsawan Demak yang melarikan diri ke Palembang hingga nantinya para keturunan bangsawan Demak inilah yang mendirikan Kesultanan Palembang.