Dr. Mohammad Ali (Dr. Lee Kiat Teng) pada tahun 1953 didirikanlah Rumah Sakit Umum Palembang dan pada 03 Januari 1957 rumah sakit ini mulai beroperasional yang dapat melayani masyarakat SeSumatera Bagian Selatan meliputi Provinsi Sumatera Selatan, Lampung, Jambi, Bengkulu dan Bangka Belitung.

     Saat itu Rumah Sakit Umum baru memiliki Pelayanan Rawat Jalan dan Rawat Inap dengan fasilitas 78 tempat tidur. Setelah operasional beberapa tahun, Rumah Sakit Umum Palembang memberikan pelayanan penunjang seperti Laboratorium, Apotik, Radiologi, Emergency dan peralatan Penunjang Medik Lainnya. Rumah Sakit Umum ini semakin berkembang dengan adanya fasilitas, sarana dan prasarana, dokter spesialis dan Sub spesialis sehingga dapat menunjang Rumah Sakit ini dikategorikan sebagai Rumah Sakit kelas B Pendidikan dan menjadi Rumah Sakit Tipe A tahun 2012.

      Pada tahun 1993 RSUP Dr. Mohammad Hoesin Palembang berdasarkan SK Menkes RI No:1134/MENKES/SK/1993 berubah status dari Rumah Sakit Vertikal (Rumah Sakit Penerimaan Negara Bukan Pajak) menjadi Rumah Sakit Swadana. Pada tahun 2000 berdasarkan PP No:122/2000 RSUP Dr. Mohammad Hoesin Palembang ditetapkan sebagai Rumah Sakit Perusahaan Jawatan (PERJAN. Tahun 2005 dengan adanya kebijakan pemerintah terhadap 13 Rumah Sakit Vertikal termasuk RSUP Dr. Mohammad Hoesin Palembang, berdasarkan SK MENKES RI No:1243/MENKES/SK/VIII/2005, tentang penetapan 13 Eks RS PERJAN Menerapkan Pola Pengelolaan Keuangan Badan Layanan Umum (BLU)sebagai Rumah Sakit Pendidikan kelas A.

   RSMH merupakan Rumah Sakit Pendidikan Utama Fakultas Kedokteran Universitas Sriwijaya sesuai SK MENKES Nomor:HK.02.02/MENKES/192/2015 tanggal 27 Mei 2015 dengan mewujudkan Academic Health System (AHS), selain itu sesuai dengan PERMENKES Nomor:HK.02.02/MENKES/390/2019 tanggal 17 Otober 2014 ditetapkan menjadi Rumah Sakit Rujukan Nasional. Dalam upaya menjamin mutu dan keselamtan pelayanan, maka RSMH sudah meraih akreditasi paripurna KARS dan akan meraih akreditasi International JCI ditahun 2016.