Tahun 1987 di Ngemplak Kidul Margoyoso dioperasikan rumah bersalin (RB) Muslimat NU dengan kapasitas 10 tempat tidur. Rumah Bersalin yang bertempat di tanah milik Perguruan Islam Mathali’ul Falah (PIM) Kajen adalah salah satu dari unit-unit pelayanan kesehatan yang dikelola Yayasan YKM NU Pati.

Seiring perkembangan wawasan kesehatan masyarakat, Rumah Bersalin ini dirasa tidak lagi mencukupi kebutuhan pelayanan kesehatan yang makin meningkat. Karena itu, sejak 1988 pengembangan rumah bersalin ini menjadi rumah sakit mulai digagas dan direncanakan. Pulang dari perjalanan haji, tujuh orang jemaah haji Kabupaten Pati tahun 1989 dan dua tokoh masyarakat menggagas bakti nyata bagi masyarakatnya. Setelah melalui diskusi singkat, maka bisa difahami bahwa yang dibutuhkan masyarakat adalah unit pelayanan kesehatan yang Islami.

Perbincangan berbagai unsur masyarakat tersebut semakin memantapkan ide untuk mendirikan Rumah Sakit Islam. Gagasan ini kemudian disampaikan kepada K.H. MA. Sahal Mahfudh dan akhirnya disepakati untuk menyatukan ide kelompok ini dengan kebutuhan pengembangan Rumah Bersalin yang telah diselesaikan YKM NU Pati. Panitia pembangunan Rumah Sakit Islam Pati dibentuk dibawah naungan YKM NU Pati dengan merangkum seluruh umat Islam Pati pada tahun 1989 dan bekerja keras mengumpulkan potensi ide dan dana dari seluruh lapisan masyarakat. Kurang lebih 4 tahun kemudian, tepatnya 29 Maret 1994, Rumah Sakit Islam Pati melakukan soft opening dan mulai melayani masyarakat. Pembukaan resmi dilakukan pada tanggal 9 April 1994.

Saat diresmikan, Rumah Sakit Islam Pati memiliki daya untuk menampung kebutuhan rawat inap bagi 38 pasien, melayani kebutuhan Operasi, Laboratorium, Farmasi, dan kebutuhan penunjang lainnya, disamping itu tentu saja, melayani keperluan rawat jalan. Sedikit demi sedikit kepedulian berbagai pihak (perorangan, perusahaan, organisasi swasta, instansi pemerintahan) melengkapi fasilitas rumah sakit ini.