Sebelum berdirinya AKIS Kota Sabang pada tahun 2004, satu-satunya institusi pendidikan kesehatan yang ada di Kota Sabang adalah Sekolah Perawat Kesehatan (SPK) milik Pemerintah Kota Sabang yang didirikan pada tahun 1993 dengan lulusan sekitar 300 orang. Awal 2004 Pemerintah Kota Sabang bersama Yayasan Pendidikan Ibnu Sina Sabang (YPIS) mengusulkan kepada Kementerian Kesehatan melalui Badan PPSDM Kesehatan untuk melakukan Konversi SPK Pemerintah Kota Sabang menjadi AKIS Kota Sabang. Konversi dilakukan karena adanya kebijakan dari Departemen Kesehatan bahwa Pendidikan Keperawatan harus ditingkatkan minimal pada tingkat Diploma Tiga. Konversi juga dilakukan berdasarkan masukan yang diterima oleh pengelola SPK Pemerintah Kota Sabang dari masyarakat, alumni dan Stakeholders seperti Rumah Sakit dan Puskesmas yang ada di Kota Sabang.
Bertitik tolak dari hal tersebut maka Pemerintah Kota Sabang bersama dengan Yayasan Pendidikan Ibnu Sina Sabang bermaksud untuk meningkatkan status pendidikan keperawatan yang ada di kota Sabang dari jenjang SPK ke jenjang Perguruan tinggi yaitu Akademi Keperawatan. Mekanisme yang dilakukan untuk mewujudkan rencana tersebut di awali dengan menyusun Visi, Misi, Tujuan, Sasaran dan Strategi untuk mencapai tujuan. Oleh karena itu AKIS Kota Sabang mendapatkan Izin Pendirian dengan Surat Keputusan Nomor : HK.00.06.14.2.01489 pada 07 Mei 2004.