Islam masuk ke Indonesia umumnya berkembang terlebih dahulu di daerah pesisir kota-kota pelabuhan sebelum akhirnya masuk ke pedalaman. Umumnya, Islam masuk karena perdagangan, perkawinan, dan pendidikan. Itu pula yang terjadi di kota-kota pelabuhan di Papua.
Islam masuk Papua sudah terjadi setidaknya sekitar abad ke-15. Menurut Ahmad Ubaidillah dalam Ekonomi Islam Nusantara, ada beberapa versi tentang masuknya Islam di Papua: versi Aceh (oleh pendakwah Abdul Gafar di Fak-fak sekitar 1360-1374), versi Arab (oleh seorang Yaman Syarif Muaz yang tiba di Fak-fak sekitar pertengahan abad ke-16), versi Banda (oleh pedagang Bugis yang datang ke Fakfak melalui Banda sekitar pertengahan abad ke-16), versi Bacan (oleh Kesultanan Bacan zaman Sultan Muhammad Al Baqir), dan Versi Ternate-Tidore (oleh Kesultanan Ternate dan Tidore yang tiba sekitar pertengahan abad ke-15).
Sejarah Islam di Boven Digoel, yang terletak di pedalamanan tengah Pulau Papua, tergolong unik. Daerah Boven Digoel sendiri baru dibuka sekitar 27 Januari 1927 dengan dibangunnya kamp Tanah Merah. Pembangunan itu dilakukan setelah pemerintah kolonial Hindia Belanda memutuskan untuk membuang seribu-an lebih orang-orang yang dianggap terlibat pemberontakan Partai Komunis Indonesia (PKI) di Banten pada 13 November 1926 dan di Silungkang, Sumatra Barat pada 31 Desember 1926.
Di antara pelaku pemberontakan yang dibuang itu banyak yang merupakan anggota Sarekat Islam (SI) atau setidaknya beragama Islam. Sebutlah Natar Zainoedin, Selain yang tenar Haji Datoek Batoeah dari Sumatra Barat dan Hadji Ahmad Hatib dari Banten, ada pula yang dari Jawa seperti Haroenrosjid dan Achmad Dasoeki yang sama-sama berasal dari Solo. Menurut Takashi Shiraisi dalam Hantu Digoel: Politik Pengamanan Politik Zaman Kolonial, keduanya adalah murid dari Haji Misbach, yang –dikenal sebagai “Haji Merah”– berseberangan dengan pemerintah kolonial dan dibuang ke Manokwari. Keduanya memimpin Gerakan Komunis Islam Mu'alimin di Solo.
Banyaknya orang Islam di Tanah Merah pada gilirannya menimbulkan keinginan memenuhi kebutuhan-kebutuhan ritual seperti membangun masjid, yang setidaknya bisa dipakai untuk shalat Jumat. Kebutuhan itu lalu mendorong berdirinya Comite Masigit (Panitia Masjid) untuk mewujudkan pembangunan masjid tersebut.
Ide pembangunan masjid itu akhirnya berhasil menyeberang lautan dan sampai Jawa. Di suratkabar Darmo Kondo, Solo, seperti diberitakan Algemeen Handelsblad voor Nederlandsch-Indië tanggal 2 Februari 1928, telah ada seruan untuk membantu panitia pembangunan masjid yang diketuai Haroenrosjid dan dibendaharai Dasoeki tersebut. Perkumpulan SI dan Muhammadiyah di Solo adalah sasaran meminta bantuan tersebut. Dana yang terkumpul itu nantinya bisa dipakai untuk membeli mimbar, lampu, dan lain-lain.
Status masjid yang hendak dibangun tersebut adalah masjid jami atau masjid besar, yang akan menyelenggarakan shalat tiap Jumat. Perkara imam dan khatib, dari kalangan orang buangan pemerintah kolonial itu tak perlu dikhawatirkan. Penghuni Digoel tak kekurangan kyai atau imam. Baik yang dari Banten maupun Sumatra Barat, yang ahli agama ada banyak.
Masjid itu yang direncanakan itu akhirnya terbangun sekitar tahun 1928 di Kampung C. Setelahnya, kehidupan beragama tumbuh. Kelompok Haroenrosjid dan Dasoeki itu didukung kelompok Islam di Digoel yang bernama Al Islam Vereneeging (Perkumpulan Islam) yang berisikan tokoh agama dari Banten dan Sumatra Barat. Namun organisasi itu tidak bertahan lama di Digoel.
Masjid itu mengalami penurunan jamaah karena terjadi pembebasan besar-besaran tahanan di Boven Digoel pada 1932. Pembebasan yang dilakukan pemerintah kolonial karena tekanan dari luar itu dilakukan dengan memulangkan mereka ke kampung halaman masing-masing. Akibatnya, penghuni Digoel berkurang banyak. Ketika pembebasan besar-besaran itu, dunia (termasuk Hindia Belanda) sedang terhimpit oleh Depresi Ekonomi.