Pada 1903, Haji Agus Salim berhasil menyelesaikan pendidikannya di Hogere Burgerl School (HBS), Batavia. Ia mampu lulus dari sekolah para elit pribumi dan Eropa itu dengan hasil yang cemerlang. Kecerdasannya memang tidak diragukan lagi. Orangtua Agus Salim di Bukittinggi berharap anaknya dapat melanjutkan sekolah di Negeri Belanda, atau setidaknya mengambil jurusan kedokteran di School tot Opleiding van Inlandsche Arsten (STOVIA).
Namun keinginan orangtua Agus Salim hanya sebatas angan saja. Rupanya sang anak telah mengambil keputusan: tidak akan melanjutkan studinya dan memilih untuk bekerja. Dikisahkah Mukayat dalam Haji Agus Salim, pekerjaan pertama yang Agus Salim ambil setelah selesai sekolah adalah tenaga alih bahasa di Batavia. Kemampuan bahasa Belanda yang begitu baik memudahkan dirinya menterjemahkan naskah berbahasa Belanda ke bahasa Melayu.
Pekerjaan itu dilakukan tidak lama, sebab Agus Salim memutuskan pindah ke Riau. Ia bekerja sebagai pembantu notaris di kantor ayahnya. Di sini pun ia tidak bertahan lama. Agus Salim merasa tidak puas dengan pekerjaannya. Ia lalu pindah ke Indragiri dan bekerja untuk perusahaan batu bara hingga 1906. Seringnya Agus Salim berpindah pekerjaan cukup membuat risau sang ayah. Sebagai seorang pegawai pemerintah, juga bangsawan Minangkabau, ia sangat mendambakan sang anak mengikuti jejaknya. Begitu juga dengan ibu Agus Salim.
“Kegoncangan inilah yang merupakan salah satu sebab ibunya menderita sakit yang kemudian berakhir dengan meninggal dunia pada 1906,” ungkap Mukayat.
Baca juga: Asal-Usul Nama Haji Agus Salim
Peristiwa kehilangan orang yang sangat dicintainya itu turut mempengaruhi jalan pikiran Agus Salim. Pada tahun itu juga ia memantapkan diri berangkat ke Jeddah, Arab Saudi, untuk bekerja pada Konsulat Belanda, suatu pekerjaan yang pernah ditolaknya. Sejak 1906-1911, Agus Salim ditempatkan di bawah naungan Drageman. Sebagai sekretaris konsulat, ia menyelesaikan pekerjaannya dengan baik.
Dalam biografi Haji Agus Salim (1884-1954): tentang Perang, Jihad, dan Pluralisme, ia diceritakan menulis sebuah risalah untuk pertama kalinya. Risalah tentang astronomi itu mengantarkan Agus Salim kepada penulisan risalah-risalah lain (agama, kebudayaan, politik) di kemudian hari.
Selama 5 tahun di Jeddah, Agus Salim tak pernah berhenti belajar. Ia memanfaatkan waktunya untuk menambah pengetahuan dan pengalaman sebanyak mungkin. Kemampuan yang begitu luar biasa dalam mempelajari bahasa membuat ia mudah menguasai bahasa Arab. Dan itu menjadi modal yang berharga untuk memperdalam ilmu di jazirah Arab.
“Tujuan Agus Salim ke Arab tidak hanya mencari uang semata, tetapi juga ingin memperdalam pengetahuan agama. Karena itu kesempatan tersebut dipergunakan benar-benar,” tulis Mukayat.
Baca juga: Rokok Kretek Agus Salim
Selama tinggal di Arab, Agus Salim selalu berhubungan dengan kerabatnya yang sudah lebih dahulu tinggal di sana. Ahmad Khatib, paman Agus Salim, telah cukup lama tinggal di Mekah. Kawan dekat KH Ahmad Dahlan, pendiri Muhammadiyah, itu merupakan guru di Masjidil Haram, Mekah. Hubungan yang terjalin erat dengan sang paman mendorong Agus Salim untuk lebih tekun memperdalam karya-karya pemikir Islam modern.
Agus Salim diketahui giat mempelajari buku-buku Jamalludin Al Afghani tentang pan Islamisme. Ia juga membaca karya-karya Mohamad Abduh, pujangga Muslim yang menginginkan reformasi dan modernisasi dalam agama Islam. Hasilnya, Agus Salim memiliki pandangan bahwa keadaan pendidikan Islam di Indonesia sangat memprihatinkan.
Ia merasa perlu adanya suatu pembaharuan agar pendidikan di Indonesia tidak ketinggalan zaman. Sebab pengetahuan Islam di Indonesia sedikit banyaknya telah mendapat pengaruh dari pemerintah kolonial Belanda, dan itu merupakan kekeliruan yang amat besar. Tekad itulah yang membuat Agus Salim memilih terjun ke bidang dakwah dan berkeinginan kuat membawa Islam ke arah kemajuan.
Baca juga: Haji Agus Salim, Diplomat yang Melarat
Suatu waktu, Agus Salim terlibat perdebatan hebat dengan konsulnya. Ada perbedaan pandangan yang membuat mereka harus mempertahankan isi pikirannya masing-masing. “Salim apakah engkau mengira bahwa engkau orang yang paling pintar di dunia ini,” sindir sang konsul.
“Tentu tidak benar. Di dunia ini banyak orang yang lebih pintar. Hanya siapa di antara mereka itu sampai sekarang aku belum bertemu,” ucap Agus Salim.
Sebagai asisten konsulat, Agus Salim banyak belajar tentang kehidupan diplomatik. Pengetahuannya ini menjadi modal penting bagi pengembangan karirnya dikemudian hari, utamanya selama periode kemerdekaan saat dirinya ditunjuk sebagai wakil Indonesia dalam berbagai perundingan internasional. Ia pun tercatat pernah menjabat posisi menteri luar negeri Republik Indonesia di era revolusi.