Tumbuhnya kekristenan di tengah-tengah orang-orang Jawa merupakan sebuah peristiwa yang terjadi karena camput tangan Tuhan sendiri. Agama ini hadir pada mulanya sebagai agama import yang dibawa oleh para penginjil Londo (Belanda). Mereka memperkenalkan  kekristenan dalam cara-cara yang biasa mereka jalani di  ropa, dan cara di luar itu adalah sebuah kesesatan. Lambat laun para penginjil ini tertegur dengan kehadir para ‘penginjil-penginjil’ pribumi seperti Tunggul Wulung, Coolen, hingga Kyai Sadrach, yang berhasil memadukan nilai-nilai kekristenan dengan tradisi budaya Jawa yang selama ini mereka pegang teguh. Pesan utamanya ialah kita bisa menjadi Kristen tanpa harus kehilangan jati diri budaya lokal. Pertentangan dengan para penginjil dan semakin meruncing, namun lama kelamaan perselisihan ini daat diatasi dan lahirlah jemaat-jemaat Kristen Jawa di pelosok Jawa. Diantaranya ialah GKJ Purworejo (1900), GKJ Glonggong-Kebumen (1911), GKJ Gondokusuman (1913), sampai pada tahun 1926 tercatat sudah 17 Gereja menjadi dewasa.

​

Kekristenan yang bertumbuh di tengah Jawa tersebut merambah hingga ke kota yang majemuk dan heterogen seperti Batavia dimana banyak pula orang-orang Kristen Jawa yang merantau ke tanah ini. Pada tahun 1930an awalnya hanya bersifat persekutuan orang-orang Jawa di Jakarta yang tetap menginduk pada Gereformeerde Kerk Kwitang (sekarang GKI Kwitang), dan beribadah sebulan sekali di tempat yang ditentukan. Lambat laun persekutuan orang jawa ini semakin berkembangan dan berujung pada pentahbisan Basoeki Probowinoto pada tanggal 28 Maret 1943 sebagai Pendeta pertama GKJ Jakarta. Gereja inipun terus berkembang dan inilah pertama kalinya GKJ memasuki konteks yang amat berbeda dengan tempat ia tumbuh. Batavia (Jakarta) yang begitu majemuk dan berkembang sebagai kota megapolitan. Tercatat pada tahun 1962 warga GKJ Jakarta berjumlah 2068 orang yang tersebar di seluruh penjuru Jakarta.

​

Jumlah warga yang terus bertambah mendorong GKJ Jakarta untuk menyelenggarakan tempat-tempat ibadah lain selain di gereja induk di Rawamangun, Jakarta Timur. Salah satunya ialah di daerah Pejompongan di Jakarta Pusat, melalui buku catatan ibadah wilayah Pejompongan maka tanggal 7 Januari 1973 tercatat untuk pertama kalinya diselenggarakan kebaktian GKJ Jakarta wilayah Pejompongan dengan menumpang di Gereja GPIB Anugerah di Jalan Penjernihan. Persekutuan semakin berkembang dan timbul keinginan untuk menjadi gereja mandiri, jalan menuju kesana semakin lapang dengan ditentukannya Taman Alfa Indah, Joglo, Jakarta Barat sebagai tempat berdirinya Gereja bagi wilayah Pejompongan dan wilayah Grogol yang kemudian dikenal dengan wilayah Joglo A dan Joglo B. Namun karena alasan keterjangkauan tempat ibadah maka pada tanggal 12 April 1992, wilayah Grogol memutuskan untuk kembali mengadakan ibadah tersendiri. Perpisahan dengan wilayah Grogol tidak memutuskan semangat untuk mendewasakan diri sebagai GKJ Joglo, segala perjuangan kemudian ditempuh untuk merealisasikan hal ini. Maka pada tanggal 07 Oktober 1995 diadakan ibadah pendewasaan GKJ Jakarta wilayah Joglo menjadi GKJ Joglo. Gereja yang muda ini perlahan-lahan dilatih untuk menghadapi konteks pelayanan yang terus berkembang. Persebaran wilayah yang luas, kemajemukan warga, menjadi tantangan tersendiri. Tapi pada akhirnya selalu ada penghayatan mendalam bahwa bagaimanapun tantangan yang dihadapi selalu ada Kristus Sang Raja Gereja yang menuntun kami untuk selalu menjadi Gereja yang vital dan menarik.