Järva-Jaani kirik on ühelööviline kodakirik, pühitsetud Ristija Johannesele. Eesti Rahvamuuseumi andmetel (EKLA, f 199, m 45, 1/11 (I-1)) on 1930.aastal kohalikult pastorilt saadud teadete järgi arhitekt Ederberg dateerinud Järva-Jaani kiriku ehitamise 13. sajandi keskele, seega on tegemist ühe vanima kirikuga Eestis. Teisalt arvatakse, et kirik ehitati 14. saj algul (1320-tel) Vestfaali päritoluga ehitusmeistri poolt. Paest ja paekivist müüri raamistavad nurkades puhtad kvaaderkivi read. Puhtalt tahutud paest on laotud ka kitsaste aknaavauste välisservad. Kõrgel paiknevad aknad ja paksud seinad annavad kirikule kindluskiriku ilme. Hiljem on aknaid allosas pikendatud. Teravkaarsed ukseavad on lääneseinas ja lõunaseinas.

Algselt ilma läänetornita ehitatud kirik koosneb kolmetraveelisest pikihoonest ja väiksemast nelinurksest kooriruumist. Nagu teistel Järvamaa kirikutel, puuduvad ka siin tavaliselt gootikale iseloomulikud tugipiilarid, kuna võlvide külgsurve võtavad vastu paksud ja kõrged seinamüürid. Mõneti kindluslikult mõjub ka kiriku interjöör, kus ruumipildi üldmulje määravad suured kuplitaolised roieteta võlvid. Laia nelinurkse lõikega lihtsad vööndkaared on silmapaistvalt kõrged ja toetuvad lühikestele seinapiilaritele. Nad algavad erakordselt madalalt ning näivad seetõttu kogu ruumi valitsevalt oma haardes hoidvat. Vööndkaartega sarnanev kuju on ka mõnevõrra kitsamal, kuid samuti madalalt algaval võidukaarel, mille tõttu lääneportaalist sisenejale avaneb üllatavalt omapärane ruumipilt. See meenutab mõneti laia ning kõrget tunnelit, mille suundruumilist rütmi rõhutavad perspektiivselt koonduvad kaarsiluetid. Kaugusesse koonduvat muljet suurendab väiksem võidukaar. Alles selle taga kumab pikihoonest tugevamini valgustatud kooriruum kui kiriku tähtsaim paik.

Läänefassaad

Erandlikult puudub Järva-Jaani kirikul võlvidele viiv müüritrepp. See on Eesti vanemas kirikuarhitektuuris harva esinev nähtus ning näib viitavat kiriku võlvidepealse kaitseehituslikule iseloomule. Võlvidele võis pääseda ainult viiluseinas oleva ukseava kaudu, mis võimaldas võlvipealset kasutada pelgupaigana.

Teravkaarne peaportaal asub lääneseinas. Hilisem juurdeehitus on põhjaseinas asuv käärkamber ja pikihoone läänepoolses otsas asuv torn. Praegune ilus ja sale läänetorn ehitati pseudogooti stiilis 1881. a koguduses korraldatud korjanduse abil kogutud rahast arhitekt J. G. Mühlenhauseni projekti järgi. Torni puhul jääb mulje, nagu oleks ta kolmekordne. Torn lõpeb kolmnurksete viiludega külgedel ja väikeste tornikestega torni nurkadel asuval tugipiitadel. Tornikiiver on sale ja kuuetahuline. Portaali kohal on ehisviil, mille sees roosaken. Ehisviil lõpeb ristlillikuga, millele on kirjutatud torni ehitamise aasta.

Torni tippu paigaldatud risti kõrgus on 110 cm, põikpuu pikkus 68 cm ja haarade laius 11 cm. Torni kiviosa kõrgus on 23, 5 meetrit ja kiivri kõrgus 21, 5 meetrit. Seega on torn 45 meetrit kõrge.