ศาลจังหวัดชัยภูมิเริ่มก่อตั้งเมื่อใดไม่สามารถสืบหาประวัติได้ เพราะศาลเดิมถูกไฟไหม้เมื่อ ร.ศ. 122 จึงไม่ปรากฏหลักฐาน ต่อมาปรากฏสำนวนความปี ร.ศ. ๑๑๖ ในรายงานของศาลมณฑลนครราชสีมา ซึ่งเป็นหลักฐานที่ทำให้ทราบว่าในปีดังกล่าว ศาลเมืองไชยภูมิได้เปิดทำการแล้ว

ต่อมาพระจักรปาณีศรีศีลสุทธิ์ ปลัดทูลฉลองกระทรวงยุติธรรม ได้ตกลงทำสัญญาจ้างเหมาให้จีนจงจากกรุงเทพฯ ไปทำการสร้างศาลเมืองไชยภูมิ โดยใช้แปลนศาลที่กระทรวงยุติธรรม

ศาลเมืองไชยภูมิหลังดังกล่าวเริ่มสร้างเมื่อวัน เดือนใดไม่ปรากฏ แต่มีหลักฐานว่า เมื่อวันที่ 6 พฤษภาคม พ.ศ. 2447 จีนช่างได้ปักหลักวัดที่ปลูกศาล และต่อมาวันที่ 9 กรกฎาคม พ.ศ. 2447 ช่างได้ขุดหลุมยกเสาตั้งขึ้นติดคานแล้วอาคารศาลไชยภูมิคงสร้างเสร็จเรียบร้อยราวกลางเดือนมกราคม ร.ศ. 123 อาคารศาลเป็นอาคารไม้ชั้นเดียว หลังคามุงสังกะสี มีห้องพิจารณาห้องเดียว

พ.ศ. 2481 คุณหลวงอนุสรนิติสารเป็นผู้พิพากษาหัวหน้าศาลพิจารณาเห็นว่าอาคารศาลหลังเดิมปลูกอยู่ไม่เหมาะสม คับแคบไม่สามารถขยายออกไปได้ จึงได้เจรจาขอใช้ที่ดินราชพัสดุตรงที่สร้างศาลหลังปัจจุบันจากกระทรวงการคลัง จนได้รับอนุญาตแต่ก็มีเหตุขัดข้องไม่ได้รับงบประมาณสร้างอาคารศาล

พ.ศ. 2505 จอมพลสฤษดิ์ ธนะรัชต ได้จัดสรรเงินเพื่อสร้างอาคารศาลจังหวัดชัยภูมิหลังปัจจุบัน ประกอบพิธีวางศิลาฤกษ์ เมื่อวันที่ 22 มีนาคม พ.ศ. 2505 และได้ทำพิธีเปิดศาลเมื่อวันที่ 28 กุมภาพันธ์ พ.ศ. 2506 อาคารศาลเป็นตึก 2 ชั้น ขนาด 4 บัลลังก์ หลังคาทรงไทย คู่กับศาลากลางจังหวัดชัยภูมิ