Refahiye, Erzincan'ın kuzeybatı ucunda Doğu Anadolu Bölgesi, Karadeniz Bölgesi ve İç Anadolu Bölgesinin sınırlarının birleştiği yerde kurulmuştur.

38,8 doğu boylamı ile 39,9 kuzey enleminde 1746 km2 yüzölçümünde, 1580 rakımda meskun olup, batısında Kızıldağ (2190 m), doğusunda Sakaltutan (2160 m) geçitleri yer almaktadır.

İlçenin yazları ılık, kışları sert ve kar yağışlı geçer. İlçe merkezi kuzeyden güneye akan Hakoğlu ve Kocaçay (Belgazi ) dereleri ile doğudan batı yönüne akan Bolkar (Bulgar- Ilgari) çayının birleştiği düzlük ve düzlüğün batısında bulunan tepelerin yamaçları ile yamaç dere düzlüğünün oluşturduğu eşikte ve E-80 devlet karayolunun üzerinde yer almaktadır.

Karadeniz Bölgesi, Doğu Anadolu Bölgesi ile İç Anadolu Bölgesini birbirinden ayıran ve Yeşilırmak ve Fırat gibi önemli nehirlerin su toplama havzası olması nedeni ile büyük bir önem taşımaktadır.

Refahiye'nin doğusunda Erzincan, kuzeyinde Şiran ve Alucra, kuzeybatısında Gölova ve Akıncılar batısında İmranlı, güneyinde Kemah ve İliç İlçeleri bulunmaktadır.