Eski adı Gercanis olan Refahiye 1884 yılında ilçe olmuştur. O tarihte Erzincan Mutasarrıfı olan şefik Paşa bu bölgeye geldiğinde buranın ormanın, suyunun ve havasının güzelliği dikkatini çeker. Bunun üzerine yabancı olan Gercanis adını kaldırarak “refah yer" manasına gelen “Refahiye" adını verir.