Binlerce yıllık tarihi geçmişi bulunan Elâzığ ilinin isminin kökeni 3000 yıl öncesine kadar uzanır. Bölgede uzun yıllar hüküm süren Urartular döneminde Elâzığ’ın o zamanki adı “Alzi” olarak bilinmektedir. Urartu dönemine ait birçok kaynak ve kitabede Alzi adına oldukça sık rastlanılmaktadır. Yine Asurlulara ait çivi yazılı Kapadokya metinlerinde ise “Karpata” adıyla geçen yerin Harput olduğu söylenmektedir.
Daha sonraki zamanlarda Elzi, Enzit, Til-Enzit, Hanzit gibi isimler ile de anılan Elâzığ, Muâviye döneminde şehre vali olarak gönderilen İbn-i Ziyad yönetiminde “Hısn-ı Ziyad” adı ile anılmıştır.
Bu tarihi süreç içerisinde en çok kabul gören, bilinen ve şehrin sembolü haline gelen “Harput” ismi daha sık kullanılmıştır. Bazı kaynaklarda Harberd şeklinde geçmektedir. Harput adının, har (taş, kaya) ve berd (kale) sözcüklerinin birleşimiyle Taşkale anlamına geldiği söylenirken, Evliya Çelebi’nin Seyahatname’sinde farklı rivayetler anlatılmaktadır.
Evliya Çelebi’nin anlatımından ziyade Taş-Kale açıklaması birçok kaynakta daha çok kabul görmektedir.
Rivayete göre yörede meşhur dikenli bir söğüt ağacı varmış. Bu nedenle de kente “Har-Bid” demişler. Bir diğer açıklamaya göre ise bölgede bol miktarda diken yetiştirildiğinden diken getirici anlamında “Har-Berid” denilmiştir.
Harput’un Elâzığ’a taşınmasıyla birlikte Elâzığ’da oturan insanlar Harput’a “Yukarı Şehir” demeye başlamışlardır.
Görüldüğü gibi Harput ismi çok uzun yıllardan beri kullanılarak günümüze gelmiştir.
Elâzığ’ın Osmanlı Dönemi’ndeki ilk adı Mezra’dır. Elâzığ’ın Sultan Aziz zamanında bayındırlaştığı bilinmektedir. Bu nedenle buraya “Mamuret’ül Aziz” yani “Aziz’in yaptırdığı kent” adı verilmiştir. Sonraları halkın ağzında daha kolay söylenebildiği için “Elaziz” olarak değiştirilmiştir. 17 Kasım 1937’de Elaziz’e gelen Atatürk, şehrin adının Elazık olmasını istemiştir. Atatürk’ün önerisi ve Bakanlar Kurulu kararı ile Elaziz adı “Elazık” olarak değiştirilmiştir. “Azık diyarı” anlamına gelen bu kelime, söyleniş zorluğu nedeniyle 10 Aralık 1937’de Bakanlar Kurulu kararıyla birlikte bugünkü son şekli olan “ELÂZIĞ” olarak kabul edilmiştir.