Kendi adıyla anılan ovanın üzerinde, Kelkit Çayı’nı oluşturan derelerin birleşim noktasında kurulmuştur. Deniz seviyesinden yüksekliği 1400 metredir.
Köse ilçesinin 1988 yılında bir ilçe olarak ayrılmasından sonra, yönetim alanı daralmışsa da Gümüşhane’nin gerek nüfus ve gerekse yüzölçümü itibariyle en büyük ilçesi olma özelliğini kaybetmemiştir.
Kelkit’in 6 belediye örgütü,77 pare köyü vardır. İlçenin yüzölçümü 1505 km² olup nüfus yoğunluğu 32’dir. 22 Temmuz 1916 yılında Ruslar tarafından işgal edilen Kelkit,17 Şubat 1918 tarihinde düşman istilasından kurtarılmıştır.
Kelkit 1840 tarihinde ilçe olmuştur. Topraklarını doğuda Bayburt, batıda Şiran, kuzeyde Gümüşhane ve Köse, güneyde de Erzincan topraklarının çevrelediği Kelkit, kuzeyde Gümüşhane ve Köse dağlarıyla güneyde uzanan Sipikor,Çimen ve Pöske dağlarının arasında geniş bir vadide kurulmuştur.
Kelkit Çayı ve kollarının yanı sıra su kaynaklarının zengin olduğu ilçe,rengarenk çiçekler,kavak ve söğüt ağaçları arasında adeta millî bir park görüntüsüyle bir cazibe merkezi olma yolundadır.
İklim :
Kelkit ,39.-40.boylamlar ile 40-41.enlemler arasında yer almaktadır. Yazlar sıcak ve az yağışlı,sonbahar ve ilk bahar yağışlı,kışlar ise soğuk yağışlı ve uzundur. Kelkit’in coğrafi açıdan ilginç bir özelliği vardır. Kelkit ilçemiz her ne kadar Karadeniz Bölgesinde yer alıyorsa da,tamamıyla Karadeniz Bölgesiyle değil,genel olarak Doğu Anadolu Bölgesinin coğrafi özellikleriyle örtüşen iklim verileriyle karşımıza çıkmaktadır. Bu görüşü pekiştiren nedenler olarak,Kelkit’in özellikle Gümüşhane’ye nazaran geniş düzlüklerinin (Kelkit ovası,Mormoç ovası gibi) var olması, deniz seviyesine göre en alçak kesiminin dahi 1350 metreyi bulan yüksekliği, yıllık ortalama çok düşük bir yağış miktarının bulunması, yaz kuraklığının etken ve egemen olması, steplerin genişçe yer tutması, arpa, buğday, şekerpancarı ve patates gibi daha çok karasal iklim koşullarında yetişen ürünlerin üretiliyor olması sayılabilir. Dolayısıyla,Gümüşhane’nin güneyinde denize paralel olarak sıralanan ve bazı kesimlerde yüksekliği 2500 metreyi bulan Gümüşhane dağlarının deniz etkisinin Kelkit’e sokulmasını büyük ölçüde engellediğini belirtmemiz gerekir. Kelkit’in deniz seviyesine göre yüksekliği, Türkiye ortalamasının çok üzerindedir. Bu da deniz seviyesine göre sıcaklık farkının 7 derece olmasına neden olmaktadır. Genel nem oranı,Doğu Anadolu Bölgesinden yüksek,Karadeniz bölgesinden ise düşüktür. Su Kaynakları ve Toprak Örtüsü : Kelkit’in her tarafından fışkıran ve yöremizde göze,pınar,pahar gibi isimlerle anılan su kaynakları mevcuttur. Su kaynakları üzerine hayrat yapma eğilimi son yıllarda artmıştır. Kültürümüzün temel yapı taşlarından birisidir gözeler. Kelkit’te göze denince ilk akla gelen Ağababa’yı ve Hacı Cebeci’yi rahmetle anmamız gerekir. Kelkit ve çevresindeki başlıca gözeler,Sıtma Pınarı, Gorden, Korpahar, Eğri Göze, Gülizarın Pınarı, Kara Pınar, Bekir Çavuşun Pınarı, Yardibi, Korgöze, Keşiş Paharı, Üçgözeler, Bülbülyuvası’dır.Kelkit’in Doğankavak, Yeşilova, Deredolu, Kozoğlu, Yeniyol ve Çambaşı köylerinde ise madensuyu kaynakları tespit edilmiştir. Kelkit’in tam ortasından akan Kelkit Çayı,Yeşilırmak’ın en uzun koludur. Toplam uzunluğu 320 km’dir. Kelkit’te toprak örtüsü olarak,alçak kesimlerde kavak,ardıç ve meşe türleri görülürken,yüksek kesimlere çıkıldıkça sarı çam,titrek kavak (dağ kavağı) ve meşe türleri görülür. Step alanlardaki toprak örtüsüyse,yaygın olarak kuşburnu, geven, yabani kekik, sığır kuyruğu, dağ reyhanı ve benzeri yabani bitkilerle kaplıdır. Kelkit birinci derecede deprem bölgesinde yer almaktadır. Doğu Anadolu Fay Hattının bir uzantısı olan Erzincan Kelkit’e sadece 70 km mesafededir. Yakın zamanda 1992 de Erzincan’da meydana gelen depremde Kelkit’te de can kayıpları olmuştur.