Ardahan genel olarak dağlık bir yayla görünümündedir. İl topraklarının görünümü çoğunlukla sıra dağlarla bölünmüş, bunların arasında yüksek düzlükler, ova ve vadiler şeklindedir. İl toprakları ülkenin genel topografik yapısında görülen, batıdan doğuya doğru gittikçe yükselme ve sarplaşmanın en son noktasındadır. Ardahan ilinin kuzey kesiminde Yalnızçam Dağları (2715m.), güneybatı kesiminde ise Allahuekber Dağlarının (2919m.) uzantıları bulunmaktadır. Kuzeydoğusunda Keldağı (3033m.), doğusunda Akbaba Dağı (3026m.) ve ilin en yüksek noktasını oluşturan Kısır Dağının doruğu (3197m.) ise güney kesiminde bulunmaktadır.
Bunun haricinde belli başlı yerler; Ardahan Göle arasında Kayak Merkezinin üzerinde bulunduğu Uğurlu Dağı (2806m.), Posof-Ilgar Dağı (2918m.), Hanak Serinkuyu ve Çavdarlı Yaylalarının üzerinde bulunduğu Cin Dağı (2957m.), Posof-Arsiyan Dağı (3160m.), Alagöz-Yaylacık Köyleri arasında Ziyaret Tepesi (2494m.), Büyük Sütlüce ve Hoçuvan arasında Kartal Tepesi (2521m.), Ardahan-A.Lıkan-Baştoklu Yaylalarının üzerinde bulunduğu Persokıran Tepesi (2641m.) dikkat çekenler arasındadır.