Ải Chi Lăng cấu thành từ một thung lũng hẹp ép giữa hai dãy núi, phía Đông là dãy núi đất Bảo Đài-Thái Họa và phía Tây là núi đá Kai Kinh (Cai Kinh) dựng đứng. Con sông Thương ngoằn ngoèo chảy dọc theo thung lũng, bên con đường quốc lộ số 1A mà trước kia là đường cái quan lên biên giới, xuôi về kinh đô.
Những ngọn núi thấp rải rác dọc thung lũng và trấn ven đường cái quan như núi Hàm Quỷ, núi Phượng Hoàng, núi Kỳ Lân, núi Mã Yên. Đóng khóa hai đầu của thung lũng, nơi hai vòng cung núi đất phía Đông và núi đá phía Tây khép lại, là lũy Ải Quỷ phía Bắc và núi Ngõ Thề phía Nam, khoanh kín trong lòng một ải quan dài 5 km, rộng khoảng 3 km.