Erzurum’un en eski camilerinden olan Ulu Cami, Cumhuriyet Caddesi üzerinde, Çifte Minareli Medresenin de yanındadır. Saltuklulara Atabey ismi yakıştırıldığından ötürü bu camiye Atabey Camisi de denilmektedir. Cami Saltuklu Emiri Nasreddin Aslan Mehmet tarafından 1179 yılında yaptırılmıştır. Ancak onarımlarla özgün durumunu kaybetmiştir. Erzurum’a 1640 yılında gelen Evliya Çelebi bu caminin toprak damlı olduğunu ve içerisinde de 200 çam direk bulunduğunu belirtmiştir. Ancak bu durumun biraz abartılı olduğu sanılmaktadır.
Cami Sultan IV.Murad zamanında yiyecek deposu olarak kullanılmıştır. Camideki kitabelerden anlaşıldığına göre değişik tarihlerde beş kez onarılmıştır. Erzurum Valisi Hüseyin Paşa 1639’da, Ali Efendi 1826’da camiyi onarmış, bunu 1858, 1860 yıllarında yapılan onarımlar izlemiştir. Bu onarımları belirten kitabeler de camiye yerleştirilmiştir. Vakıflar Genel Müdürlüğü 1957-1964 yılları arasında camiyi bir kez daha onarmıştır.
Camide yapılan farklı tarihlerdeki onarımlar iç mekanda karışık bir mimari ortaya çıkarmıştır. Bununla beraber 51.00x54.00 m. ölçüsünde dikdörtgen planlı olan caminin mihrap duvarına dik yedi ayrı sahından meydana gelmiştir. Bugün on altısı duvarlara bitişik kırk paye ibadet mekanında üst örtüyü taşımaktadır. Caminin birinci bölümü beşik tonozla örtülüdür. İkinci bölümün önündeki iki mekan 10 sütunun taşıdığı tonoz örtülüdür. Üçüncü ve dördüncü bölümlerin üst örtüsü payeler tarafından taşınmaktadır. Orijinal mihrabın bulunduğu bölüm beş payenin taşıdığı kubbe ile örtülüdür. Caminin içerisinde toplam 40 sütun bulunmaktadır. Caminin içerisi 28 pencere ile aydınlatılmıştır. Bunlardan güneydeki ikinci pencere üzerinde 1826 tarihli onarım kitabesi bulunmaktadır.
Caminin beş kapısı olup, bunlardan ikisi doğuda, üçü de kuzeydedir. Bu kapıların hiç birisi birbirine benzememektedir. Doğudaki birinci kapının iki yanında birer mihrapçık vardır. Bunun kenarına da 1860 yılında yapılan onarımın kitabesi yerleştirilmiştir. Caminin ilk yapımındaki mihrap duvarı önü hafif sivri kemerler üzerine oturan büyük pandantifli bir kubbe ile örtülmüştür.
Günümüzde burada ahşap bir kubbe bulunmaktadır. Kubbe dışında kalan bölümler dıştan toprak damla örtülüdür. Caminin en gösterişli yönü orta eksendeki piramidal altı dizi mukarnas dolgulu tonozlu bölümüdür. Caminin sağ tarafında tuğladan yuvarlak gövdeli tek şerefeli minaresi bulunmaktadır. Minareye cami içerisinden çıkılmaktadır. Şerefeden yukarısı yıkılmıştır.