Kadim şehir Tarsus'un merkezinde bulunan Ulu Camii, ilk defa Harun Reşit dönemine 788 yılına tarihleniyor. Harun Reşid'in oğlu Halife Me'mun 833 yılında vefat edince caminin doğu tarafına defnedilmiş.
962 yılında Tarsus Bizanslılar tarafından işgal edilince cami kiliseye dönüştürülmüş. Memlükler 1360 yılında Tarsus'u ele geçirince de 1362- 63 yılında caminin arka avlusunda şu an bulunan minareyi yapmışlar. Günümüzdeki cami, 1579 yılında Ramazanoğulları'ndan Pîrî Paşa'nın oğlu İbrahim Bey tarafından yaptırılmış. Adana'yı merkez alarak Çukurova'da hüküm süren Ramazanoğlu Beyliği bu bölgeye birçok eser armağan etmiş. Pîrî Paşa, babası Ramazanoğlu Halil Bey'in yapımını başlattığı Adana Ulu Camii'ni 1541'de tamamlamış. Oğlu İbrahim Bey de Tarsus'taki bu camiyi inşa ettirmiş. Ramazanoğulları 1516'ya kadar Memluklar'a, daha sonra da Osmanlılar'a bağlıydı. Bu nedenle yapılarında hem Memluklu hem de Osmanlı dönemine ait özellikleri kullanmışlar. Tarsus Ulu Camii de tıpkı Adana Ulu Camii gibi Selçuklu, Memluklu ve Osmanlı mimarisinden etkiler taşıyor. Her üç mimari etkinin bir arada görüldüğü yapı bir üsluplar mozaiği gibi. Tek şerefeli minaresi ve iç mekânı Selçuklu ve Osmanlı üslubunda. Avlu taç kapısı Memlük mimari özelliklerini taşıyan siyah beyaz mermerlerle süslenmiş. Aynı Memlük esintileri mihrap süslemelerinde de görülüyor. Caminin kuzeydoğu köşesinde bulunan ve ikinci minare görünümünde olan saat kulesi 1895 yılında, kubbeli ve revaklı avlunun ortasında bulunan şadırvan ise 1905 yılında yapılmış. Üç mimari etkinin bir arada görüldüğü cami, bir üsluplar mozaiği gibi Anadolu yapı taşları içerisindeki yerini alıyor.
