Tarsus' ta 1934 yılları arasında Gözlü Kule Höyüğünde yapılan kazılar bu yörede ilk yerleşmenin Neolitik dönemle başladığı ve Orta Tunç çağa değin kesintisiz sürdüğünü ortaya koymuştur. Kent önceleri Toros adıyla anılmış sonradan bu ad Latince de Tarsus olmuş ve zamanımıza kadar da gelmiştir. Tarsus'u ilk kez kimin kurduğu konusunda çeşitli söylenceler vardır. Bunlar' ın en yaygın olanı, kentin Asur Hükümdarı Sardanapal'ın kurduğudur. Yöreye I.Ö. VII-VII.yy' da geldikleri sanılan Yunanlıların burada bir yer yerleşmeyle karşılaştıkları kesindir.

Bir süre Asur egemenliği altında kalan yöre daha sonra prenslerin, İskender in eline geçti. İskender' den sonra Tarsus, tüm Kilikya ile birlikte Selökin der' in payına düştü. I.Ö. 246'da Mısır yönetimine geçtiyse de bir süre sonra geri alındı. I.Ö. 66 da Kilikya bir Roma vilayeti olunca, Tarsus' ta bunun merkezi durumuna getirildi. Tarsus' a tarihi bir önem kazandıran Cydunus(Tarsus Çayı) o dönemlerde kentin içinden geçmekteydi. Kleopatra ve Romalı komutan Marcus Antonius, Tarsus' a bu ırmak yoluyla gelmişlerdir.

Tarsus Hıristiyanlığın kurucularından Aziz Paul us'un doğduğu kent olarak da önem taşır. Ayrıca ünlü coğrafyacı Strabon I.Ö.I. yy da Tarsus' ta dil bilginleri filozof ve yazarların yaşadığını yazar. Tarsus' un tarihi, Müslümanlığın ortaya çıkışından kısa süre sonra, hareketli bir aşamaya girdi. Miladi 639 Hicri 17 Yılında Müslümanlar Tarafından Feth edilmesi ile Tarsus, Bizanslılardan Müslümanların eline geçmiş oldu. Tarsus Müslümanların Feth etmesi ile beraber çok sayıda el değiştirmiştir. Ta ki Hicri 761 / Miladi 1360 Yılına kadar bu el değiştirmeler olmuştur. Abbasi ve Emeviler dönemlerinde Özellikle Halife Memun döneminde Tarsus kentinde ilmi çalışmalara çok önem kazandırılmıştı.

965' te Bizanslılara geçen Tarsus bu dönemde Antakya Prensliğine bağlandı. 1083 yılında Anadolu Selçuklu Devletinin Kurucusu Süleyman Kutalmış tarafından Feth edilmişti. 1133'te Ermeni Prenslerinden Leon' un eline geçti. 1137' de Bizans imparatoru Yoannes Komneos, Tarsus' u geri geri aldıysa da, 1172 - 1173' te yöre yeniden Ermeni egemenliğine girdi.

Tarsus, 1300.yy'dan sonra Memluklar' in ve zaman zaman da Ramazanoğulları ile Dulkadiroğluları beyliklerinin yönetimine geçti. Hicri 761, Miladi 1360 yılı Temmuz-Ağustos aylarında Memlükler, Ramazanoğulları ve Dulkadiroğulları beyliklerinin yardım ve teşvikiyle Halep ( veya Şam ) valisi Seyfeddin Bay Demir-el Harizmi'nin komutanlığında bir daha Ermenilere bırakılmayacak şekilde Tarsus tekrar alınır. 1516 da ise, Yavuz Sultan Selim' le Osmanlı topraklarına katıldı.

Tarsus 1571 de Kıbrıs Eyaletine bağlı bir sancak merkezi olduysa da, bir süre sonra Adana eyaleti sınırlarına alındı. 1832 de Osmanlı güçlerini yenen mısırlı İbrahim paşa, Adana ve çevresini ele geçirdi. 1839 da yeniden Osmanlı topraklarına katılan Tarsus, 1867 de Halep vilayeti Adana sancağının 1877 de ise Adana vilayeti Adana sancağının bir kazası oldu.

Şemsettin Sami Tarsus'a İlişkin Şunları Yazmaktadır : Adana vilayetine bağlı Mersin Livasının bir kazasıdır.( 1900 yıllarında ki kayda göre ) Kentin, 31 camisi, 19 medresesi 2 tekkesi, çeşitli dinsel topluluklara bağlı 5 kilisesi, ( 2007 de ise 1 kilise vardır ) 1 bedesteni, 10 hanı, 2 hamamı 24 okulu, 7 değirmeni ve 6 pamuk fabrikası vardır. Tarsus, Namrun ve Gülek nahiyeleriyle 180 köyden oluşur. Tüm nüfusu 41606' dır.( 2007 Genel Sayımına göre 229.921 ) Nüfus'a Sahiptir.

Ali Cevad ise Tarsus' u Şöyle Anlatır : Kazanın Kusdemir, Kusun, Canip şehir, Namrun, Ulaş, Gülek ve Tekeler aslı 7 nahiyesi ve 161 köyü vardır. Kazanın tüm nüfusu 40410 dur. Mersin 1888' de Adana' ya bağlı bir sancak olunca Tarsus' ta bunun tek kazası olarak yönetsel durumunu korudu. I. Dünya Savaşı sonrasında Fransız işgaline uğrayan Tarsus da buna bağlı bir ilçe merkez durumuna geldi. Tarsus Müslümanlar içinde mukaddes bir şehirdir.

Tarsus' ta bir çok kutsal abideler vardır. Danyal Peygamber' in Kabri Tarsus' ta dır. Makam Cami'sinde. Miladi 633, hicri 218 yılında Halife Memun Bizanslılarla Savaşmak için Tarsus'a geldiğinde, bu gün Şeker Pınarı diye bilinen yerde yemiş olduğu yemekten zehirlenerek Vefat edince Ulu Caminin doğu kısmında bulunan Babası Halife Harun Reşit'in sadık hizmetkârı olan Hakan'ın evine defni yapılmıştı. Bu gün Halife Memun'un Kabri, Şit ve Lokman a.s Makamları Ulu Cami de bulunmaktadır. Bilâli Habeşi'nin de Makamı var, ayrıca adına bir de küçük mescit yaptırılmıştır. Küçük Minare Cami Avlusunda ise Tarsusta 18 yıl Kadılık Yapan Kasım bin Selam'ın, A.Kadir Geylani'nin Torunu, ve Tolunoğulları Devleti hükümdarı Ahmet b. Tolun'un Kabri bulunmaktadır.

Tarsus' un geçmişine ait bilgilerin ilmi bir şekilde derlenip ortaya çıkarılması Arkeolog ve tarihçelere düşen bir görev olmaktadır.