Samsun'da futbolun geçmişi 1909 yılında kurulan Tenvir-i Efkâr Gençler Kulübü'ne dek uzanmaktadır. Samsun'un ilk futbol kulübü olma özelliğini taşıyan bu kulüp Samsun Limanı başkanının önderliğinde kurulmuş ve Balkan Savaşlarının patlak vermesiyle de faaliyetlerine son vermiştir. Hemen ardından 1912 yılında darülmuallim ve sultani öğrencileri tarafından kulüp niteliği taşımayan fakat rakipleriyle karşılaşacak nitelikte bir takım oluşturulmuş, bu girişim de çok uzun ömürlü olmamıştır. 1919 yılında ise kent tarihinin ikinci kulübü kurulmuştur: Samsun İdman Yurdu. Tahir Usta'nın önderliğinde kurulan bu kulübün renkleri sarı-kırmızıydı. 1921 yılında ise Samsun İdman Yurdu'nun dışında faaliyet gösterecek ikinci bir futbol kulübü kuruldu. Bu kulübün adı Alyıldız İdman Ocağı, kurucusu ve ilk başkanı ise Gıyas Bey'di. Sarı ve lacivert renkleri benimseyen bu kulübü 1924 yılında Mustafa Kemal, Samsun'a ikinci gelişinde ziyaret etmiştir. 1923 yılında kurulan Zaferi Millî İdman Derneği, Samsun'daki üçüncü faal futbol kulübü olmuştur. Kırmızı-beyaz renkli bu kulübün ilk başkanı ise İsmail Hamami Bey'di.[13] Aynı dönemde, daha sonraları Türkiye İdman Cemiyetleri İttifakı'nın da kurucu üyelerinden olacak olan Bafra Kızılırmak ve Çarşamba Yeşilırmak kulüpleri kurulmuştur. Böylece kulüpler arasındaki ilk resmî karşılaşmalar da oynanmaya başlanmıştır. İleriki zamanlarda ise Cumhuriyet Kızılırmak ve Gençler Birliği kulüpleri de kurularak ittifaka dahil olmuştur.

1926 yılında Zaferi Millî İdman Derneği tüzüğünde ve adında değişikliklere giderek Türkocağı Spor Şubesi adını almıştır. Ertesi yıl ise Türkocağı Spor Şubesi ve Alyıldız İdman Ocağı birleşerek Nuri Bey'in başkanlığında Samsunspor Kulübü kurulmuştur. Bu birleşmeyi takiben Bafra Kızılırmak ve Cumhuriyet Kızılırmak kulüpleri de birleşerek Bafra Gençlerbirliği adını almıştır.

Siyah-beyaz renklerle mücadele eden Samsunspor; 1929-30 sezonunda kapatılarak tüm idarî, teknik kadro ve futbolcuları yeni kurulan Halkspor'a kaydırılmıştır. Fakat bir sonraki sene, kapatılan Samsunspor yeniden açılmıştır. Kulüp bu dönemde futbol, voleybol, atletizm ve denizcilik şubelerinde faaliyet göstermekteydi.

1932 yılında Samsunspor ismini mıntıkaya tescil ettirerek; Samsun İdman Yurdu, Halkspor, Tütün Fabrikasıspor ve Demirspor'la birlikte mıntıkayı oluşturmuştur. 1937 yılında ise Samsunspor ve Demirspor birleşerek Samsunspor-Demirspor Birliği'ni meydana getirmiştir. Çeşitli imkânsızlıklar nedeniyle kulüp bir süre faaliyetlerine ara verse de 16 Kasım 1950 tarihinde yeniden faaliyete geçmiş ve başkanlığına Osman Gündüz getirilmiştir. Ayrıca bu dönemde faaliyet alanlarına güreş de eklenmiştir.

1965 yılında Samsun'da bulunan beş amatör mahalli lig takımı olan 19 Mayıs, Fener Gençlik, Akınspor ve Samsun Galatasaray Gençlik kulüpleri Samsunspor'a katılarak dönemin Ticaret Bankası vekili Kadri Ersan'ın kulüp başkanlığında kırmızı-beyaz renkleri benimseyen Samsunspor vücut bulmuş ve resmen Türkiye 2. Futbol Ligi'nde boy göstermeye başlamıştır. Böylece Samsunspor, profesyonel futbol faaliyetlerine başlamıştır. Samsunspor'u oluşturan kulüplerin birleştiği tarih olan 1927 kulübün esas kuruluş yılı olmasına rağmen resmî kuruluş tarihi, profesyonelliğe başvurduğu tarih olan 30 Haziran 1965 olarak kabul edilmektedir. Kulübün başvurusu ise Beden Terbiyesi Umum Müdürlüğü'nce 19 Temmuz 1965 tarihinde onaylanmıştır. Kulübün tescil fişinde yer alan bilgilere göre kulübün bu dönemde futbol, basketbol, voleybol, atletizm, güreş, masa tenisi ve boks şubesi bulunmaktaydı.

Belirsizlik Yılları
Samsunspor, profesyonel liglere ilk kez 1965-66 sezonunda günümüzdeki adı 1. Lig olan 2. Futbol Ligi'nde adım attı. 5 Eylül 1965 tarihinde ilk profesyonel lig maçını oynayan Samsunspor'un rakibi Yeşildirek idi. Samsun Şehir Stadı'nda oynanan ve hakemliğini Nadir Irmak'ın yaptığı maçı Samsunspor, Nihat Serçeme'nin attığı golle 1-0 kazanmıştır. Böylece Nihat, Samsunspor'un ilk lig golünü atan oyuncu olarak tarihe geçmiştir. Ligdeki bu ilk sezonunda Samsunspor, Beyaz Grup 5.si olmuştur. Aynı sezon Türkiye Kupası'nda ise henüz 2. turda Güneşspor'a elenilmiştir. Takım, 1966-67 sezonunda ligi 2.likle bitirirken, Türkiye Kupası'nda yarı finale kadar çıkmıştır. Kupada Konyaspor, Manisaspor ve Fenerbahçe'yi eleyen takım, Göztepe'ye iki maç sonucunda elenmiştir. Ertesi sezon kulüp, tarihindeki ilk başarısını elde ederek ligi Kamuran Soykıray'ın teknik direktörlüğünde Beyaz Grup lideri olarak tamamlamış ve 2. ligdeki ilk şampiyonluğunu yaşamıştır.

1969-70 sezonunda şimdiki adı Süper Lig olan 1. Futbol Ligi'nde ilk sezonunu geçiren Karadeniz takımı ligi 6. sırada tamamlamış ve bu ligde yer alan ilk Karadeniz Bölgesi takımı olmuştur. Beş sezon boyunca bu ligde mücadele ettikten sonra ise 1974-75 sezonunda ligi 24 puan ile 15. sırada tamamlamış ve 2. Futbol Ligi'ne düşmüştür. Bunun üzerine teknik direktör Basri Dirimlili'nin görevine son verilmiş ve tekrar Kamuran Soykıray takımın başına getirilmiştir. 1975-76 Türkiye 2. Futbol Ligi sezonunda Soykıray tekrar Samsunspor'u Beyaz Grup lideri yapmış ve 1. Futbol Ligi'ne taşımıştır. Ayrıca aynı sezon Gençlik ve Spor Bakanlığı Kupası'nda da mücadele edilmiş ve Bursaspor 2-1 mağlup edilerek bu kupa ilk ve son kez kazanılmıştır.

1976-77 Türkiye 1. Futbol Ligi sezonuna 2. Futbol Ligi ve Gençlik ve Spor Bakanlığı Kupası şampiyonu unvanıyla başlayan kulüp ligi 10. sırada bitirmiştir. Türkiye Kupası'nda da 3. turda elenilmiş ve bir başarı sağlanamamıştır. İki sezon daha bu ligde yer aldıktan sonra 1978-79 sezonunda 15. olarak küme düşülmüştür. Fakat bu durum uzun sürmemiştir. 1981-82 Türkiye 2. Futbol Ligi sezonu öncesi takımın başına Fevzi Zemzem getirilmiş ve sezon sonunda D Grubu lider olunarak tekrar 1. Futbol Ligi'ne yükselinmiştir. 1982-83 sezonunu başında Fevzi Zemzem ile tekrar anlaşma sağlanmış ve Tanju Çolak transfer edilmiştir. Tanju Çolak'ın gol krallığı yarışında 16 gol ile ikinci sırada yer almasına rağmen takım kötü bir performans göstererek tekrar 2. Futbol Ligi'ne düşmüştür.