羅馬體育會於1927年7月成立之前，羅馬已經有四支俱樂部：Roman、Alba-Audace、Fortitudo、拉齊奧。當時法西斯政府當局希望這四間俱樂部考慮合並，但拉齊奧拒絕合並的要求。隨後，其他俱樂部於1927年7月22日合並組建了新的俱樂部，即今天的羅馬體育會，而拉齊奧拒絕合並亦是兩隊結怨的開始。俱樂部選用代表羅馬的紅色和黃色爲會徽及球衣的顔色，佛斯基成爲了第一任主席。
　　成立初俱樂部比賽安排於Motovelodromo Appio進行，同年6月17日舉行俱樂部第一場比賽，2比1擊敗來自匈牙利的UTE。接著1929年第一次參加國內職業足球聯賽，以第六名完成聯賽，這對於一支新成立的球隊來說已經是表現不俗了。翌年，羅馬擊敗摩德納奪得意大利盃，創會短短一年就贏得全國性錦標。
　　羅馬直到1941年奪得首個聯賽冠軍，可惜其後40年都未能有優異成績，唯一慶幸是1961年奪得歐洲聯盟盃冠軍。80年代迎來了羅馬隊歷史上最輝煌的一個時期。維奧拉成了球隊的主席，他是羅馬歷史上最受愛戴的主席,上任後的第一個動作是把瑞典人利德霍爾姆重新請回羅馬執教。在他們的帶領下，1980年、1981年，羅馬隊蟬聯意大利盃，聯賽中也連續走進前三名，並在1982-1983年賽季，捧得該隊歷史上第二個聯賽桂冠，這是40年來羅馬隊再次捧冠。
　　1984年，在羅馬主場進行的冠軍盃決賽中，羅馬與利物浦戰成1：1，爲羅馬進球的是普魯佐。羅馬在點球大戰中敗北，屈居亞軍。 此後，羅馬隊增補了德國的哈斯勒、沃勒爾、前南斯拉夫的米哈伊洛維奇、阿根廷的卡尼吉亞、巴爾博等人，一直在聯賽中保持中遊的排名。與拉齊奧相比，羅馬顯得更加富有城市氣息，更加雅致動人。羅馬隊的偶像級人物、前意大利國腳賈尼尼可以說是羅馬隊的象征，他被稱爲意大利最後一個真正的中場組織者。由於與他翻臉而失去了球迷依賴的比安奇教練甚至慘遭俱樂部解雇。
　　捷克教頭澤曼自入主羅馬隊後，兩個賽季的成績一直相當不錯，分別名列第4和第5位。在他的帶領下，羅馬打出了令人贊歎的攻勢足球，在保守的亞平寧刮起了一股清新的風潮，取得了諸如5：0擊敗AC米蘭的偉大勝利。但由於澤曼一番意大利足壇普遍服藥的高論使某些人把羅馬隊當成了“眼中釘”而頻頻遭到暗算，直接影響了球隊的成績,俱樂部無奈之下只得將其解聘，隨後而來的卡佩羅正是接替澤曼的最佳人選。
　　經過漫長的等待，羅馬歷史上的第三個聯賽冠軍終於在2000-2001賽季姗姗來遲。卡佩羅的入主，托蒂、托馬西的日漸成熟，戰神巴蒂斯圖塔、埃默森、薩穆埃爾等實力球員的加盟，使羅馬成爲一個極具競爭力的球隊。在新世紀的第一個賽季里，羅馬以無可爭議的勝利獲得了冠軍，在長達34輪的聯賽中，31輪牢據“領頭羊”的位置，進球數和淨勝球數均占意甲首位。同時，羅馬打還出了亞平寧最賞心悅目和激動人心的足球，三個火槍手掀起了如潮的攻勢。2001年6月18日奧林匹克球場上演了經典的進球大戰，是這個賽季最完美的注腳。