GAIS går under smeknamnet "makrillarna" på grund av att deras grönsvartrandiga tröjor samt vita byxor och strumpor påminner om makrillens randiga rygg och vita buk. Under 1950-talet spelade laget dock i grönvitt, gröna tröjor med vita ärmar och vita byxor. GAIS har en mycket lojal supporterskara, trots att lagets resultat de senaste 50 åren varierat mycket.
GAIS vann den första Allsvenskan säsongen 1924/1925 men oturligt nog korades inte vinnarna av Allsvenskan till Svenska Mästare. Samma procedur upprepades säsongen 1927 - då man inte heller blev korad till svensk mästare. 1931 och 1954 fick laget dock SM-tecknet, ett tecken som GAIS även tagit 1919 och 1922, fast i det så kallade svenska mästerskapet.

Säsongen 1954/1955 hamnade laget som regerande mästare på tredje sista plats i allsvenskan samtidigt som tre lag flyttades ner för blott andra gången. Säsongen efter ändrades reglerna tillbaka till två nedflyttade lag. Säsongen 1980 var GAIS på väg upp i allsvenskan, men blev i absolut sista minuten snuvat på konfekten av Örgryte (för att säsongen efter dessutom sluta tvärsist i dåvarande division II, samtidigt som Örgryte snabbt etablerade sig i allsvenskan!).

Sedan 1950-talet har GAIS varit ett lag som ofta rört sig fram och tillbaka mellan allsvenskan och lägre serier. Tre gånger, säsongerna 1982-1983, 1997-1998 och 2002-2003, har laget rent av tvingats till spel i tredjedivisionen. Detta har varvats med några fina allsvenska placeringar som en fjärdeplats 1974 och en tredjeplats 1989. Under tränaren Bo Falk nådde GAIS, trots ett trist spelsystem präglat av långbollar, fina framgångar i slutet av 1980-talet. Den stora profilen var Samir Bakaou.

Vid derbyt mellan GAIS och IFK Göteborg 20 maj 1976 kom 50 690 åskådare på Ullevi, vilket var publikrekord för dåvarande Division II, motsvarande dagens Superettan.

GAIS spelade i Allsvenskan 2000 där laget kom näst sist och flyttades därför ner till Superettan 2001. Man kom trea från slutet och flyttades ner till Division 2 (som nu har ersatts av Division 1. GAIS kom tvåa efer FC Trollhättan, vilket inte räckte för att kvalificera sig till Superettan. 2003 så kvalificerade man sig dock för Superettan 2004 igen efter att ha vunnit Division 2 Västra Götaland före Ljungskile SK. De båda lagen hamnade på samma poäng men Ljungskile SK hade betydligt sämre målskillnad och därmed vann GAIS. Efter vinsten i division var det dags för kval - där man mötte Mjällby AIF. Man vann med 4-2 totalt i matcher efter en imponerande publiksiffra på 11989 i den sista kvalmatchen hemma på Gamla Ullevi.

Den första säsongen i Superettan efter vistelsen i Division 2 slutade man på en imponerande sjätteplats - och var inte långt ifrån kvalplats (det var endast fem poäng upp till Assyriska Föreningen).

Superettan 2005 var det år då GAIS återigen kvalificerade sig för Allsvenskan. Efter att ha lett serien till en början så gick både AIK och Östers IF förbi - och GAIS kom aldrig tillbaka och landade till slut på en kvalplats - 3 poäng efter Östers IF och 2 poäng före Ljungskile SK, som var nykomlingar detta år. Detta innebar att man fick kvala om en plats i Allsvenskan mot tolvan i Fotbollsallsvenskan 2005 Landskrona BoIS. GAIS vann hemma med 2-1 och spelade 0-0 borta och gick därmed upp, efter en riktig kämparinsats med 10 man i mer än en halvlek.

I Fotbollsallsvenskan 2006 lyckades laget, efter en tiondeplacering, hålla sig kvar samtidigt som lokalkonkurrenterna Örgryte IS och BK Häcken åkte ur tillsammans med det andra före detta superettanlaget Östers IF. 2007 slutade Gais på elfte plats och var aldrig riktigt nära bottenstriden, i slutet var det rykten om att Roland Nilsson skulle skriva på för Malmö FF, han nekade till det men till sist blev det klart att han bytte arbetsgivare till Malmö tillsammans med sin assisterande tränarare Hans Gren.