Der Kremser SC wurde am 24. August 1919 als 1. Kremser Sport-Club mit den Vereinsfarben Schwarz-Weiß gegründet und trat am 1. Oktober 1919 dem Niederösterreichischen Fußballbund bei. Bereits im Gründungsjahr wurde das Kremser Vereinslogo geschaffen, das heute noch in Verwendung steht.
1930 feierte der Kremser SC seinen ersten großen Erfolg mit dem Gewinn der österreichischen Amateurmeisterschaft. In den Finalspielen bezwangen die Niederösterreicher den Vorgänger der heutigen Austria Lustenau, den FA Turnerbund Lustenau. 1954 stiegen die Kremser erstmals in die Staatsliga B und 1956 sogar in die Staatsliga A auf. Nach Auflösung der Staatsliga B konnte sich der Sportclub immerhin bis 1974 in der Regionalliga Ost halten, bevor es wieder zurück in die Landesliga Niederösterreich ging. Von 1977 bis 1980 spielte man dann wieder in der 2. Division der Bundesliga, stieg aber danach wieder in die Landesliga ab. 1983 folgte die Rückkehr in die zweite Spielstufe, in der sich der Kremser SC kontinuierlich zu einem Spitzenverein der Liga entwickelte.
Die nächsten Jahre wurden die erfolgreichsten des niederösterreichischen Traditionsvereins. Im Spieljahr 1987/88 erreichte der damalige SC Sparkasse Krems sensationell das Pokalfinale und blieb dort gegen den übermächtig scheinenden FC Swarovski Tirol mit 2:0 und 1:3 aufgrund der Auswärtstorregel erfolgreich. Der Gewinn des österreichischen Pokalbewerbes stellt bis heute den größten Erfolg in der langen Vereinsgeschichte dar. Dieser ermöglichte den Kremsern die Teilnahme am Europapokal der Pokalsieger 1988/89 und am Supercup, der gegen den österreichischen Rekordmeister Rapid Wien nach einem 1:1 n.V. erst im Elfmeterschießen mit 1:3 verloren wurde. Im Europapokal scheiterte man in der ersten Runde deutlich gegen den DDR-Pokalsieger, den FC Carl Zeiss Jena nach einem 0:5 in Jena und einem 1:0-Heimsieg.
Durch gezielte Verstärkungen – unter anderem spielte Hans Krankl für die Schwarz-Weißen – wuchs der Kremser SC zu einer ernst zu nehmenden Kraft im österreichischen Fußball heran und schaffte 1989 mit dem vierten Rang im Aufstiegs-Play-Off sogar den Aufstieg in die 1. Division der Bundesliga, in der sich der Verein immerhin bis 1992 halten konnte. Der Star der Kremser war im letzten Jahr der Erstligazugehörigkeit der ehemalige argentinische Weltmeister Mario Kempes. Die bekanntesten Trainer in der Wachaumetropole waren sicherlich Robert Dienst und Ernst Weber.
Nach dem Abstieg aus der 1. Bundesliga erlebte der Verein eine bewegte Berg- und Talfahrt, die die Schwarz-Weißen in der Saison 2008/09 sogar in die fünftklassige 2. Landesliga-West hinunterspülte. In der Saison 2013/2014 verlor der Kremser Sportclub kein einziges Pflichtspiel, wurde ungeschlagen Meister und stieg wieder in die 1. NÖ Landesliga auf. In der Saison 2014/2015 wurde der SC Steinertor Krems mit nur zwei Niederlagen Vizemeister hinter dem ASK Ebreichsdorf. In der Saison 2017/2018 hat das Team von Heimkehrer Frenkie Schinkels mit fünf Siegen in fünf Spielen einen perfekten Start hingelegt und seine Ambitionen auf den Aufstieg in die Regionalliga eindrucksvoll untermauert, was schlußendlich aber wieder nicht gelungen ist. Nach mehreren zweiten Plätzen war es im Spieljahr 2021/22 dann aber soweit. Aufgrund eines Mangels an Teilnehmern an der Regionalliga Ost wurde eine Relegation um den letzten Startplatz gespielt, in der der Kremser SC auf Parndorf und den SV Donau traf. Parndorf wurde daheim 7:1 besiegt und so reichte ein 1:1 Unentschieden in Wien in einem hochdramatischen Spiel (Ausgleich durch Kurt Starkl in der 95. Spielminute) zum Aufstieg in die Regionalliga Ost. Dort erreichte der KSC in der Saison 2022/23 den respektablen siebenten Platz.
Auch in der Regionalliga setzt der Kremser SC weiterhin großteils auf Spieler aus der eigenen Region. Im Frühjahr 2023 wurde mit Young Sport Krems eine Nachwuchsinitiative gegründet, an der auch der KSC beteiligt ist. Ziel dieses Projekt ist es, den Kremser Jugendsport, vor allem auch den Fußball, auf professionelle Beine zu stellen.
Im März 2024 hat der Kremser SC erstmals in seiner Vereinsgeschichte einen Zulassungsantrag zur Teilnahme an der zweiten österreichischen Fußballbundesliga gestellt. Nach einem vierten Platz in der Meisterschaft gelang der Aufstieg allerdings nicht.
Am 27. Juli 2024 lieferte sich der Kremser SC einen unglaublichen Cupfight mit dem regierenden Meister und Cupsieger Sturm Graz. Der KSC musste sich vor 7.000 ZuschauerInnen erst in der Verlängerung durch zwei späte Tore mit 2:4 geschlagen geben.