固原歷史悠久，曾是中國古代西北重鎮之一，是古絲綢之路東段北道的必經之地，也是著名的革命老區。六盤山是中國工農紅軍長征翻越的最后一座大山。毛澤東同志的壯麗詩篇《清平樂·六盤山》名揚中外。

考古發現，境內舊石器時代晚期的嶺兒、劉河遺址及其層位的打制石器和動物化石，都說明遠在3萬年前，就有人類在固原境內繁衍生息，到公元前3000年左右的新石器時代，境內各河谷地帶的大量先民已從事畜牧業和農業生產。相傳固原境內曾是伏羲、女媧等人文始祖活動過的地方。戰國時期，境內屬秦國版圖。最早的行政建置始于秦惠文王更元十一年（前314年），秦攻義渠，得25城，滅烏氏戎，置烏氏縣（今固原市境內）。秦昭王三十五年（前272年），宣太后誘殺義渠戎王，秦滅義渠國，設朝那縣（今彭陽縣古城鎮），并在境內筑戰國秦長城。西漢武帝元鼎三年（前114年）析北地郡置安定郡，郡治高平縣（今原州區），共轄21縣，屬今市境的有高平、朝那、烏氏3縣和月氏道（今隆德縣境）。東漢沿襲西漢建置。西晉新置都盧縣（今西吉縣境內）。在東晉時有高平、朝那、烏氏、都盧4縣。南北朝時，市境先后為北魏、西魏、北周屬地。北魏太延二年（436年）置高平鎮，正光五年（524年）改高平鎮為原州，并置高平郡和縣，均治高平。原州領高平、長城2郡，高平、里亭、黃石、白池4縣。北周置原州總管府，仍領2郡4縣。隋統一全國后，于大業三年（607年）廢原州總管府，置平涼郡，領平高（改高平為平高）、百泉、默亭、他樓4縣。唐武德元年（618年）廢平涼郡復置原州，貞觀五年（631年）復置原州中都督府，天寶元年（742年）又改為平涼郡。廣德年間（763～764年）沒于吐蕃。宋朝屬市面上境的有鎮戎軍（今原州區）、懷德軍（今原州區黃鐸堡鄉）、德順軍（今隆德縣）。金升軍為州，改鎮戎軍為鎮戎州，德順軍為德順州，廢懷德軍。元朝設有開成路、開成州（今原州區開城鎮）、廣安州（今彭陽縣古城鎮）。明置固原衛和固原州。清代設有固原州、隆德縣、海城縣和化平川直隸廳辛亥革命后，將固原州改為固原縣，海城縣改為海原縣，化平川直隸廳改為化平縣。1936年，紅軍西征部隊到達固原，在固原縣東北部設固北縣，隸屬陜甘寧省，此后不久即撤，回歸固原縣。1942年，新置西吉縣。中華人民共和國成立后，將化平縣改為涇源縣。1953年11月1日，甘肅省西海固回族自治區成立，轄西吉、海原、固原3縣。1955年11月改稱固原回族自治州。1958年10月，寧夏回族自治區成立，撤銷固原回族自治州，成立固原地區行政公署，轄固原、海原、西吉、隆德、涇源5縣。1983年從固原縣析置彭陽縣。2003年7月，改固原地區行政公署為固原市，固原縣改稱原州區，轄海原縣、西吉縣、隆德縣、涇源縣、彭陽縣和原州區。2004年6月，海原縣劃歸中衛市管轄。