Providencen perusti vuonna 1636 Roger Williams, joka oli lähtenyt Massachusetts Bay Colonysta etsimään uskonnonvapautta itselleen ja muille. Pian tämän jälkeen hänen seuraansa liittyi toinen joukko pakolaisia Massachusettsista, mukaan lukien Anne Hutchinson, joka myöhemmin perusti Portsmouthin. Muutaman vuoden kuluessa asutettiin neljä paikkaa. Williams matkusti Englantiin vuonna 1643 ja sai parlamentaarisen patentin, joka yhdisti kaikki neljä yhdeksi siirtokunnaksi, jonka pääkaupunki oli Providence.Williamsilla oli aluksi erinomaiset suhteet alueella asuneeseen wampanoag-intiaaniheimoon, mutta vuosien mittaan nämä suhteet huonontuivat. Tämä heikkeneminen huipentui kuningas Filipin sodan aikana vuosina 1675-1676. Providence kärsi vakavia vahinkoja ryöstöretkellä, mutta wampanoagit voitettiin lopulta. 1700-luvun puoliväliin mennessä Rhode Islandille oli kehittynyt suuria plantaaseja, joilla käytettiin mustia ja wampanoagien orjia, mutta orjuus lakkautettiin Rhode Islandin rajojen sisäpuolella vuonna 1774.Brittijoukot eivät koskaan miehittäneet Providencea itsenäisyyssodan aikana. Myöhempinä vuosina kaupunki sai mainetta tuotantokeskuksena ja sai kaupunkioikeudet vuonna 1832. Maahanmuuttovastainen Know-Nothing-puolue sai vallan Providencessa vuonna 1856, mutta sen vaikutusvalta väheni nopeasti. Republikaaninen puolue otti poliittisen vallan, jonka se säilytti 1930-luvulle asti.Sisällissodan aikana Providence osoitti toistuvasti tukevansa unionia. Presidentti Abraham Lincoln kutsui vapaaehtoisia 15. huhtikuuta 1861, ja vain kolmen päivän kuluttua ensimmäinen tykistöosasto lähti Providencesta taisteluun. Sisällissodan aikana kaupunki kehitti myös ensimmäisen joukkoliikennevälineensä, joka koostui hevosvetoisista vaunuista, jotka yhdistivät Providencen lähiöihin.Sodan jälkeen Providence jatkoi teollista kehitystään. Amerikan suurin höyrykonetehdas sijaitsi Providencessa, ja se toimitti mammuttimaisen höyrykoneen, joka pyöritti näyttelyesineitä Philadelphian näyttelyssä vuonna 1876. Kun Providence oli jakanut pääkaupungin roolin Newportin kanssa useiden vuosien ajan, siitä tuli osavaltion ainoa pääkaupunki vuonna 1900. State Housen rakentaminen oli aloitettu vuonna 1895, mutta se valmistui vasta vuonna 1901. Vuonna 1911 marseillelainen Fabre Line teki Providencesta Amerikan päätepysäkin Atlantin ylittäville höyrylaivareiteilleen. Koska linja kävi satamissa Italiassa, Portugalissa ja Azoreilla, näiltä alueilta tuleva maahanmuutto oli erityisen merkittävä osa Providencen kasvua seuraavien vuosikymmenten aikana.Providence on täynnä historiaa, ja siellä on nähtävyyksiä, kuten Roger Williamsin kansallinen muistomerkki, jossa muistellaan Rhode Islandin perustajan elämää. Luonnonhistoriallinen museo on Rhode Islandin ainoa luonnonhistoriallinen museo, ja siellä sijaitsee osavaltion ainoa planetaario. John Brown House Museum sijaitsee talossa, joka valmistui vuonna 1788 Brownin, liikemiehen, patriootin, poliitikon, kiinakaupan pioneerin ja orjakauppiaan toimesta. Myöhemmin komean kartanon omisti Marseden Perry, Providencen hyöty-, kiinteistö- ja raitiovaunumoguli.Providencessa on myös pari historiallista kirkkoa. Amerikkalaisesta arkkitehtuurista kiinnostuneille yksi Providencen pakollisista nähtävyyksistä on Amerikan ensimmäinen baptistikirkko, jonka rakensivat vuonna 1775 lukuisat laivanrakentajat ja kirvesmiehet, jotka jäivät työttömiksi sen jälkeen, kun britit sulkivat Bostonin sataman rangaistuksena Bostonin teekutsusta. Vuonna 1816 käyttöön vihityn Providencen ensimmäisen unitaarikirkon tornissa on kello, joka on suurin Paul Reveren ja hänen poikansa Cantonissa Massachusettsissa sijaitsevassa valimossa valettu kello.Brownin yliopisto, jonka alkuperäinen nimi oli ”Rhode Island College”, on alun perin Warrenissa sijainnut Ivy League -yliopisto, joka siirrettiin Providenceen vuonna 1771.