Sylwester urodził się w drugiej połowie III wieku w Rzymie. Był synem Rufina – kapłana, który w czasie prześladowań dioklecjańskich przechowywał księgi liturgiczne i Pismo Święte należące do Kościoła w Rzymie lub (według innych relacji). Po wczesnej śmierci ojca został oddany na wychowanie do pewnego uczonego kapłana. Młodzieniec posiadł „mądrości książkowe” i „cnotliwe usposobienie”. Spowodowały one, iż ze szczególną miłością odnosił się do wędrujących pielgrzymów. Przyjmował ich do swego domu i otaczał wszechstronną opieką.

W wieku trzydziestu lat Sylwester został wyświęcony na diakona, a następnie prezbitera. Jego gorliwa służba Bogu sprawiła, iż cieszył się powszechnym szacunkiem i w 314 roku został wybrany papieżem.

Jego pontyfikat przypada na czas po ogłoszeniu edyktu mediolańskiego gwarantującego swobodę wyznania chrześcijanom – od 31 stycznia 314 do 31 grudnia 335 roku. W Liber Pontificalis (VII-VIII w.) i u Anastazego znajduje się o nim niewiele więcej niż spis darowizn udzielonych Kościołowi przez Konstantyna Wielkiego. Papież polecił rzymski dzień słońca (dies solis) jako Dzień Pański (pamiątka zmartwychwstania Chrystusa) a Konstantyn Wielki dekretem w 321 roku ogłosił niedzielę wolną od pracy.

Za jego pontyfikatu odbył się I sobór powszechny w Nicei nad Bosforem (325 r.). Nie uczestniczył w nim osobiście – wysłał tam jednak swoich legatów, a następnie zatwierdził uchwały tegoż soboru. Przyjęto tam m.in. Wyznanie wiary, które wypowiadamy w czasie Mszy św., oraz ogłoszono dogmat o Boskości Syna i Jego równości z Ojcem.

Dokonał uroczystej konsekracji bazylik św. Piotra na Watykanie (18 listopada 326 roku) i św. Jana na Lateranie (324 roku), które zostały ufundowane przez Konstantyna Wielkiego, a to dało początek uroczystym konsekracjom podobnych budowli.

Wiele legend z nim związanych okazało się nieprawdziwych, np. o ochrzczeniu przez niego Konstantyna Wielkiego – władcę na łożu śmierci ochrzcił Euzebiusz z Nikomedii.

Sylwester zmarł w Rzymie 31 grudnia 335 roku. Został pochowany na cmentarzu św. Pryscylli przy Via Salaria. W VII w. wybudowano tam bazylikę ku jego czci. Obecnie część relikwii świętego znajduje się w kościele parafialnym w Nonantola – 11 km od Modeny.

Św. Sylwester jest patronem zwierząt domowych, wzywany bywa w modlitwie o dobre zbiory paszy, a także o szczęśliwy i pomyślny nowy rok.

Dzień św. Sylwestra jest ostatnim dniem w roku kalendarzowym. Dlatego w kościołach urządza się wieczorem specjalne nabożeństwo dziękczynne. Duszpasterze zdają wiernym sprawozdania z całorocznej pracy w parafii.

Jego imię związane jest z nocą sylwestrową.