Poetas gimė 1928 metų spalio 4 dieną Joniškyje, studijavo teisę Vilniaus universitete. 1959 metais baigė Maskvos M. Gorkio literatūros instituto aukštuosius literatūros kursus. Dirbo „Tiesos“, „Švyturio“, „Kauno tiesos“, „Literatūros ir meno“, „Pergalės“ redakcijose. 1976-1985 m. - "Pergalės" žurnalo vyriausiasis redaktorius.
Nuo 1956 metų J. Macevičius buvo Lietuvos rašytojų sąjungos narys.
Išleido keliolika poezijos rinkinių, literatūrinės kritikos tomą, vertė V. Majakovskio ir kitų rusų poetų kūrinius, pastaruosius dešimtmečius skyrė daugiausiai literatūros vertimams iš vokiečių kalbos.
Už eilėraščių rinkinį „Kasdieniška knyga“ 1970 apdovanotas LTSR valstybine premija, o 1969 metais tapo „Poezijos pavasario“ laureatu.
Ankstyvojoje kūryboje deklaratyviai poetizavęs sovietinį gyvenimą, vėlesniuose kūriniuose skausmingai apmąstė amžininkų nueitą kelią ir dramatiško laiko potyrius.
Vykdant poeto valią, lapkričio 18 dieną jis palaidotas Antakalnio kapinėse.