Né en 1842 à Santiago de Cuba, Heredia est, par son père, le descendant de ces conquistadores espagnols dont il conte les ambitions dans Les Conquérants.

Dès 1862, Heredia compose des vers. Ami de Sully Prudhomme, de Catulle Mendès et, surtout, de son maître Leconte de Lisle, il est l'un des principaux animateurs du Parnasse contemporain en 1866.
Heredia ne publie qu'un seul recueil, Les Trophées (1893), livre composé de 118 sonnets remarquables pour leur versification virtuose et pour la richesse de leur vocabulaire. Il entre à l'Académie française en 1894, occupant le fauteuil de Leconte de Lisle.
Heredia meurt à Paris, en 1905.