Après des études de littérature anglaise, il étudie les Beaux-Arts à l’université Yale entre 1961 et 1964. Pour financer ses études d’arts plastiques, il travaille dans une aciérie, ce qui aura une grande importance dans ses travaux futurs, tout comme le fait que son père ait travaillé sur des chantiers navals. De même un séjour à Paris en 1965, où il travaille à l’Académie de la Grande Chaumière, lui permet de découvrir et d’admirer l’œuvre de Brancusi : « c’est là que s’est produit mon passage vers la sculpture ». Il expose pour la première fois à Rome en 1966 et chez Leo Castelli à New-York en 1969. Il retourne à New York fin 1966, où il vit et travaille depuis lors.
Les premières œuvres réalisées par Serra – des projections de plomb fondu sur les murs – sont directement influencées par l’expressionnisme abstrait. Mais très vite, il se tourne vers le minimalisme et des œuvres plus ambitieuses. Il réalise alors d’imposantes sculptures en acier Corten avec de grandes plaques ou rouleaux d’acier inoxydable, posées en équilibre sur le sol. Serra applique au pinceau sur les plaques une solution qui leur donne un aspect de rouille. Il peut ainsi contrôler la couleur de ses sculptures avant d’interrompre la corrosion. Il met en scène le poids des lourdes plaques comme une épreuve de force dramatique imposée au fer, à l’acier, au plomb, et transpose ainsi en qualités plastiques le poids, les masses, la pesanteur et leur développement vers l’orientation, le déroulement, l’horizon. Il utilise alors une nuance d’acier résistant aux intempéries, le DIWETEN 235, qui – par un ajout de cuivre dans sa composition – vient former à la surface de la tôle une sorte de patine. Les tôles sont laminées et la surface de la tôle doit rester libre de tout marquage, poinçonnage, ou traces de graisse, afin de conserver l’aspect le plus brut possible. Il n’y a après formage/fabrication de la pièce aucune intervention sur la surface : c’est avec le temps et le contact avec l’air que le matériau va patiner.
Les sculptures permettent une vision nouvelle d’un lieu et d’un espace. Elles participent à un subtil dialogue avec leur environnement. Les jeux d’équilibre, le poids de l’acier et la hauteur des plaques créent pour le spectateur – qui peut souvent circuler entre celles-ci – un sentiment d’insécurité et de petitesse, nuancé par la beauté de la couleur de la rouille ou les perspectives offertes par les lignes courbes, élancées et pures des plaques en équilibre avec leur environnement. Le côté instable des montages est parfois majorée par la matière utilisée dans certaines œuvres, le plomb, destiné, tôt ou tard, à s’affaisser (One Ton Drop (house of cards), 1969, faite de quatre plaques de plomb en équilibre).
Serra travaille également sur le cube. Sollicité au monastère royal de Brou à Bourg-en-Bresse, il préfèrera pour ne pas rivaliser avec « l’objet parfait » que constitue l’église s’inscrire dans un intérieur-extérieur, un des cloîtres du monastère. Écho des tombeaux du couple princier à l’origine du lieu, deux blocs d’acier Corten incitent le visiteur à renouer avec la déambulation spirituelle.