Jeho prarodiče Matilde Muñoz Sampedro a Rafael Bardem byly herci, matka Pilar Bardem je herečka jako jeho sestra Monica a bratr Carlos. Jeho strýc Juan Antonio Bardem je slavný španělský režisér.

Než se stal hercem, hrál rugby ve španělském národním rugbyové družstvu, studoval malířství na Escuela de Artes y Oficios, studium však nedokončil.

Jako 11 letý si zahrál malou roli v komedii El Poderoso influjo de la luna, o deset let později hrál ve filmu Las edades de Lulú katalánského režiséra Lenku.

Roku 1997 ho obsadil Pedro Almodóvar do role policisty Davida v dramatu Na dno vášně. Za ztvárnění homosexuálního kubánského básníka Reinalda Arenase ve filmu Než se setmí (2000) režiséra Juliana Schnabela byl nominován na cenu akademie jako první španělský herec. V roce 2006 si zahrál výraznou postavu inkvizitora Lorenza ve filmu Miloše Formana Goyovy přízraky.

V roce 2008 získal Oscara za vedlejší roli ve filmu bratří Coenů Tahle země není pro starý (profesionální zabiják Anton Chigurh).