Fils d'immigrés espagnols, José Garcia intègre le cours Florent avec pour enseignant Francis Huster, et complète sa formation en passant par l'école Fratellini et l'Actor's Studio.

Chauffeur de salle pour l'émission Nulle part ailleurs, il est repéré par Antoine de Caunes, dont il devient bientôt le comparse à l'antenne. Apparu sur grand écran en 1989 dans Romuald et Juliette, il trouve quelques petits rôles (Elisa, Beaumarchais l'insolent) avant d'exploser en 1997 dans La Vérité si je mens ! de Thomas Gilou : nommé au César du Meilleur espoir.

Il incarne un autre personnage haut en couleurs dans Jet set de Fabien Onteniente, en 2000. Puis il dévoile une facette plus sombre dès 1999 avec Extension du domaine de la lutte, adaptation du roman désenchanté de Houellebecq par Philippe Harel. Récompensé en 2001 par le Prix Jean-Gabin, José Garcia s'impose comme un des acteurs comiques les plus doués de sa génération, aux côtés notamment de Benoît Poelvoorde son partenaire dans Le Vélo de Ghislain Lambert, 2000).

Devenu une valeur sûre au box-office, il forme des duos détonants avec Timsit (Quelqu'un de bien, 2001) ou Daniel Auteuil (Après vous, 2002). Isabelle Doval, sa compagne lui offre en 2003 le rôle d'un ostéopathe drôle à en mourir dans Rire et châtiment. Loin de se cantonner au registre burlesque, José Garcia campe avec conviction un chômeur qui se mue en serial killer dans Le Couperet, thriller social de Costa-Gavras (2005).
Il tourne également en Espagne sous la direction de Carlos Saura dans Le 7ème jour (2004), avant d'incarner un amnésique dans La Boîte noire de Richard Berry.