Tout en exerçant différents emplois alimentaires aux PTT (La Poste) ou dans le cinéma, et en collaborant au service culturel du quotidien Rouge, auquel il fournissait des articles sur le free-jazz, il était devenu dans les années 1970, lecteur pour le Seuil, qu'il a rejoint en 1981 et où il a effectué toute sa carrière dans l'édition, jusqu'en 2003.
D'abord responsable du service des manuscrits de la maison et membre de son comité de lecture, cet "immense lecteur et découvreur de talent", souligne-t-on au Seuil, y devient éditeur à part entière en 1992.
Gilles Carpentier a notamment découvert l'écrivaine hongroise Agota Kristof, qui rencontre un immense succès en France avec Le grand cahier (1986), suivi entre autres par La preuve (1988) et par Le troisième mensonge (1991, Prix du Livre Inter 1992), ainsi que l'écrivain marocain Abdelhak Serhane.
La littérature africaine
Passionné par les littératures africaines, Gilles Carpentier est aussi reconnu pour avoir édité au Seuil de nombreux auteurs du continent, en particulier l'écrivain ivoirien multiprimé Ahmadou Kourouma, Prix du Livre Inter pour En attendant le vote des bêtes sauvages (1998) et Prix Renaudot pour Allah n'est pas obligé (2000), le Congolais Sony Labou Tansi, le Guinéen Tierno Monénembo ou le Togolais Kossi Efoui.
En tant qu'écrivain, Gilles Carpentier a lui-même signé six romans. Cinq sont parus au Seuil : Les Manuscrits de la marmotte (1984), Tous couchés (1988), Haussmann m'empêche de dormir (1992) Scandale de bronze, Lettre à Aimé Césaire (1994) et Couper cabèche (1999). Le sixième, Les bienveillantes, à ne pas confondre avec le titre homonyme de Jonathan Littel, a été publié en 2002 chez Stock par l'éditeur Jean-Marc Roberts.