Membre du Parti radical-démocratique, Pierre Cevey a été élu au Conseil d'État le 26 février 1984 à l'âge de 51 ans, lors d'une élection complémentaire. Il a pris le siège laissé vacant par Jean-Pascal Delamuraz, qui avait été élu au Conseil fédéral après avoir oeuvré en tant que chef du Département de l'agriculture, de l'économie et du commerce au sein du Conseil d'Etat.
Député au Grand Conseil de 1974 à 1984, Pierre Cevey a dirigé de 1984 à 1994 le Département de l'instruction publique et des cultes, actuel Département de la formation, de la jeunesse et de la culture.
Assermenté le 26 février 1984 par le Grand Conseil, il a mis en oeuvre la nouvelle loi scolaire du 12 juin 1984 et présidé en 1990 le Conseil d'État.
Engagement pour la culture
C'est sous son impulsion que fut créée en 1987 la Fondation vaudoise pour la culture qu'il présida jusqu'à la fin de son mandat en 1994. Chaque année, des grands prix seraient décernés à trois artistes, à quoi devait s'ajouter une série d'hommages et des distinctions pour jeunes talents.
Pierre Cevey fut également membre du Conseil suisse de la science et l'innovation de 1989 à 1994.