Fue elegido diputado en las primeras elecciones autonómicas gallegas en 1981, aunque tras lograr un acta como concejal en Pontevedra, pronto se convirtió en presidente de la Diputación de esta provincia. Posteriormente fue elegido diputado nacional por la misma circunscripción y unos meses después fue nombrado vicepresidente de la Xunta de Galicia.
En las elecciones de 1989 logró de nuevo su acta como diputado en el Congreso y entró a formar parte de la dirección nacional del Partido Popular como vicesecretario general. Tras la llegada del PP al Gobierno en 1996, asumió diferentes carteras ministeriales, Administraciones Públicas, Educación y Cultura, Interior y Presidencia, así como el cargo de vicepresidente primero y ministro portavoz del Gobierno.
En 2003 fue elegido secretario general y candidato a la presidencia del Gobierno y, al año siguiente, presidente del Partido Popular. Tras las elecciones de 2004 y 2008, – en las que el PP obtuvo el mejor resultado obtenido nunca por el partido de la oposición- en noviembre de 2011 logró la mayoría absoluta alcanzando la presidencia del Gobierno.
En 2015 volvió a ganar las elecciones y después de su repetición en 2016 fue investido de nuevo presidente del Gobierno, cargo en el que permaneció hasta junio de 2018. Unos días después renunció a la presidencia del Partido Popular y a su escaño como diputado, que ocupaba desde la III Legislatura, para regresar a su puesto de funcionario, que desempeña hoy día. Está casado y tiene dos hijos.