1969-től MSZMP-tag. 1977-től a KISZ Veszprém Megyei Bizottságának titkára, majd első titkára. 1985-ben bekerült Veszprém Város Tanácsába, ahol tanácselnök-helyettes lett. A megyei reformköri mozgalom egyik elindítója és szervezője. 1989 októberében az MSZP alapítója, a megyei pártszervezet első elnöke. 1990. májustól a párt országos titkára, novembertől ügyvezető alelnöke. 1994. októbertől 1998. szeptemberig pártalelnök, 1994-ben, majd 1998-ban a parlamenti választások első fordulójában a párt kampányfőnöke. 1998–2003 között országos elnökségi tag, 2003 március 29-én újra az MSZP alelnökévé választották. 2004. október 16-tól a párt elnökhelyettese.
1994-ben, 1998-ban és 2006-ban Jász-Nagykun-Szolnok megye 2. számú választókerületében (Jászapáti) egyéni országgyűlési képviselőnek választották. 1994. június 28-tól 1998. június 17-ig az MSZP-képviselőcsoport vezetője. 1998–2002-ben az Országgyűlés költségvetési és pénzügyi bizottságának elnöke. 2002 áprilisában megyei listán szerzett mandátumot. 2002. június 4-től 2004. október 4-ig a Miniszterelnöki Hivatal általános jogkörű politikai államtitkára volt.
2006. június 9-től honvédelmi miniszter,megbízatása folytatódott 2009. áprilisától a Bajnai-kormányban.

1977-1985	Veszprém Város Tanácsa	tanácselnök-helyettes
1990	MSZP	országos titkár
1990-1994	MSZP	ügyvezető alelnök
1994-1998	MSZP	elnök
1998-2003	MSZP	országos elnökség tagja
2003-2004	MSZP	alelnök
2002-2004	Miniszterelnöki Hivatal	politikai államtitkár
2006-2009.	Honvédelmi Minisztérium	miniszter
2009. április - 2010. május	Honvédelmi Minisztérium	miniszter