Em 1986, filiado ao PSDB, ele foi nomeado pelo então presidente José Sarney (PMDB) presidente da Fundação Nacional do Índio (Funai). Dois anos depois, aos 34 anos, Sarney o indicou para governador do recém-criado estado de Roraima. Em 1990, tentou manter a vaga por meio do voto popular, mas perdeu a eleição. Jucá jamais voltaria a assumir os principais cargos do Poder Executivo e ganhou espaço no Poder Legislativo e se tornou um forte articulador no Congresso.
Jucá se envolveu em polêmicas logo nos primeiros anos em que ocupou cargos importantes na capital federal.
Em 1992, foi nomeado por Fernando Collor para a Companhia Brasileira de Abastecimento (Conab), ligada ao ministério da Agricultura, onde ficou até 1994, quando foi eleito senador pelo PPR. Logo no início do governo FHC, Jucá foi denunciado pelo Ministério Público Federal (MPF) em processo por corrupção, formação de quadrilha e peculato, que teriam sido praticados durante sua passagem pela Funai. Ainda assim, mediante recurso junto ao Tribunal Superior Eleitoral (TSE), conseguiu tomar posse no Senado. Em seguida ele foi chamado para a vice-liderança do governo de Fernando Henrique Cardoso e se tornou um dos principais articuladores do tucano no Congresso.
Logo que o PSDB deixou o Planalto Jucá se mudou para o PMDB, em 2003, e passou a articular o apoio da legenda ao governo Lula. Em 2005 assumiu o ministério da Previdência do governo petista, mas foi exonerado aós denúncias de corrupção, e voltou para o Congresso, onde liderou a bancada governista. Jucá manteve a liderança do governo até 2012, ficando por dois anos como líder do governo Dilma no Senado. Desde então, passou a criticar a falta de diálogo de Dilma com lideranças parlamentares e articulou a queda da petista.
O peemedebista teve papel importante nas negociações para a votação do desembarque do PMDB da aliança com o governo da presidente afastada Dilma, concretizado em março, durante votação por aclamação. Jucá, ao lado de Eduardo Cunha (PMDB) e o ministro da Casa Civil Eliseu Padilha, coordenaram a reunião que durou menos de quatro minutos e oficializou o rompimento com a petista. “A partir de hoje ninguém no país está autorizado a exercer qualquer cargo federal em nome do PMDB”, afirmou Jucá.
No ano passado, Jucá teve seu nome envolvido no esquema de corrupção da Petrobras, investigado pela operação Lava Jato. Em delação premiada, alguns empreiteiros citaram pagamentos de propinas para o político. Jucá nega as denúncias e ressaltou, ao assumir o cargo de ministro do Planejamento, que denúncias são diferentes de condenações e, por isso, está tranquilo sobre sua permanência no governo. .