Em 1986, filiado ao PSDB, ele foi nomeado pelo então presidente José Sarney (PMDB) presidente da Fundação Nacional do Índio (Funai). Dois anos depois, aos 34 anos, Sarney o indicou para governador do recém-criado estado de Roraima. Em 1990, tentou manter a vaga por meio do voto popular, mas perdeu a eleição. Jucá jamais voltaria a assumir os principais cargos do Poder Executivo e ganhou espaço no Poder Legislativo e se tornou um forte articulador no Congresso.
Jucá se envolveu em polêmicas logo nos primeiros anos em que ocupou cargos importantes na capital federal. Em dezembro de 1989, pouco depois de deixar a presidência da Funai, ele manifestou-se contra o plano de retirada de cerca de 40 mil garimpeiros que haviam invadido terras indígenas ianomâmis. Meses antes da eleição para governador de Roraima, em que o peemedebista tentava permanecer na cadeira, a Procuradoria-Geral da República denunciou Jucá sob acusação de que, quando era presidente da Funai, ele realizou venda ilegal, mediante suborno, de madeiras de lei ad reserva indígena Uru-eu-au-wau.
Em 1992, foi nomeado por Fernando Collor para a Companhia Brasileira de Abastecimento (Conab), ligada ao ministério da Agricultura, onde ficou até 1994, quando foi eleito senador pelo PPR. Logo no início do governo FHC, Jucá foi denunciado pelo Ministério Público Federal (MPF) em processo por corrupção, formação de quadrilha e peculato, que teriam sido praticados durante sua passagem pela Funai. Ainda assim, mediante recurso junto ao Tribunal Superior Eleitoral (TSE), conseguiu tomar posse no Senado. Em seguida ele foi chamado para a vice-liderança do governo de Fernando Henrique Cardoso e se tornou um dos principais articuladores do tucano no Congresso.
Logo que o PSDB deixou o Planalto Jucá se mudou para o PMDB, em 2003, e passou a articular o apoio da legenda ao governo Lula. Em 2005 assumiu o ministério da Previdência do governo petista, mas foi exonerado aós denúncias de corrupção, e voltou para o Congresso, onde liderou a bancada governista. Jucá manteve a liderança do governo até 2012, ficando por dois anos como líder do governo Dilma no Senado. Desde então, passou a criticar a falta de diálogo de Dilma com lideranças parlamentares e articulou a queda da petista.
O peemedebista teve papel importante nas negociações para a votação do desembarque do PMDB da aliança com o governo da presidente afastada Dilma, concretizado em março, durante votação por aclamação. Jucá, ao lado de Eduardo Cunha (PMDB) e o ministro da Casa Civil Eliseu Padilha, coordenaram a reunião que durou menos de quatro minutos e oficializou o rompimento com a petista. “A partir de hoje ninguém no país está autorizado a exercer qualquer cargo federal em nome do PMDB”, afirmou Jucá.
No ano passado, Jucá teve seu nome envolvido no esquema de corrupção da Petrobras, investigado pela operação Lava Jato. Em delação premiada, alguns empreiteiros citaram pagamentos de propinas para o político. Jucá nega as denúncias e ressaltou, ao assumir o cargo de ministro do Planejamento, que denúncias são diferentes de condenações e, por isso, está tranquilo sobre sua permanência no governo.