Jabeur, quinta no ranking feminino, reagiu depois de perder um set para Rogers (31) e venceu com parciais de 4-6, 6-4 e 6-3.
A tunisiana, vice-campeã na última edição de Wimbledon, jogará suas primeiras oitavas de final no Grand Slam de Nova York contra a russa Veronika Kudermetova, número 18 do mundo, que venceu a húngara Dalma Galfi por 6-2 e 6-0.
Rogers dominou no início do jogo, impulsionada pelo público da quadra de Louis Armstrong, a segunda maior de Flushing Meadows.
Jabeur cometeu 22 de seus 38 erros não forçados nesse set, mas foi ganhando precisão nas trocas até quebrar o saque de Rogers no nono game do segundo set.
No set decisivo, a tunisiana fez valer sua experiência e conseguiu duas rápidas quebras que Rogers não conseguiu mais recuperar.
"Foi um jogo muito louco, Shelby jogou muito bem. Estou muito feliz por ter lutado até o final", disse Jabeur, que este ano colheu seus melhores resultados com títulos em Berlim e Madri.
Jabeur e Iga Swiatek, número um do mundo, são as únicas representantes do Top-5 da WTA que seguem na disputa em Nova York, após as eliminações nas duas primeiras rodadas de Anett Kontaveit, Maria Sakkari e Paula Badosa.