Matt et Jeff rêvaient de devenir des lutteurs depuis leur plus tendre enfance. Ils écoutaient la lutte très souvent et quand Jeff a eu 16 ans, il est apparu à la WWF comme jobber. Plus tard, Jeff et Matt ont commencé à travailler pour des fédérations indépendantes, ils finirent par signer un contrat en 1998 et ont été entraînés par l'ancien lutteur Dory Funk, Jr.
Il remporte sept fois le World Tag Team Championship avec son frère Matt Hardy. En, 2000, Lita rejoint l'équipe et forme le clan Team Xtreme.
En 2001 Jeff remporte le Intercontinental Championship et le Light Heavyweight Championship.
En avril 2002, l'équipe entre dans la feud face à Brock Lesnar après que celui-ci porte le F-5 sur Matt Hardy, ce qui met Jeff en colère.
A Backlash 2002, Lesnar gagne par TKO. Jeff fut inconscient après avoir reçu trois F-5's. La feud s'arrête par une victoire de Lesnar.
A Judgement Day 2002, les Hardy Boys perdent face à Brock Lesnar et Paul Heymans.
Lorsque The Undertaker détenait le WWE Championship, Jeff le combattit dans un match de l'échelle ; il le perdit, mais alors que l'Undertaker quittait le ring, laissant un Jeff Hardy détruit sur le ring, celui-ci lance « Tu ne m'as pas brisé ! Je suis toujours debout ! ». L'Undertaker revient pour frapper Hardy, mais il approuvât son courage, il lui tapota la tête, puis lui leva la main. En faisant ça The Undertaker montra qu'il respectait Jeff, il s'en alla en laissant un Jeff heureux et joyeux sur le ring, mais complètement détruit et KO.
Après ces quatre années, chacun part de son côté pour poursuivre une nouvelle carrière en solo. Matt Hardy part à SmackDown! et Jeff reste à Raw.