1796年华盛顿不再连任，杰斐逊决定参加总统的竞选。由于重视不够，他以3票之差败给了联邦党的约翰·亚当斯。1804年以前，宪法还没有规定分别投票选举总统和副总统，而是规定按得票的多少来决定总统和副总统，于是，杰斐逊当上了副总统。
在亚当斯政府中，杰斐逊扮演的是毫无实权、无所作为的角色，而且经常与亚当斯意见相左，尤其是这一时期通过的《关于处置外侨和煽动叛乱的法令》，严重地限制了言论自由，是对个人权利的侵犯。杰斐逊一方面组织民主—共和党人对法令进行抨击，另一方面下决心在4年以后反对亚当斯的连任。1800年，由于准备充分，杰斐逊如愿以偿地当上了总统，4年以后又获得了连任。
当选总统使杰斐逊得以实践自己的民主理想。事实上，美国的民主制度在他任期内也确实得到了进一步的发展。杰斐逊入主白宫后，给白宫带来了诸多民主气息。他废除了白宫的许多繁文缛节，终止了华盛顿、亚当斯时期形成的每周一次的总统正式招待会，会见外宾时衣着朴素随便。
他下令每天早晨开放总统官邸，他认为，总统府的建造主要依靠人民，应当允许民众前来参观。从1801年起，每天上午开放白宫的做法一直延续至今。此外，他主张扩大白人男子的选举权。马里兰和南卡罗来纳州在他的影响下修改了州宪法，废止了选民的财产限制。他努力改善普通平民的处境，提倡政府应以节约代替税收，废除了实行近10年的国产货物税。
除了扩大民主制外，杰斐逊在任期内为美国所作出的另一项贡献就是以1500万美元从法国手中购买了路易斯安那和新奥尔良地区，总面积有260万平方公里。这笔交易，使“美国政府付出了如此小的代价，获得了如此多的东西”。
美国领土由此扩大了一倍多，人口增加了五万，“新地区无论在土壤、气候、物产还是交通干线方面都不比原有的地区差”。在杰斐逊看来，路易斯安那的获得，不仅可以从外交上排除来自法国的威胁，而且新土地还能推动美国农业的发展，实现他的治国理想。
1809年3月，在结束了两届美国总统的任期后，杰斐逊告别了白宫。此前，虽然各州议会纷纷要求他再留任4年，但由于担心宪法和惯例没有规定总统的任期，总统的职务会因此变成终身制，他回绝了恳求他再度连任的建议。此后，美国总统只能连任两届成为惯例；1951年这一点成了宪法第22条修正案的内容。
