1794年，美英陷入战争危机，国内对英战争的呼声空前高涨。美国政府派遣约翰·杰伊与英国人谈判，双方签订了《杰伊条约》。该条约使美国避免了与英国交战，但由于许多人认为美国做出的让步太大，因此在国内受到严厉批评。在国务卿伦道夫的劝说下，华盛顿暂时没有签署。但后来英国转来了截获的法国公使富歇的公文，公文中说伦道夫与富歇之间有一笔金钱交易，而伦道夫接受的金钱则被用于国内的党争。公文措辞含混，似乎被涂改过。皮克林迅速请回在家休假的华盛顿，“揭露”了伦道夫的“阴谋”，结果，不仅使华盛顿批准了《杰伊条约》，而且迫使伦道夫辞去国务卿一职。

在挑选伦道夫的继任者的时候，华盛顿遇到了一些麻烦，有几位合适的人选拒绝受命。最后，华盛顿接受了汉密尔顿的建议，任命了一位“品格高贵的二流人物”充任国务卿，他就是蒂莫西·皮克林。但皮克林在政界的声誉也因此遭受损害。

皮克林是内阁中的汉密尔顿派，主张实行亲英外交。虽然也对英海军在公海上强征美国海员表示强烈愤怒，但对法国大革命及其原则表现出的敌意是根深蒂固的。在亚当斯政府时期，美法关系急剧恶化，政府派出一个使团访法以解决分歧。但法国外交部长未出面接见使团，而是派出几个说客诱使使团向法国行贿，而后才能谈判，遭到法方拒绝。消息传回美国引起轩然大波，对法作战的呼声高涨。皮克林亦鼓动亚当斯总统对法宣战。他还针对所谓的美法“准战争”问题大做文章。后来，他进行了针对亚当斯总统的密谋活动，以抵消总统的对法和解政策。亚当斯了解了这一内幕后做出了强烈反应，痛斥了皮克林的“背叛”行径，要求他辞职。皮克林对此表示了抗议，并说自己不能放弃三千多美元的年薪。亚当斯最终解除了他的职务。

皮克林被解职还有另外一个背景：亚当斯总统原来对皮克林就不太满意，只是看在华盛顿的面子上才留用了他。1799年华盛顿去世之后，亚当斯开始着手整顿他的内阁，皮克林在清理之列。纵观美国的前十位国务卿，皮克林和后来的罗伯特·史密斯是最弱的两位，他们被解职的主要原因也有相似之处——冒犯了总统。

离职后的皮克林曾十分消沉，生活也一度贫困潦倒。由于当地律师界中的头面人物对他持敌视态度，他不得不外出谋生甚至当过小农场主。但他是一个坚强和不甘寂寞的人，在友人的帮助和自己的不懈努力下，经过了两年的沉寂，他又逐渐振作起来。

联邦议员、余热 1802年，皮克林重回政治舞台，但经历十分坎坷，个人事业和政治生涯不断经历失败，最终经过不懈的努力，一年后终于进入了参议院。此时的国会已今非昔比，联邦党人的势力迅速萎缩，皮克林从一开始就是以少数派领袖身份出现在参议院的，充分显示出了保守主义的政治倾向和十足的韧劲。期间，他继续坚持已经过时的联邦主义原则，是敢于公开质疑杰斐逊政府的一些重大决策（如购买路易斯安纳等）的少数议员之一。