谢尔曼的头一场战斗是很悲惨的回忆，他的旅参加了第一次公牛跑战役。谢尔曼所部遭到了南军的猛烈炮击，损失异常惨重。当时，他和许多士兵被安排在一个裸露的山脊上，成为了南军的炮击对象，而上司又不允许他们移动，结果他的部队被炮击了两个小时，2/3的士兵伤亡。

谢尔曼认为，摧毁南方继续战斗的意志比摧毁约翰斯顿的军队更重要。只要南方人民保持战斗的决心，他们就会继续与北军作对，从而可能导致这场内战无休止地发展下去。一旦人民厌恶战争，其军队就会不攻自灭。唯一有实际意义的办法就是对南方人所有的财产和生活方式实施毁灭性的打击，南方人民才会停止这场可恨可恶的战争。

1861年10月，谢尔曼被授予准将后派往了肯塔基州。到了目的地后，谢尔曼写信给军部要求给他20万兵力，他就能很快结束这场战争。这封信不久就在报纸上刊登出来。谢尔曼被人们指责为狂妄自大的“疯子”。

同年11月，尤利西斯·格兰特被任命为西部战场总司令后，组建了一支新的军队，谢尔曼有幸成为第1师师长。这支刚组建起来的部队在夏伊洛参加了第一次战役。战斗的第一天，谢尔曼的第1师就被猛烈的南军打得大败而归。不久之后，他总算有了洗刷耻辱的机会，当南军迅速向溃退的北军追击的时候，谢尔曼出其不意地猛击了对方的侧翼。南军遭到了意想不到的打击，顿时乱作一团，败退中的北军又趁势杀了个回马枪，彻底把南军打败。

格兰特之所以重用谢尔曼，主要是因为他具有超群的指挥能力、胆识和气魄，尤其在政治立场上更显出其一贯坚持原则的本质。谢尔曼是主张对南方军队和人民实行毁灭性打击的北方少数高层将领之一。他曾给华盛顿写信，鲜明地表达了他的政治主张：“美国南方各州必须由北方来管理，不然他们就要统治我们。我们必须征服南方，包括人民和财产。不然我们就要被南方所征服。而南方所说的一切妥协之谈全是胡说八道。我深深地感觉到，我们的任何让步都只能招致他们的嘲笑？？所以我是不愿意对南方实施什么仁慈手段，更不想去迎合他们，我的原则就是让他们饱尝战争的苦头，使南方从今往后再也不敢挑起战争。”

谢尔曼在这封信中还提出这样一种恐怖政策：“北方应派军队和法官进驻到南部的各个村镇？？用多少时间都无所谓。目的只有一个：一定要清除和摧毁一切障碍。非常时期非常手段，我们可以杀死每一个人，没收每一件财物、每一寸土地，一句话，毁灭一切我们认为应该破坏的物品。不达目的，决不罢休。这就是我要坚持的原则。”

同样，谢尔曼在战争问题上也有与格兰特相仿的独特见解。他曾深刻地、不止一次地指出了内战以来北方将领的致命弱点：北方军队进入南方“好像一条船入海一样，这条船破浪前进时划了一道航迹，但随后马上就消失了，而没有留下永恒的痕迹”。他因此竭力主张打破一切墨守成规的军事传统，采取大胆进攻的战略战术，尽快把战争打出一个明显结果来。他这些极端的观点，不仅赢得了华盛顿那些军政首脑们的称赞，也使他得到了美国“第一个现代将军”的称号。

1862年7月，被任命为孟菲斯集团军区总司令的谢尔曼，负责对南方军的坚强据点维克斯堡发动进攻。