联邦军与邦联军在战争中使用的武器大致相同。由于军事技术在美墨战争后取得长足发展，步枪已经在很大程度上取代滑膛枪。更加快速、可靠的击发装置代替了燧发装置。后装式连发武器与线膛炮也得到使用。

着发式步枪代表了肩射武器的重要进步，例如美制1861式步枪为点58口径（所测量出的子弹直径大小），有效射程达到300码。这一进步必须归功于两位法国陆军上尉，C. E. 米涅（C. E. Minié）和亨利·德尔维涅（Henri Delvigne）。二人在19世纪40年代发明了一种无阻塞（不会堵塞枪膛）的步枪子弹。这种子弹通常被人称作“米涅弹”（Minie Ball）。子弹由铅制成，底部有沟痕，呈圆柱形，底部有一铁帽。子弹在被推进枪膛时由软木包裹，步枪开火时，爆炸产生的气体将底部的铁帽撑大，楔入弹丸底部。铅弹在发射出膛时紧抓阴膛线。这一革命性射弹在1855年被陆军采用。交战双方均将使用“米涅弹”、射击更为精准的步枪作为制式武器，这在某种程度上解释了内战期间的伤亡为何会如此惨重。

交战双方使用的速射武器同样导致了杀戮的产生。内战期间，尽管后装式火器主要用作骑兵卡宾枪，如常用的点54口径“伯恩赛德”（Burnside）步枪或点52口径“夏普斯”（Sharps）卡宾枪，但后装式单发火器较前装式开火更快。连发卡宾枪也有所使用，如枪托装弹、七连发的点52口径“斯宾塞”（Spencer）步枪和十五连发的点44口径“亨利”（Henry）步枪。六发式转轮手枪成为标准的随身武器，如1861式和1863式点44口径“雷明顿”（Remington）转轮手枪，点44口径“斯塔尔”（Starr）手枪和点44口径“柯尔特”（Colt）转轮手枪。曲柄手摇式六管点58口径“加特林”（Gatling）机枪是第一款研制成功的机枪，每分钟可以发射600发子弹。不过，这种机枪由于设计缺陷而鲜有使用，直至内战结束后的1866年才被陆军采用，当时已经经过大幅改良。

在双方使用的火炮中，最引人注目的是机动灵活的美制1857式“拿破仑”（Napoleon）12磅滑膛炮。一门装备霰弹或葡萄弹的拿破仑炮可对集中的部队造成巨大杀伤。使用榴霰弹或“球状炮弹”（一种弹壳较薄的铁制炮弹，通常重约12磅，内部装有小型铅弹或铁球，由定时引信引爆）能够在1200码范围之内造成集中破坏。其他滑膛炮还包括具备有限射程的下坐榴弹炮（Squat Howitzers），可以发射6—24磅炮弹的野战炮，以及其他各式各样更重的火炮，这些火炮统统被称为“大炮”。

膛线炮比滑膛炮更加精准，截至1863年已经占到联邦军使用火炮的一半左右。其中最常用的是３英寸口径火炮，有效射程可达2500码。和滑膛炮一样，这种膛线炮也是前装炮。后装炮尚处在实验阶段，效果并不理想。最有名的膛线炮是“帕洛特”（Parrott）炮，这种大炮炮膛上装有加固铁箍，可发射10—300磅不等的各种口径的炮弹。这种炮与约15英寸的“罗德曼”（Rodman）滑膛炮在尺寸上（姑且不论精确度的话）不相上下。北、南双方的海军都极为倚重球鼻形的“达尔格伦”（Dahlgren）青铜榴弹炮与可发射12磅和24磅炮弹的滑膛炮，此外还有11英寸的“达尔格伦”炮。