年轻时,他是魏国公毋忌的常客。在秦灭魏后,他逃到了黄,并在外黄县任县令,与刘邦相处了几个月。秦朝末期,张耳和朋友陈余一起逃亡,最终加入了陈胜、吴广领导的起义军,被任命为左右校尉。在武臣称王后,张耳被任命为右丞相,但不久后武臣和左丞相鲁骚被部将李良杀死。张耳幸运地躲过了劫难,并与未叛离士卒约数万人一起投靠赵国后裔赵歇,使他成为新的赵王。
当秦军主将章邯围困钜鹿城时,张耳与赵王歇被迫退守钜鹿城。但是,项羽率领援助的义军北渡漳河并解除了围攻。这次事件导致了张耳与陈余之间的裂痕,最终导致他们成为敌对势力。当汉高帝刘邦灭掉秦朝时,项羽自立为西楚霸王,而封刘邦为汉王,并分封诸侯,其中包括给予张耳以常山之地,让他成为常山王。此举受到了一部分人的质疑,因为他们认为这是一种不公平的待遇,因为陈余也曾有过相同程度的地位。
然而,这样的安排却引发了更大的冲突。当齐王田荣背叛楚国而向陈余求助时,他便利用这个机会袭击常山,以报复项羽对他的不公。而在汉高帝三年(前205年),随着战事激烈化,当两大力量再次交锋时,一场著名的大战爆发,在那场背水一战中,大败于敌手。最终,在韩信建议下,被授予统治赵国之权,因此成为了一个历史上的重要人物,其名字至今仍留在史册上。