2002年：这是最好的时代
卧底警察陈永仁（梁朝伟饰）在黑社会老大韩琛（曾志伟饰）麾下潜伏两年，终于获派与神秘的内地商人沈澄（陈道明饰）商讨运毒交易，陈永仁却不知已踏进韩琛布下的陷阱。与沈澄弟弟于餐厅会面不久，韩琛突然打电话要求陈永仁攻击他。照做之际杨锦荣率队将所有人带回警局，最后在黄志诚（黄秋生饰）协调始未闹大。沈澄自警局返回后派人在韩琛面前挟持陈永仁，傻强和陈永仁被酒瓶砸头后解决。为了掩护陈永仁的卧底身份，黄与律政司交涉让陈会见心理医生李心儿（陈慧琳饰）进行心理辅导，结果李医生逐渐成为了陈永仁的精神支柱，两人更产生微妙关系。在图书馆内，陈无意间发现韩琛与杨锦荣互相交换情报，并在李医师的掩护下躲避耳目。韩琛命令陈永仁进行一桩黑吃黑的走私交易，并企图对沈澄痛下杀手。杨阻挠黄围捕走私，并迫使重案组接受调查。陈永仁为了完成卧底任务，在不知被陷害的情形下，遭到沈的党羽追杀，最后与沈狭路相逢并开火，导致其右腿中弹；沈借此发现陈并未如黑道般心狠手辣，揭发他的卧底身份。杨锦荣赶到，三人发现彼此都是警察，结为朋友。
2003年：这是最坏的时代
陈永仁殉职后十个月，黑社会派入警方的卧底、内务部高级督察刘健明（刘德华饰）职权被架空，只负责琐碎的庶务工作。眼看保安部的青年警司杨锦荣（黎明饰）成为警队内的新星，刘健明仿佛看见以前的自己。但更相似的是杨锦荣竟可能同是黑帮派入警队的卧底。刘健明多番追查，却总被一个神秘的瘸子阻挠，原来他竟是韩琛旧日的生意伙伴沈澄。
在心理医生李心儿（陈慧琳饰）对内务部高级督察刘健明（刘德华饰）进行心理辅导后，刘健明一直被心魔缠扰，想做好人，慢慢地认为自己是陈永仁，而一心想抓住刘健明（自己）。
刘产生错乱，认为杨是黑道卧底，故在其办公室和汽车底装监视器，但被老谋深算的杨识破。刘偷了李医师的电脑查看病历，幻想自己是陈永仁，也对李医师吐出真相。他的精神错乱造成其不能与他人相处，开车载李医师时因失神，撞车入院。刘在医院中幻想自己是陈永仁，朝不存在的“刘建明”开火，被李心儿目睹。
某日，保安部招待一位公安，刘借机于饮水机中下安眠药，取得杨保险柜中的录音带，并率领内务部欲将其逮捕。但当沈澄来到，刘播放的录音带其实是他与韩琛的通话，将自己恶行败露人前。刘精神失常掏枪乱舞，最后朝杨射击并使其爆头死亡，沈立时枪击刘，刘倒地后举枪图自尽。
片尾，刘健明被救活但已成残废需要坐辆椅，脑中仍以为自己还是陈永仁，所以手指不断敲打着摩斯电码，坠入真正的无间地狱。