1、最有名最重要的是《史記》。
任太史令後，司馬遷想完成其父編寫一部史書的遺願。漢武帝太初元年（公元前104年），司馬遷開始著手編寫《史記》。
這時，正是漢武帝大舉反擊匈奴的後期。一次，漢軍將領李陵率作為牽制的五千步軍出征，結果被匈奴主力包圍。在矢盡糧絕，兵士傷亡大部份的情況下被迫投降。消息傳到長安，漢武帝大怒。司馬遷認為：李陵轉戰千裡，殺敵眾多，矢盡糧絕而被迫投降，還是效忠漢朝的。就就替李陵辯解，結果得罪盛怒中的漢武帝。於是司馬遷獲罪下獄，被處宮刑。這種奇恥大辱的遭遇，使司馬遷受到極大刺激，曾一度想自殺。但他想起瞭父親的遺願，想到還未完成的史書，就以古人孔子、屈原、左丘明、孫子、韓非等在逆境中發憤有為的事例鼓勵自己，決定忍辱負重地活瞭下來。
經過三年囚禁，司馬遷終於被赦出獄，被漢武帝任命為中書令。當時的中書令大都由宦官充任，因此他感到這是一種恥辱。但為瞭完成〈史記〉的寫作，身心備受摧殘的司馬遷忍辱含垢，決心以殘燭之年發憤著書，完成父親要他完成的史書。
經過五年的埋首著述，在漢武帝征和二年（公元前94年）時，司馬遷終於完成瞭巨著——《史記》——我國歷史上第一部紀傳體通史。書成後不久，司馬遷去世。司馬遷死後許多年，他的外孫才把這部不朽名著公諸於世。
2、除《史記》外，司馬遷還作賦八篇，均已散夫，唯《藝文類聚》卷三十引有《悲士不遇賦》片段。司馬遷還撰有《報任安書》，這是一篇著名的論說散文，記述瞭他因李陵事件獲罪下獄受刑的經過，抒發瞭忠而見疑、無辜受刑的悲憤。
