日本作家中島河太郎在談到推理小說的歷史和展望時指出，推理文學的始祖當屬愛倫·坡，他在1841年發表的《莫格街兇殺案》爲推理文學的起步。這一說法已經成爲定論。推理小說在法國也深受歡迎，在英國則與其國民性緊密相連，發展很快。
推理文學的本質在日本和各國的諸家間有着各種說道。日本的江戶川亂步認爲，它主要是一種靠邏輯性地、漸漸地解開有關犯罪的難解的祕密，並以這一路徑中的趣味性爲關鍵的文學。學界認爲這一見解是恰當的。在作品中提出難以解釋的謎團，同時提供可以解開謎團的線索，最後達到邏輯性推理解決的寫法，被稱爲本格派。本格派推理文學誕生於較早確立警察制度、實行民主審判的英國，而法國一開始出現的以懸念小說和犯罪小說居多。美國一方面在20世紀20年代流行英國式的本格長篇，另一方面受海明威文體的影響，哈梅特、錢德勒、斯皮蘭等硬漢派推理小說家也異常活躍。他們的作風是，比起物證來，更注重依靠偵探的行動來探究真實，更加重視人性。
日本方面，在近世的幕府末年，最早由神田孝平根據荷蘭的審判小說編譯（翻案）了《和蘭美政錄》，之後又改成《楊牙兒奇獄》，刊登在1877年的《花月新志》上。從1888年起，黑巖淚香將海外流行的推理文學作品不停地編譯出版，其獨特的文體意味着日本偵探小說時代的到來，受到當時讀書界的狂熱歡迎。隨着對黑巖淚香編譯作品評價的提高，1890年《美人之獄》發表之後，出現了丸亭素人、原抱一庵等追隨者。感到恐懼的硯友社泉鏡花、石橋思案等人也搭便車創作了所謂的俗惡偵探小說。到明治末年的1912年，當英國作家柯南·道爾等人的本格作品被介紹到日本時，受到刺激的大正時代的谷崎潤一郎、佐藤春夫和芥川龍之介等人發表了具有奇怪偵探趣味的作品，但是，這些歐美風格的本格推理文學並不受到當時日本讀者的歡迎，於是這一嘗試不久就消失了。
到大正時期的1923年時，日本一般民衆的讀書熱情大爲高漲，直接訴諸大衆趣味和感覺的大衆文學相當流行，除了通俗小說、歷史小說、新聞小說等之外，推理小說亦迎來了一個嶄新的時期。自從這一年江戶川亂步發表了《二錢銅幣》一作後，日本的推理文學不斷披露嶄新的構思，引起了新聞界的關注。以江戶川亂步的出現爲契機，日本形成了專業作家輩出的推理偵探文壇，分成了以論理爲作風、以解開謎團爲主的本格派和涉及奇怪、幻想、犯罪、變態心理、祕境、空想科學領域的變格派。二戰之前的作家中，前者除了亂步之外，還有平林初之輔、浜尾四郎等，後者有橫溝正史、夢野久作等。
二戰結束以後，1946年木木高太郎在日本文壇再次提倡“推理小說”，他主張在戰前的基礎上，要加上“思索的”“考證的”因素，試圖強調其藝術性。因爲政府對漢字使用的限制規定，日本已將偵探和推理視爲同義詞來使用。50年代後期，獲得芥川獎的松本清張進入推理文學領域，大量發表了依照社會視角創作、關注人性的社會派推理作品，這一派還有馬賴義、水上勉、黑巖重吾、梶山季之等。本格派里仁木悅子、笹澤左保、佐野洋等人活躍。風格流動者中有陳舜臣、結城昌治、三好徹等。森村誠一等則致力於本格和社會性的融合，反映出多樣化的傾向。另有推理與間諜、產業經濟、法庭審判、科幻融合的文學作品。
由此看來，日本的推理文學始終是大衆文學的熱門種類，其圖書及影視改編都具有極高的閱讀量和收視率。近年來，我國也翻譯出版了以東野圭吾作品爲主的不少日本推理文學的代表作，引起了以年輕讀者爲主的廣泛關注。