1983年，理查德·馬修·斯托曼（Richard Stallman）創立了GNU計劃（GNU Project）。這個計劃有一個目標是爲了發展一個完全自由的 Unix-like 操作系統。自1990年代發起這個計劃以來，GNU 開始大量的產生或收集各種系統所必備的組件，像是——庫（libraries）、編譯器（compilers）、調試工具（debuggers）、文本編輯器（text editors）、網頁服務器（web server），以及一個Unix的用戶界面（Unix shell）——除了運行內核（kernel）仍然付闕外。1990年，GNU計劃開始在馬赫微核（Mach microkernel）的架構之上開發系統內核，也就是所謂的GNU Hurd，但是這個基於Mach的設計異常複雜，發展進度則相對緩慢。
Linux內核最初只是由芬蘭人林納斯·託瓦茲（Linus Torvalds）在赫爾辛基大學上學時出於個人愛好而編寫的，當時他並不滿意Minix這個教學用的操作系統，部分因爲只能在有限硬件上運行。最初的設想中，Linux 是一種類似 Minix 這樣的一種操作系統。Linux的第一個版本在1991年9月被大學FTP server管理員Ari Lemmke發佈在Internet上，最初Torvalds 稱這個內核的名稱爲 "Freax" ，意思是自由（"free"）和奇異（"freak"）的結合字，並且附上了"X"這個常用的字母，以配合所謂的 Unix-like 的系統。但是FTP server管理員嫌原來的命名“Freax”的名稱不好聽，把內核的稱呼改成“Linux”，當時僅有10000行代碼，仍必須運行於Minix操作系統之上，並且必須使用硬盤開機；隨後在10月份第二個版本（0.02版）就發佈了，同時這位芬蘭赫爾辛基的大學生在comp.os.minix上發佈一則消息
Hello everybody out there using minix- I'm doing a (free) operation system (just a hobby, won't be big and professional like gnu) for 386(486) AT clones.
Linux 的歷史是和GNU緊密聯繫在一起的。從1983年開始的GNU計劃致力於開發一個自由並且完整的類Unix操作系統，包括軟件開發工具和各種應用程序。到1991年 Linux 內核發佈的時候，GNU已經幾乎完成了除了系統內核之外的各種必備軟件的開發。在 Linus Torvalds 和其他開發人員的努力下，GNU組件可以運行於Linux內核之上。整個內核是基於 GNU 通用公共許可，也就是GPL（GNU General Public License，GNU通用公共許可證）的，但是Linux內核並不是GNU 計劃的一部分。1994年3月，Linux1.0版正式發佈，Marc Ewing成立了 Red Hat 軟件公司，成爲最著名的 Linux 分銷商之一。
早期Linux的開機管理程序（boot loader）是使用LILO（Linux Loader），早期的LILO存在着一些難以容忍的缺陷，例如無法識別1024柱面以後的硬盤空間，後來新增GRUB（GRand Unified Bootloader）克服了這些缺點，具有‘動態搜索內核文件’的功能，可以讓您在開機的時候，可以自行編輯您的開機設置系統文件，通過 ext2 或 ext3 文件系統中載入 Linux Kernel（GRUB通過不同的文件系統驅動可以識別幾乎所有Linux支持的文件系統，因此可以使用很多文件系統來格式化內核文件所在的分區，並不侷限於ext文件系統）。
Linux 的標誌和吉祥物是一隻名字叫做 Tux 的 企鵝，標誌的由來是因爲Linus在澳大利亞時曾被一隻動物園裏的企鵝咬了一口，便選擇了企鵝作爲Linux的標誌。更容易被接受的說法是：企鵝代表南極，而南極又是全世界所共有的一塊陸地。這也就代表Linux是所有人的Linux。
Linux的註冊商標是 Linus Torvalds 所有的。這是由於在1996年，一個名字叫做 William R. Della Croce 的律師開始向各個 Linux 發佈商發信，聲明他擁有Linux商標的所有權，並且要求各個發佈商支付版稅，這些發行商集體進行上訴，要求將該註冊商標重新分配給 Linus Torvalds。Linus Torvalds 一再聲明 Linux 是免費的，他本人可以賣掉，但 Linux 絕不能賣。