1983年，理查德·马修·斯托曼（Richard Stallman）创立了GNU计划（GNU Project）。这个计划有一个目标是为了发展一个完全自由的 Unix-like 操作系统。自1990年代发起这个计划以来，GNU 开始大量的产生或收集各种系统所必备的组件，像是——库（libraries）、编译器（compilers）、调试工具（debuggers）、文本编辑器（text editors）、网页服务器（web server），以及一个Unix的用户界面（Unix shell）——除了运行内核（kernel）仍然付阙外。1990年，GNU计划开始在马赫微核（Mach microkernel）的架构之上开发系统内核，也就是所谓的GNU Hurd，但是这个基于Mach的设计异常复杂，发展进度则相对缓慢。
Linux内核最初只是由芬兰人林纳斯·托瓦兹（Linus Torvalds）在赫尔辛基大学上学时出于个人爱好而编写的，当时他并不满意Minix这个教学用的操作系统，部分因为只能在有限硬件上运行。最初的设想中，Linux 是一种类似 Minix 这样的一种操作系统。Linux的第一个版本在1991年9月被大学FTP server管理员Ari Lemmke发布在Internet上，最初Torvalds 称这个内核的名称为 "Freax" ，意思是自由（"free"）和奇异（"freak"）的结合字，并且附上了"X"这个常用的字母，以配合所谓的 Unix-like 的系统。但是FTP server管理员嫌原来的命名“Freax”的名称不好听，把内核的称呼改成“Linux”，当时仅有10000行代码，仍必须运行于Minix操作系统之上，并且必须使用硬盘开机；随后在10月份第二个版本（0.02版）就发布了，同时这位芬兰赫尔辛基的大学生在comp.os.minix上发布一则消息
Hello everybody out there using minix- I'm doing a (free) operation system (just a hobby, won't be big and professional like gnu) for 386(486) AT clones.
Linux 的历史是和GNU紧密联系在一起的。从1983年开始的GNU计划致力于开发一个自由并且完整的类Unix操作系统，包括软件开发工具和各种应用程序。到1991年 Linux 内核发布的时候，GNU已经几乎完成了除了系统内核之外的各种必备软件的开发。在 Linus Torvalds 和其他开发人员的努力下，GNU组件可以运行于Linux内核之上。整个内核是基于 GNU 通用公共许可，也就是GPL（GNU General Public License，GNU通用公共许可证）的，但是Linux内核并不是GNU 计划的一部分。1994年3月，Linux1.0版正式发布，Marc Ewing成立了 Red Hat 软件公司，成为最著名的 Linux 分销商之一。
早期Linux的开机管理程序（boot loader）是使用LILO（Linux Loader），早期的LILO存在着一些难以容忍的缺陷，例如无法识别1024柱面以后的硬盘空间，后来新增GRUB（GRand Unified Bootloader）克服了这些缺点，具有‘动态搜索内核文件’的功能，可以让您在开机的时候，可以自行编辑您的开机设置系统文件，通过 ext2 或 ext3 文件系统中载入 Linux Kernel（GRUB通过不同的文件系统驱动可以识别几乎所有Linux支持的文件系统，因此可以使用很多文件系统来格式化内核文件所在的分区，并不局限于ext文件系统）。
Linux 的标志和吉祥物是一只名字叫做 Tux 的 企鹅，标志的由来是因为Linus在澳大利亚时曾被一只动物园里的企鹅咬了一口，便选择了企鹅作为Linux的标志。更容易被接受的说法是：企鹅代表南极，而南极又是全世界所共有的一块陆地。这也就代表Linux是所有人的Linux。
Linux的注册商标是 Linus Torvalds 所有的。这是由于在1996年，一个名字叫做 William R. Della Croce 的律师开始向各个 Linux 发布商发信，声明他拥有Linux商标的所有权，并且要求各个发布商支付版税，这些发行商集体进行上诉，要求将该注册商标重新分配给 Linus Torvalds。Linus Torvalds 一再声明 Linux 是免费的，他本人可以卖掉，但 Linux 绝不能卖。