Truyền thống cho rằng, Thiền tông được sáng lập từ thời Bắc Triều, Sơ tổ là Bồ-đề Đạt-ma, nhưng thời điểm Thiền tông thực sự trở thành một tông phái Phật giáo là bắt đầu từ đời Đường.
Tư tưởng Phật giáo trải qua giai đoạn phiên dịch giới thiệu kéo dài qua các đời Hán Ngụy, Lưỡng Tấn, Nam Bắc Triều, trước thời Tùy Đường đã có ảnh hưởng rộng lớn trong xã hội, đồng thời hình thành nhiều học phái, như Địa luận tông, Nhiếp luận tông, Thành thực tông... Những học phái này giảng truyền kinh luận Phật giáo, mỗi học phái đều có sư thừa, gia pháp. Thời kỳ này tuy đã có danh xưng là "tông", nhưng thực tế vẫn là học phái, tương tự với hình thức truyền thụ của kinh sư Hán Nho, khác với tông phái Phật giáo thời kỳ Tùy Đường sau này. Thiền vào thời Nam Bắc Triều cũng tồn tại ở hình thức học phái, và trong thiền học đã có sự phân chia các lưu phái khác nhau.
Đầu tượng "Thập nhị diện Quan Âm" (Quan Âm có 12 khuôn mặt) đời Đường.
Cưu-Ma-La-Thập đời Hậu Tần biên dịch Tọa Thiền Tam Muội Kinh, Thiền Pháp Yếu Giải, tổng hợp thành công thiền pháp Đại thừa và Tiểu thừa tổng cộng bảy nhà. Cùng thời với Cưu-Ma-La-Thập, Phật-đà Bạt-đà-la (tức Giác Hiền) đến Trung Quốc, ban đầu cộng sự với Cưu-Ma-La-Thập ở Trường An, sau vị quan điểm bất đồng, theo lời mời của Huệ Viễn đến Lư Sơn dịch bộ Đạt-ma Đà-la Thiền Kinh, có ảnh hưởng tương đối ở phương Nam. Kể từ khi An Thế Cao giới thiệu thiền học Tiểu thừa, trải qua sự đóng góp phiên dịch các bộ thiền kinh của Pháp Hộ, Cưu-Ma-La-Thập, Giác Hiền và thực tiễn tu thiền, đến đầu thời Nam Bắc Triều, các lưu phái thiền học đã rất phát triển. Đến thời Lưu Tống, Cầu-na Bạt-đà-la phiên dịch Kinh Lăng-già, 4 quyển, tạo ảnh hưởng lớn đối với thiền học. Bộ kinh này chia thiền thành bốn loại là "Ngu phu sở hành thiền" (chỉ thiền Tiểu thừa và ngoại đạo), "Quán sát nghĩa thiền" (quán pháp vô ngã, nhân vô ngã, chỉ thiền Đại thừa), "Phan duyên như thiền" (quán Chân như, thực tướng) và "Như Lai thiền" (chỉ thiền Đại thừa tối thượng). Về sau, Tông Mật đời Đường chia thiền thành năm loại là Ngoại đạo thiền, Phàm phu thiền, Tiểu thừa thiền, Đại thừa thiền và Như Lai tối thượng thiền, về cơ bản cũng tương tự. Kinh Lăng-già không chỉ chia ra thiền Đại thừa và Tiểu thừa mà còn đưa ra khái niệm "Như Lai thiền", gọi loại thiền này là "tự giác trí cảnh", là cảnh giới tự chứng của Phật, và nhiều lần nói rõ "dựa vào nghĩa, đừng chấp vào ngôn thuyết", "lìa văn tự". Tư tưởng này trở thành y cứ trọng yếu của thiền Đạt-ma.
Thiền học phương bắc luôn phát triển khá mạnh, thời kỳ Nam Bắc Triều vẫn như thế. Cùng thời hoặc hơi muộn hơn Đạt-Ma, ở phương bắc xuất hiện một thiền sư có ảnh hưởng lớn là Tăng Trù, là đệ tử của Đạo Phòng. Đạo Phòng là đệ tử của thiền sư Phật-đà, về sau Tăng Trù từng được trực tiếp học nơi Phật-đà. Phật-đà ngoài truyền cho Đạo Phòng, còn truyền cho Huệ Quang, thiền pháp của Phật-đà là thiền pháp Tiểu thừa truyền thống khác với thiền Đạt-ma. Ở phương bắc còn có thiền pháp của thiền sư Huyền Cao mang nhiều sắc thái thần dị, phong cách tiên đạo.
Thiền của Đạt-ma chỉ là một trong nhiều loại thiền pháp lưu truyền vào thời đó. Là một trong những học phái đương thời, thiền học của Đạt-ma được truyền thừa tiếp tục, nhưng do các điều kiện khách quan nên thiền Đạt-ma chỉ truyền thừa giới hạn trong thầy trò vài nguoi, sức ảnh hưởng không lớn. Vào thời Đạt-ma vẫn chưa đủ điều kiện cơ bản để hình thành tông phái. Đến Ngũ tổ Hoằng Nhẫn, thiền Đạt-ma vẫn lưu truyền như một học phái, nhưng vào thời Đạo Tín, Hoằng Nhẫn, hệ thiền Đạt-ma đã phát triển thành thục, bắt đầu xác lập kinh tế tự viện riêng, có khu vực truyền giáo tương đối ổn định và tư tưởng thiền học cũng đã có biến chuyển rõ rệt.
Thiền tông trong lịch sử tuy có mối quan hệ tục thừa về mặt tư tưởng với thiền Đạt-ma, và về pháp thống cũng có tình huyết mạch, nhưng tư tưởng căn bản của Thiền tông chính là do Huệ Năng trực tiếp xác định. Thiền Đạt-ma không có nội dung xác ngộ, cũng không phủ nhận tọa thiền, về bản chất vấn là phiên bản của thiền Ân Độ. Khác biệt căn bản với thiền theo nghĩa truyền thống cũng như thiền học của các phái thời Nam Bắc Triều, Thiền tông Huệ Năng là thiền do người Trung Quốc kiến lập theo phương thức tư tưởng và cuộc sống của riêng mình.
Chân thân Lục tổ Huệ Năng. Tổ Huệ Năng viên tịch vào năm Khai Nguyên thứ 2 đời Đường (712) tại chùa Quốc Ấn ở Tân Châu (huyện Tân Hưng, Quảng Đông). Đệ tử rước di thể về chùa Nam Hoa ở Tào Khê, Quảng Đông cúng dường đến ngày nay.
Quá trình truyền thừa qua năm đời từ Đạt-ma đến Hoằng Nhẫn có thể xem là giai đoạn chuẩn bị của Thiền tông. Thiền tông là sản vật của Phật giáo Trung Quốc, là một trong nhiều tông phái Phật giáo được thành lập lần lượt vào thời kỳ Tùy Đường. Đến thời đại Huệ Năng, điều kiện chủ quan và khách quan để Thiền tông kiến lập đã bắt đầu hội đủ. Thời này, dưới sự ủng hộ của tầng lớp thống trị, kinh tế tự viện phát triển mạnh, tạo điều kiện vật chất cho các hoạt động tông phái, khu vực truyền bá thiền pháp mở rộng không ngừng, ảnh hưởng lan rộng khắp nơi. Triết học tôn giáo với trung tâm là tư tưởng thiền pháp của Huệ Năng nhanh chóng được quảng đại thiền tăng và thế tục tiếp nhận, từ đó phát triển hưng thịnh trở thành một tông phái ảnh hưởng lớn mạnh nhất trong các tông phái Phật giáo Trung Quốc.