Theo truyền thuyết thì Bồ Đề Đạt Ma được sinh ra ở Nam Thiên Trúc – Ấn Độ. Ngài là con trai thứ 3 của vua Pallava Tamil. Tên thật của ngài là Bồ Đề Đa La.
Danh hiệu Đạt Ma của Ngài có nghĩa là rộng lớn, thông đạt. Danh hiệu này được vị tổ thứ 27 của nhà Phật là Bát Nhã Đa La ban cho sau khi nhận thấy hoàng tử (Bồ Đề Đa La) đã thông đạt chư pháp. Kể từ đó, ngài trở thành vị tổ thứ 28 (truyền nhân của vị tổ 27).
Bồ Đề Đạt Ma nghe theo lời thầy xuất dương tìm hiểu thế sự, truyền pháp và giác ngộ cho con người. Đạt Ma đi mãi và đến Trung Hoa, gặp được vua Lương Vũ Đế, vốn là người sùng đạo Phật nên đã cho xây rất nhiều chùa chiền. Tuy nhiên, khi Đạt Ma giảng giải với vua về việc tích đức để đời thì vua không lĩnh ngộ được. Từ đó, Bồ Đề Đạt Ma thấy rõ là chưa phải lúc để truyền pháp tại Trung Quốc.
Rồi ngài tiếp tục đi, băng qua sông Giang Bắc, qua nước Ngụy, lên núi Tung Sơn, và tu thiền định 9 năm quay mặt vào vách núi, không nói bất cứ điều gì. Cũng tại đây, Huệ Khả đã hữu duyên gặp được ngài, và để lại truyền thuyết bất hủ về tinh thần quyết tâm học đạo của Bồ Đề Đạt Ma.
Ngài được xem là người truyền bá và sáng lập ra Thiền Học và Võ Thuật tới Trung Quốc. Cũng theo truyền thuyết, môn võ Thiếu Lâm Tự là do ngài truyền dạy. Ngài cũng là cha đẻ của Thiền Phật giáo Trung Quốc
