據清代大學者戴名世《憂庵集》等古籍記載，有“國粹”之稱的麻將牌是明朝時一個名叫萬秉迢的人發明的。萬秉迢被施耐庵《水滸傳》書中的梁山108位好漢所折服，於是想做一副娛樂工具來紀念他們。經過幾天精心設計，終於研製出了麻將牌。他把麻將牌設計爲108張，暗喻《水滸》中的梁山108位好漢。牌中的九索指“九紋龍”史進，二索指“雙鞭”呼延灼，等等。麻將又分萬、筒(北方稱餅)、索(北方稱條)，即是發明人萬秉(餅)迢(條)的諧音。
接下來，萬秉迢考慮到梁山一百單八將分別來自東、西、南、北、中五個方位，又增添了“東”、“西”、“南”、“北”、“中”各4張、共計20張牌。同時，考慮到梁山英雄好漢中既有出身貧民又有出身富戶的，對此，就稱“貧”爲“白”(板)，“富”爲“發”(財)。於是，“白”、“發”又各增牌4張、共計8張。最後，便構成了整副牌136張。由於水泊梁山在宋江的領導下一心想被招安，想與朝廷求和，並不想戰勝或打贏朝廷。所以打麻將勝者歷來說“和”，而不說“勝”或“贏”。
博主劉繼興經考證後認爲，最初打麻將只是極爲普通的民間娛樂活動，是艱苦勞作後的一種放鬆，代表了廣大勞動人民在封建高壓統治下對水泊梁山“大碗喝酒、大塊吃肉”自由生活的嚮往，同時麻將在全國的流行，也表明了梁山鬥爭精神在民間的生生不息。只是後來麻將進入統治者階層的生活後，才逐步演變成賭博活動與行賄工具(下級打麻將時故意輸給上級)，禍及家庭與社會,才招致了人們對之的深惡痛絕。麻將起源的另一種說法與鄭和下西洋有關，鄭和是坐着大帆船下西洋的，海上航行時，百無聊賴，鄭和以“筒”狀船上的鐵餅，以“索”狀繩纜，以“萬”狀甲兵，中、發、白字樣狀航行的旗幟，東西南北狀以辨風向的小旗指標，製成現在的麻將模樣以資消遣。
