從歷史過程上看，丐幫的形成大體應在兩宋時期。箇中緣由主要是宋代發達的商品經濟、繁榮興旺的城市經濟、豐富多彩的城市生活，以及在這諸多因素交互作用下各種社團、羣體的大量涌現。丐幫作爲一種社會羣體正是在此背景下產生的。
從文獻史料上看，宋代確乎有丐幫之活動，在當時的城市中，尤其是通都大邑中，作爲丐幫首領與標誌的幫主——“團頭”之名即已出現，宋元話本及稗記小說中多見“團頭”一名，最典型的就是《今古奇觀》中“金玉奴棒打薄情郎”一節的記載;該篇載：南宋初年的杭州城中，有一位世襲了七代的丐幫幫主——“團頭金老大”。他管轄着杭州金城的乞丐，收他們的例錢，給衆丐的生活相應的照料，“金團頭”儼然族長、宗老一般，在乞丐中享有相當的權威，藉着衆多乞丐的供奉，他掙了個“廒多積粟”、“囊有餘錢”的殷實家境，以至“放債使婢”，雖不是城中首富，也是數得着的富家了。
既然有了幫主，當然就有丐幫。故而，丐幫之形成於兩宋時期，當無疑義。丐幫的形成與發展歷程與中國古代的祕密會社的發展歷程是大體一致的，即它們大都形成於兩宋時期，發展於元、明時期，大盛於清代及清末民初之際。
丐幫之大量涌現，並呈現出迅猛發展之勢，那是清中後期以至近代的事了。清中時以後，丐幫其名目之多，內容之廣，遠在其他幫會組織之上。綜觀各類文獻所載，可知當時丐幫因地而異，而且多與黑道有染。例如湖北的“籮筐會”，江西的“邊錢會”，江西、福建、浙江三省交界地方的“花子會”、“食巴會”等等都是那時典型的丐幫。
丐幫者，乞丐之幫會也。僅從字面上就可以說明乞丐的組織是具有幫會性質的，事實也確乎如此。幫會是一種祕密會社或祕密社會團體，作爲祕密會社的幫會組織形成於宋代以後，大盛於清代，明清兩代是中國古代幫會組織蓬勃發展的時期，當時的幫會組織名目衆多，形態各異，至明清之交，形成北方以白蓮教爲核心，南方以洪門(即天地會)爲中心的兩大全國性幫會組織系統。
丐幫的首領通常稱爲丐頭或丐首。丐幫因地而異，種類繁多，丐頭的名稱也五花八門。京城丐幫稱其首領爲“黃杆子”、“藍杆子”，華北地區的丐幫“窮家門”，其首領則稱“當家”，其中小頭目又叫“簍子頭”;東北地區“大筐”的首領名爲“落子頭”，還有“團頭”、“甲頭”、“頭牌”、“掌門”、“花子頭”等等，名目雜多，不一而足。丐頭是丐幫中地位最尊顯的人物。
作爲丐幫的頭領，丐頭雖然也脫不了乞丐的身份。但是，他們實際的經濟地位和政治地位卻遠非普通人所能比，更不用說乞丐了。他們有妻有妾，生活豐足，雖名爲丐首而富於平民。他們個人生活闊綽，常有朝歌弦舞之樂，每逢年節以及個人壽慶婚吊，其舉事用度之排，不僅超過普通民衆，而且可與富戶商賈比肩。例如廣州丐幫——關帝廳人馬的丐首陳起鳳就是這樣的。陳起鳳的個人生活，在當時的社會可以說是相當豪闊的，他住在華林寺的一間精舍時，有幾房妻妾，分住在附近的民房，他經常穿着紗綢衫褲，佩上金錶金鍊，褲頭掛上了許多古玉，手執長煙筒，陳起鳳的財源主要來自羣乞的“孝敬”和收黑錢。當年在他的轄區內，一般市民商戶幾乎都“買怕”他，每辦紅白二事，得先送“碧陳”(黑錢)到關帝廳，富家四五銀元，中等人家二三銀元，貧家也得送上一元幾角，並討回一張木板刻印的符咒式的黃色紙條，上書“附城花子陳起鳳”七字，貼在門口，以免羣乞的滋擾，使婚喪諸事得以順利進行。
可見，丐首實則是最大的痞棍和敲詐犯。
丐頭是一種權威型人物，在丐幫內部擁有絕對的權威，在處置幫內衆丐之間的衝突，處理幫內越軌或其他違規行爲方面也具有最終裁決權，他們以“杆子”或“鞭於”爲權力憑據，依此對幫內衆成員實施權威型統治。
關於丐頭的權杖——“杆子”或“鞭子”有種種傳說，據稱，京師丐頭所用之杆子是朱元璋所遺。當年朱元璋尚未位極人寰時，曾經困頓落魄，淪爲乞丐者流。某次遇到二個乞丐，幸得他倆施以衣食，朱元璋才免於餓死，後來朱登上帝位，不忘二丐救命之恩，特意詔示天下，尋訪二丐，居然被他找到了，召入皇宮，欲加官進爵。不料二丐閒雲野鶴慣了，謝絕爲官，決意乞討終身，朱元璋也不相強求，特賜二人各持一根一尺長的木棒，棒上纏布，垂有穗，一色黃，一色藍，賜名曰：“杆”。從此，這二丐仗着這根木棒，討遍天下無人阻礙。衍變至後來便成爲丐首領權威之象徵。有些杆子不便攜帶，就以一根極粗極長的旱菸管代行其權威。
乞首的權杖除杆子外，還有鞭子。
這條非同尋常的鞭子也有一則傳說。據稱：當年唐明皇被奸臣迫害，化裝逃出宮殿，流浪江湖，落入討要的乞丐羣落，交下了不少丐幫朋友，成了花子們的崇拜者，當上了花子頭。不久他的皇帝身份顯露，衆乞丐跪拜真龍天子，發誓要爲龍頭大哥報仇。唐明皇說：“有朝一日，重登寶殿，定要把所有奸臣壞人殺掉，讓咱們窮哥兒們揚眉吐氣!”丐幫兄弟們問：“到那時您還能認識我們這幫窮哥兒們嗎?”唐明皇爲了不忘共患難的窮哥兒們，用皮條編制了一根圓桶龍形的黑皮鞭，起名叫“龍鞭”。然後把“龍鞭”掛在牆上，雙膝下跪發誓道：“這把鞭子上打官、下打臣，亦打丐幫變心人。我登基後若變心，你們任何人都可用這把鞭子打我，打死勿論。”唐明皇留下這根龍鞭，並被敬奉爲丐幫始祖，千百年沿襲下來，乞丐們見了鞭子又敬又怕。丐頭手中的皮鞭，既是其權力的信物，又是專治乞丐的刑具，幫中乞有人犯了幫規，輕者驅逐出幫，趕出本地，重者打死勿論。
“杆子”、“鞭子”的傳說當然不足信，那不過是用皇帝的“天威”來強化、神化丐首權威的政治伎倆，這是封建君主專制政治的慣用伎倆，丐幫也東施效顰，借來強化自身，今天看來頗覺可笑，在當下那種政治文化中，此種伎倆卻是行之有效的。
