摩薩德成立於1951年4月1日。成立之初，摩薩德有多種名稱，“以色列祕密情報局”、“中央協調局”、“中央情報與安全局”。
在摩薩德成立伊始，這一時期的摩薩德局長伊塞·哈雷爾確立了以色列情報系統的性質。作爲一個嶄新的情報機構，摩薩德缺乏老牌情報機構所擁有的經驗和傳統，但他們敢於去摸索經驗和創造自己的特色。當特工們接受了任務卻不知如何去完成時，他們會被告知：“如果你被扔出了門，那就再從窗戶鑽進去。”正是憑藉着這種堅持不懈的精神，年輕的摩薩德初露鋒芒，並逐漸積累了自己的經驗。
20世紀60年代，摩薩德完成了從人工情報向現代化情報工作的轉變。梅厄·阿米特接替哈雷爾成爲摩薩德局長。阿米特推出了更專業的招募和訓練方法，並引進了計算機和其他技術手段。之後，美國大型企業的管理方式被引入摩薩德。摩薩德的海外情報蒐集和特工步入了正規化的軌道。
20世紀80年代，先後擔任以色列總理的貝京和沙米爾，均系特工出身。他們不僅對情報界的祕密行動很感興趣，而且鼓勵情報機關實施令人振奮的歷史性行動，企圖以此恢復情報機構的活力和重塑國際形象。貝京經常大膽出擊，並敢於冒險。因此在這一階段，摩薩德特工以蠻幹著稱。
20世紀80年代末期，摩薩德領導人的觀念發生了重大變化。他們雖大膽向部下授命，卻忽視了管理，結果造成許多失誤，內耗加劇，效率明顯降低。
