荷爾拜因出生於巴伐利亞的奧格斯堡，是歐洲最大的礦冶工業和金融業的中心。他主要是向他的父親老漢斯·荷爾拜因學習繪畫，1514年前往瑞士巴塞爾，結識人文主義學者伊拉斯謨，受到新思想的薰陶，畫藝也大有長進，兩年後爲新當選的巴塞爾市長邁爾夫婦畫像，一舉成名。在許多肖像畫中最成功的是3幅《伊拉斯謨像》 (分別藏於巴塞爾和巴黎)。畫中的這位學界泰斗，全神貫注，姿態表情與背景陳設皆飽含安詳、冷靜與文雅的氣氛，畫面構圖繁而不亂，設色恰到好處，在德國、瑞士畫壇獨樹一幟，成爲西方最有名的肖像畫之一。 伊拉斯謨委託他爲自己的諷刺作品《愚人頌》繪製插圖，他同時還爲馬丁·路德翻譯的德語《聖經》繪製了插圖，他也爲巴塞爾市政廳繪製壁畫，爲教堂和私人住宅設計玻璃鑲嵌畫和裝飾畫。1517年應邀到瑞士中部作畫，順道到過意大利，學習意大利的“新藝術”。回來後被接納爲巴塞爾畫家同業公會會員，和一位皮革商的寡婦結婚，並開了自己的畫店。1524年，曾到法國旅行。
1532年定居英國後，主要爲王室和宮廷畫像，其中雖有佳作，但表現的氣氛已較矜持呆板，然而在寫實傳真方面又達到了新的高度。他的宗教畫、版畫和書籍插圖，也成就卓著。宗教畫《索洛圖恩的聖母》 《達姆施塔特的聖母》都以所藏城市命名。木刻插圖線條流暢，風格灑脫。
漢斯·荷爾拜因是文藝復興時期繪畫的著名代表人物，他一生致力於肖像創作，並富有獨創性。在《大使們》一畫中，他着力表現出人物的社會地位、性格特徵和心理狀態，並吸收了意大利式的肖像技法。顯然，畫家並未矯揉造作地去故意美化、粉飾他們，而是以直觀的、高度寫實的手法忠實地記錄了自己的感受和理解。但是，貴族習氣的呆板和矜持也給作品帶來了僵化的痕跡，這與迎合當時宮庭趣味的"矯飾主義風格"有關。
歐洲文藝復興時期很多大畫家都擅長畫人物肖像，但終生從事肖像畫創作，成就蓋世者唯有荷爾拜因一人。
在十五六世紀的德國繪畫史上，奧格斯堡的荷爾拜因家族佔據了重要的一頁。被世人熟知的有老漢斯·荷爾拜因與他的兩個兒子西格姆德·荷爾拜因、亞姆勃羅塞·荷爾拜因。而西格姆德的兒子就是漢斯·荷爾拜因，正是他光耀了這個家族的才智，也因此被譽爲“完美的荷爾拜因”。
