国立第一銀行（後の第一勧銀）の横浜支店長であった父の長男として、長谷川は横浜に生まれ育つ。父は和歌や書、書画骨董の蒐集を趣味とし、さらには女性の衣服は和服が一般的だった時代でありながら、妻に洋装させ、自身も西洋式の装いで、馬にまたがり外出するなどハイカラな面も持つ人物であった。父は息子の潔の教育にも熱心で、論語の素読、拓本を手本とした書などをさせていた。また、潔は父の命で、近くの神社への参拝を日課とするが、「神の助けを請うものではなく、自分の誓いを立てに行くものである」と教えられた、と後に長谷川は語っている。多大な影響を与えた父は、潔が11歳の時に死去する。その後、親族の薦めで外交官を目指し、東大入学の為に受験勉強に励むが、健康を害し、医者から「勤め人には向かない。自由業が良い」と言われ、美術の道を歩み始める。20歳の頃から葵橋洋画研究所で黒田清輝にデッサンを、さらに本郷洋画研究所にも通い、岡田三郎助、藤島武二から油絵を学び始めた。雑誌「白樺」などによって同時代の西洋文化が紹介され、その刺激を受けた若い芸術家達が、新しい表現を目指して希望に燃えていた時代であった。長谷川も22歳にして、創刊されて間もない文芸雑誌「聖盃」（後に「假面」と改題）の木版画による表紙絵を永瀬義郎と交代で担当するようになり、芸術家としての本格的な一歩を踏み出す。そしてこの雑誌を通じて、多くの芸術家と交流することになる。

その木版画が注目され始める一方で、長谷川はヨーロッパの伝統的な版画である銅版画作品にも取り組み始める。国内では銅版画を実践する人がほとんどいない時代、ヨーロッパから印刷機や道具を取り寄せ、イギリスから日本に渡り活動していた陶芸家のバーナード・リーチに教えを請いながらの制作であった。長谷川のヨーロッパ美術界の動向や銅版画へのさらなる興味から、第１次世界大戦が終結した1918（大正7）年、27歳の時に横浜港を出発する。パリ到着後は4ヶ月に及んだ長旅の疲れを癒す為、暖かい南仏のカンヌなどを訪れる。地方の村々を訪れ、石造の建造物とゆるやかな丘陵による景色のスケッチを数多く描くなど、南仏滞在は3年間にも及ぶ。その間にも多くの技法書を集めては版画の研究を続ける。この頃、長谷川はメゾチント、フランス語ではマニエール・ノワールという銅版画技法を書物で知る。メゾチントは17世紀に開発され、肖像画などの印刷技法として広まるが、19世紀に写真が発明された事で、ほぼ廃れてしまったものであった。美しい黒の諧調表現に長谷川は感動する。独学でメゾチント制作に挑み、パリに定住して数年後、1925年にはパリの画廊での初個展で、その成果を初めて発表する。古くは肖像画にしか用いられなかった技法を、独自にアレンジし、風景を描いた作品は、高い評価を受ける。その活躍と功績により1935年にはレジョン・ドヌール勲章を授与される。

父の遺産により、経済的な不安の無い中、制作に没頭していた長谷川だが、第二次大戦により、状況は一変する。フランスに留まり、制作を続けるが、日本からの仕送りの額は減少し、ついには1フランも届かなくなる。また、終戦後には他の在仏邦人と共に収容所に収監される。戦時下の苦しい状況から、「樹木の肖像画」とも言うべき一連の作品が生まれる（著書「白昼に神を視る」に詳述されている）。

戦後も長谷川は活躍を続け、1966年にはフランス文化勲章を、1972年には国立貨幣賞牌鋳造局から肖像記念メダルが発行される。日本人の肖像メダルは葛飾北斎、藤田嗣治に次ぐ三人目であり、快挙であった。長谷川芸術はフランスで最高の栄誉を受けるが、1970年、50年近く、2人3脚でその銅版画の刷りを担当していたカミーユ・ケンヴィルが死去。《水浴の少女と魚》はその数ヶ月後のもので、ケンヴィルによる刷りではないが、これが長谷川の最後の作品となる。1980年、京都国立近代美術館で大規模な回顧展が開かれ、長谷川の本格的な日本での紹介がなされる。同年、長谷川はパリの自宅で静かに、一度も帰国することなく亡くなる。
現在、横浜美術館に多数の長谷川作品が収蔵されている。