ある年の大洪水のあと、村人たちが川の中から香気のある古木を引き上げて霊木として観音堂に納めておきますと、延宝八年（1680）一了居士（いちりょうこじ）という行者が霊夢によって訪れ、信心を凝らして一刀三礼、達磨大師の座像を彫り上げ観音堂にお祀りしました。

この噂は「達磨出現の霊地・少林山」として近隣に広まりました。その頃の領主・酒井雅楽頭忠挙公（さかいうたのかみただたか）は厩橋城（前橋城）の裏鬼門を護る寺として、水戸光圀公の帰依された中国僧・東皐心越禅師（とうこうしんえつ）を開山と仰ぎ、弟子の天湫（てんしゅう）和尚を水戸から請じて、元禄十年（1697）少林山達磨寺（曹洞宗寿昌派）を開創しました。

享保十一年（1726）水戸徳川家から三葉葵の紋と丸に水の徽章を賜い、永世の祈願所とされました。

張り子の縁起だるまは、この寺から生まれました。

昔、大洪水で流れて来た大木で、一了（いちりょう）行者が達磨大師の像を彫ってお堂に安置したのがこの寺の起こりです。

元禄十年（1696）厩橋（うまやばし）城（前橋城）主酒井公が水戸光圀（みとみつくに）公にお願いして、中国僧心越（しんえつ）禅師を迎え,禅の道場としてこのお寺が開かれました。

大阪吹田・大山立修氏の達磨コレクションの寄贈が縁となり、昭和61年10月5日に開堂しました。

達磨大師坐像（だるまだいしざぞう）達磨寺ができる由来となった一了居士の彫った達磨大師坐像は旧本堂（現在の放生池の所）の横の達磨堂にお祀りされていましたが、明治14年6月16日の火災で本堂・達磨堂等、現観音堂を除いて全て消失してしまい、烏有に帰してしまいました。現在、達磨堂の中央に本尊として祀られているの達磨像は昭和28年に前橋の福島紋七氏が奉納したもので初代の達磨像と同じように丁寧に彫られたそうで、達磨堂ができるまでは大講堂に祀られていました。 を中心に堂内には古今東西各種各様の達磨が所狭しと展示されています。

やがて蚕が良い繭を作ると、残った片目にも墨を入れて,大当たりと喜び、お祝いをしたのです。

達磨大師の不屈の精神にあやかり、目標（願い）を立てて、精進努力して無事達成するよう願いをかけます。