該成語出自宋代祝穆所著的《方與攬勝．磨鍼溪》。
相傳詩仙李白在眉州象耳山（今四川眉山）讀書，學業未成，卻想中途放棄離去。在回家的路上，經過一條溪水（後稱磨針溪），看見老婦獨自在溪邊磨著鐵杵，不禁好奇的詢問老婦，妳為什麼要磨鐵杵啊？老婦回答：我要把這根鐵杵磨成一支針！
李白一聽，深深地為老婦堅毅的精神所感動，決定發憤苦讀，終於完成學業。
（四川省眉山市彭山縣江口古鎮）
後來這個故事被濃縮成『磨杵成針』的成語。比喻只要有恆心毅力和努力不懈，任何困難的事情，都可以成功。
宋．祝穆《方輿勝覽．磨鍼溪》：
磨鍼溪，在象耳山下。世傳李太白讀書山中，未成，棄去。過是溪，逢老媼（ㄠˇ）方磨鐵杵，問之，曰：「欲作針。」太白感其意。還，卒業。
那麼，「杵」是什麼？長什麼樣子？只有一種形狀嗎？讓我們一起來看看：
「杵」的形狀多樣而不一
一般多為石或木製，在人類石器時代，它就已存在。是作為打獵武器，或用為搗碎、研磨食物的工具（搭配臼來使用），長期且廣泛地被各地人類使用。
Φ 天天活用成語，讓我們說話優雅而得體
1.想要成功！除了要有專業的知識、精準的判斷、人脈和機運外，更需要磨杵成針的毅力與堅持。
2.學習磨杵成針的精神，可以鍛鍊我們的意志與耐力，讓我們克服遭遇的困難。
3.磨杵成針靠的是堅持，不是力氣。
4.學習、做事都要有磨杵成針的毅力，不要妄想著一步登天。