磁鐵不是人發明的，是天然的磁鐵礦。古希臘人和中國人發現自然界中有種天然磁化的石頭，稱其為“吸鐵石”。這種石頭可以魔術般地吸起小塊的鐵片，而且在隨意擺動后總是指向同一方向。早期的航海者把這種磁鐵作為其最早的指南針在海上來辨別方向。最早發現及使用磁鐵的應該是中國人，也就是利用磁鐵制作“指南針”，是中國四大發明之一。
經過千百年的發展，今天磁鐵已成為我們生活中的強力材料。通過合成不同材料的合金可以達到與吸鐵石相同的效果，而且還可以提高磁力。
在18世紀就出現了人造的磁鐵，但制造更強磁性材料的過程卻十分緩慢，直到20世紀20年代制造出鋁鎳鈷。隨后，20世紀50年代制造出了鐵氧體，70年代制造出稀土磁鐵包括釹鐵硼和釤鈷。至此，磁學科技得到了飛速發展，強磁材料也使得元件更加小型化。