汉语的“原子”是从日语汉字直接拿来，日语则来自英文atom。该词源于古希腊。
古代的希腊人对他们周围的世界十分感兴趣，提出了许多有趣的学说解释周围的事物，但常常也有解释错的时候，如当时有两位希腊思想家断定，物质是不能无限分割的，他们认为最终只能获得一种小到不能再分的粒子。古希腊人把它称为atomas，意思就是“不可分”，地球上各种物质都是由它组成的。英语atom就是由此而来。
1803年，英国化学家道尔顿遵循古希腊人的理论，把每种元素列为特定类型，其中粒子以不同方式组合，构成各种物质，这些不可再分的粒子就是原子。这个组合方式当时得到了承认。
但是到了1896年，科学家发现原子并非不可再分，他们发现原子还会分裂，释放出更小粒子，而且还掌握了使原子分裂的方法，终于在20世纪40年代造出了原子弹以及后来的氢弹。但“原子”这个词却还是保存下来了。