柔道起源于日本古代的柔术。

日本明治10年，日本青年嘉纳治五郎汲取众多柔术流派的长处，始创了一套适合青少年锻炼身体，便于防身自卫的技术体系，为区别于其他柔术，称为"柔道"。经过嘉纳治五郎先生的辛勤努力和大力提倡，1882年在日本的东京下谷北稻荷街的永昌寺，建立了日本最早的"讲道馆",用以训练和传授柔道。很快柔道便在日本全国普遍开展起来。

1895年，日本成立了"大日本武德会",大力宣传和推广柔道，并制订了柔道比赛的统一规则。从1930年起，柔道在日本学校中成了青少年的必修课。在军队、警察部队以及其他各种场所也开始教授柔道，并在全国各地通过各种柔道比赛，使柔道逐渐成为日本普及的运动。

1948年，日本举行了柔道锦标赛。

1949年，成立了全日本柔道联盟。为鼓励柔道运动员积极向上、刻苦训练，嘉纳治五郎设立了柔道的段位制：

一、二、三、四、五段腰带颜色为黑色；六、七、八段腰带颜色为红白相间的腰带；九、十段腰带颜色为红色带。未入段者又分为五个等级：

一、二、三级系茶色腰带；四、五级系白色腰带。

1949年，欧洲成立了柔道联合会。

1951年7月，由英国、法国、德国、意大利、荷兰、瑞士、日本等12个国家发起成立了国际柔道联合会。本部设在日本东京,会长为嘉纳履正(嘉纳治五郎之子)。