在世界上，以数为内容的竞赛有着悠久的历史：古希腊时就有解几何难题的比赛;我国战国时期齐威王与大将田忌的赛马，实是一种对策论思想的比赛;到了16、17世纪，不少数学家喜欢提出一些问题向其他数学家挑战，有时还举行一些公开的比赛，方程的几次公开比赛，赛题中就有最著名的费尔玛大定理：在整数n≥3时，方程没有正整数解;……近代的数学竞赛，仍然是解题的竞赛，但主要在学生(尤其是高中生)之间进行。目的是为了发现与培育人才。

　　现代意义上的数学竞赛是从匈牙利开始的。1894年，为纪念数理学会主席埃沃斯荣任教育大臣，数理学会通过一项决议：举行以埃沃斯命名的，由高中学生参加的数学竞赛，每年十月举行，每次出三题，限4小时完成，允许使用任何参考书，试题以奥妙而奇特的形式见长，一般都有富创造特点的简明解答。在埃沃斯的领导下，这一数学竞赛对匈牙利的数学发展起了很大的作用，许多卓有成就的数学家、科学家是历届埃沃斯竞赛的优胜者，如1897年弗叶尔、1898年冯卡门等。

　　受到匈牙利的影响，数学竞赛在东欧各国蓬勃开展：1902年罗马尼亚，1934年前苏联，1949年保加利亚，1950年波兰，1951年前捷克斯洛伐克，……相继进行了数学竞赛。

　　把中学生的数学竞赛命名为“数学奥林匹克”的是前苏联，采用这一名称的原因是数学竞赛与体育竞赛有着许多相似之处，两者都崇尚奥林匹克精神。竞赛的成果使人们意外地发现，数学竞赛的强国往往也是体育竞赛的强国，这给了人们一定的启示。

　　1934年在列宁格勒，1935年在莫斯科，有关的国立大学分别组织了地区性的数学竞赛，并称之为“中学数学奥林匹克”。当时，莫斯科的著名数学家都参加了这一工作。前苏联的数学奥林匹克分为五级：学校奥林匹克，县奥林匹克，地区奥林匹克，共和国奥林匹克，全国奥林匹克，再选出参加国际数学奥林匹克的六名代表。

　　对国际间组织数学竞赛最热心的是罗马尼亚的教授罗曼。经过他的积级策划，1959年7月，第一届国际数学奥林匹克(简称IMO)在罗马尼亚古都布拉索举行，拉开了国际数学竞赛的帷幕。当时参加竞赛的学生共52名，分别来自东欧的罗马尼亚、保加利亚、匈牙利、波兰、前捷克斯洛伐克、前德意志民主共和国和前苏联等7个国家。每个国家有8名队员，前苏联只派了4名队员。以后(除1980年由于东道主蒙古经费困难而暂停)每年举行一次，到1990年在我国举办第31届时，已发展到54个国家和地区的308名选手。到1995年在加拿大举办第36届时，双增加到73个国家和地区，400多名选手。