概率的公理化包括两个方面：一是事件的公理化表示（利用集合论），二是概率的公理化表示（测度论）。其次是建立在集合之上的可测函数的分析和研究，这就可以利用现代分析技术了。这些工作是由前苏联数学家科尔莫格洛夫在1933年完成的。
概率，亦称“或然率”，它是反映随机事件出现的可能性（likelihood)大小。随机事件是指在相同条件下，可能出现也可能不出现的事件。例如，从一批有正品和次品的商品中，随意抽取一件，“抽得的是正品”就是一个随机事件。设对某一随机现象进行了n次试验与观察，其中A事件出现了m次，即其出现的频率为m/n。经过大量反复试验，常有m/n越来越接近于某个确定的常数（此论断证明详见伯努利大数定律）。该常数即为事件A出现的概率，常用P(A)表示。
第一个系统地推算概率的人是16世纪的卡尔达诺。记载在他的著作《Liber de Ludo Aleae》中。书中关于概率的内容是由Gould从拉丁文翻译出来的。
卡尔达诺的数学著作中有很多给赌徒的建议。这些建议都写成短文。首次提出系统研究概率的是在帕斯卡和费马来往的一系列信件中。这些通信最初是由帕斯卡提出的，他想找费马请教几个关于由Chevvalier de Mere提出的问题。Chevvalier de Mere是一知名作家，路易十四宫廷的显要，也是一名狂热的赌徒。问题主要是两个：掷骰子问题和比赛奖金分配问题。
