A régészeti leletek tanulsága szerint a terület már a bronzkorban is lakott volt. A települést először 1272-ben említik. 1280-ban IV. László király bencés monostort létesített. 1340-től vármegyei törvénykezési színhely, s a XIV. században már a környék központja volt. A XIV. században a település Nagykompolt és Kiskompolt néven két falurészre szakadt. A török időkben a két falurésszel együtt a kolostor és a templom is elpusztult. Az A XVIII. század közepén a falu a Grassalkovich család birtokába került. A falu fellendítésére 1754-ben elzászi svábokat telepített a faluba. Az 1918-ban Fleischmann Rudolf által alapított és róla elnevezett növénynemesítő intézet mára európai hírnevet szerzett magának.