A település első írásos emléke 1246-ból származik, mely Harsan néven említi. A XIII. században Miklós dubichai gróf várat építetett a településen. A XV. században azonban már, mint Naghharsan szerepel. A török támadások ellenére a hódoltság ideje alatt is végig lakott maradt. Ebben az időben alakult ki a településen a reformáció és lett Nagyharsány a későbbiekben vallási központja. A törökök ellen vívott végső győzelem helyszíneként vált Nagyharsány a magyar történelem szerves részévé. Földrajzi elhelyezkedését tekintve mindig is jelentős mezőgazdasági vidék, ezen belül kiemelkedő szőlőtermő terület volt. Rövid ideig próbálkoztak a Szársomlyón bauxit kitermeléssel de, gazdaságtalansága miatt leállt a folyamat.