A település területe már az őskorban is lakott hely volt, a helyben feltárt bronzkori edénymaradványokat a budapesti Nemzeti Múzeum őrzi. A Kr. E. 400. év környékéről már szőlőtermestésre utaló leletek is előkerültek. A helyi hagyomány szerint a község eredete a honfoglalás korára vezető vissza. A település az oklevelek tanúsága szerint már a XIII. században létezett. Mádot a legrégebbi oklevelekben is már, mint mezővárost említik. A XV. században a tokaji várhoz tartozott, majd később a regéci vár településeihez csatolták. 1541-ben a tállyai uradalom részeként említik.

1567-ben a törökök felégették a falut, de ismét felépült. A XVI. század végére Zemplén vármegye hetedik legnépesebb települése lett. 1627-ben már vásártartási joggal is rendelkezett. 1637-ben a törökök újból felégették. Védekezésül a falusiak megerősítették a templomot. 1645-ben pestisjárvány pusztított a faluban. II. Rákóczi Ferenc és nővére 1700-ban vásárolta meg a községet. Maga a fejedelem is gyakran megfordult Mádon, különösen szüret idején. Mád ekkor már híres bortermelő helynek számított, még Thököly Imre is hazaengedte katonáit szüretre.

A Napóleon elleni háborúk idején a tokaj-hegyaljai hadak Mádnál gyülekeztek. A század végére a település az adók és a kedvezőtlen időjárás miatt teljesen elszegényedett. A barokk stílusú zsinagógát 1795-ben építették. A mádi zsinagógához hasonló stílusú csak egy van még Európában. Az átépítése során a barokk és copf építészeti stílus keveredése jött létre, ettől vált egyedivé és Magyarország egyik legszebb zsinagógájává. A zsinagóga mellett épült rabbiház teljes felújítása 2006-ban kezdődött el. Az 1848-49-es szabadságharc során sok mádi vesztette életét, köztük a szabadságharc tizenöt esztendős gyermek-hőse, Koroknay Dániel is. Nevét ma a helyi általános iskola őrzi.

A környék ásványbányái évtizedeken át bitosítottak munkát az itt élőknek. Napjainkban csak a gyógyító hatású zeolit ásványt bányásszák.

Több évszázados szőlőművelő és bortermelő hagyományai tették Mádot a hegyaljai bortermelés egyik fellegvárává. A település főutcáján álló házak a felvidéki népi építészet stílusát őrzik. A kőből épített boltíves kapui szinte változatlan formában láthatók ma is. Az egykori gazdagságot őrizték meg a lakóházai, kúriái, melyek alatt kiterjedt pincerendszerek húzódnak. Nemespenésszel borított falai között érlelődik a hamisítatlan mádi bort. A település 2002-ben a Tokaj-hegyaljai borvidék részeként felkerült az UNESCO Világörökség listájára, mint kultúrtáj.

www.mad.info.hu