A terület már az ókorban lakott volt, ezt támasztják alá a község határában feltárt több ezer éves temetkezési helyek is. Elsőször Árpád-kori okiratokban említik. IV. Béla 1255-ben írt adománylevelének tanúsága szerint Mátyás szepesi prépost testvérének, Andrásnak adja, aki az első ismert őse volt a Golopy családnak. 1258-ban Golop az Aba nemzetségbeli Debrei ág tulajdonába került. Az 1332-1337 közötti években összeírt pápai tizedszedő lajstrom már említi a község Mindenszentek tiszteletére épített templomát. A XIII. század végén Kolop néven szerepel, és Abaújvár tartozéka. A XV. században több birtokos tulajdonában megfordul, többek között urai voltak a tokaji pálosok is. A települést a törökök teljesen kifosztották és porig égették. A kevés túlélőt kemény adók fizetésére kényszerítették. Golopy Gáspár 1596-ban Abaúj vármegye alispáni székét töltötte be.

A XVIII. században a Vay, majd a Vécsey családok uralták a területet, de az Ibrányiak és a Reviczkyek is birtokosai voltak. Az 1867-es kiegyezést követően a falu csak lassan indult fejlődésnek. A mai település csak 1875-ben jött létre az Abaúj vármegyéhez tartozó Felső-Golop és a Zemplén vármegyéhez tartozó Alsó-Golop egyesülésével. A községet csak 1909-ben érte el a vasútvonal, ezzel bekapcsolva az ország vérkeringésébe. A település mindíg is ismert volt szőlőszetéről, borászatáról. Az itt termett szőlőkből készített borok a tokaji borokkal voltak egyenértékűek.