Chociaż według kronikarzy korzeni Gryfowa Śląskiego należy szukać jeszcze w X wieku, kiedy na skrzyżowaniu istniejących szlaków handlowych istniała już spora osada, zachowane dokumenty łączą początki miasta z księciem Bolesławem Wysokim. Nazwę miasta wywodzono od możnego rodu śląskiego Gryfitów, który odgrywał ważną rolę na Śląsku aż do bitwy pod Legnicą. W przeszłości miasto i okoliczne wioski silnie związane były z rodem Schaffgotschów rezydujących na zamku Gryf od pierwszych lat XV wieku.
W dokumentach z roku 1249 Gryfów wymieniony jest jako osada handlowa nad Kwisą. Prawa miejskie na wzór Lwówka Śląskiego wraz z innymi przywilejami otrzymał w roku 1354. Patrycjat miejski dostał prawo wyboru burmistrza, radnych i ławników. Posiadali oni wolność jurysdykcji w sprawach kryminalnych. Uzyskano wtedy także zezwolenie na podwyższenie murów obronnych i wież. Co tydzień w sobotę odbywał się w mieście targ, istniał tutaj także wolny targ solny, oraz jarmarki organizowane w dzień patrona miejscowego kościoła.
Na początku XV wieku Gryfów Śląski staje się własnością Schaffgotschów z zamku Gryf. W latach 1427 – 1431 zapisały się w historii miasta rozruchy wywołane przenikaniem na Śląsk idei husyckich. W tym czasie biedota zniszczyła w sporym stopniu dobytek patrycjuszy i budowle sakralne. W połowie lat trzydziestych XV wieku, po stłumieniu rozruchów religijnych przystąpiono do odbudowy miasta. W tym okresie nękają Gryfów klęski żywiołowe: powodzie w latach 1431 i 1469, oraz wielki pożar, który w roku 1472 strawił niemal całe miasto.
Okres stabilizacji i rozwoju tkactwa lnianego przeżywa Gryfów w XVI wieku; w roku 1537 Ferdynand I przyznał miastu prawo do dorocznego targu płótnem. W tym samym czasie burmistrz Mateusz Rothe zapoczątkował handel płótnem z miastami zachodnich Niemiec i Niderlandami. Od XVI Gryfów stał się głównym ośrodkiem tkactwa dla Pogórza Izerskiego tracąc to znaczenie dopiero po wojnie trzydziestoletniej. Na przełomie XVI i XVII wieku pracowało tutaj ponad 100 mistrzów płóciennictwa.
Wzrost zamożności przejawiał się między innymi także rozbudową miasta. W 1512 r. ukończono budowę kościoła parafialnego i plebanii, obok wzniesiono szkołę a cmentarz przeniesiono za Bramę Lubańską. W 1524 r. zburzono stary ratusz i wybudowano nowy. W jego piwnicach znalazła miejsce winnica, dwa kramy solne i waga miejska. Powstały nowe kamienice i przedmieście przed bramą kościelną.
Okres prosperity zahamował wielki pożar z 1603 r. oraz powodzie w latach 1608- 1613. Kolejne pożary wybuchały w Gryfowie podczas wojny trzydziestoletniej w latach 1624 — 1634, kiedy przypadkowo spalono całe miasto podczas walk ze Szwedami. Zniszczony został ratusz, browar, kościół, szkoła i 107 domów mieszkalnych.
Po zakończeniu wojny trzydziestej, podobnie jak w innych miejscowościach Śląska zapisały się w historii Gryfowa działania rekatolizacyjne — w 1654 roku odebrano protestantom miejscowy kościół. Wybudowali oni wtedy w Wieży po drugie stronie Kwisy, już na terenie Saksonii nową świątynię, co dla pomysłodawców tej inwestycji oznaczało dalsze represje i wydalenie z miasta.
Kolejny okres rozwoju Gryfów przeżywa na przełomie wieków XVII i XVIII , a związany jest on z rozwojem produkcji płótna i handlu. W roku1755 Gryfów przystąpił do Stowarzyszenia Kupców Lnianych z Kamiennej Góry, Jeleniej Góry oraz Kowar. Okres prosperity przerywają dopiero wojny śląskie, po zakończeniu których nastąpił kryzys w handlu płótnem, a bunty miejscowych tkaczy zostały krwawo stłumione przez władze.
W roku 1783 podczas rozruchów wybuchł pożar, który strawił znaczną część miasta wraz z browarem, słodownią, budynkiem parafialnym i ponad setką kamienic mieszczańskich. Mieszkańcom Gryfowa mocno dało się we znaki również uciążliwe kwaterowanie wojsk w czasie wojen napoleońskich, kiedy w roku 1813 Francuzi wysadzili most na Kwisie. Wiosna ludów w Gryfowie zbiegła się z nieurodzajem i przyniosła rozruchy społeczne spowodowane głodem. Stłumiono je przy pomocy wojska.
W roku 1865 Gryfów otrzymał połączenie kolejowe z Jelenią Górą i Zgorzelcem, nieznacznie później później z Lwówkiem Śląskim i Mirskiem, co dało miastu szansę dalszego rozwoju.
Obie wojny światowe szczęśliwie ominęły Gryfów. Na początku mają 1945 roku miasto zajęte zostało przez Armię Czerwoną i w pierwszych powojennych latach nosiło nazwę Gryfogóra lub Gryfiogóra. Obydwie nazwy nie przyjęły się jednak i od końca lat 40-tych dwudziestego wieku miasto funkcjonuje jako Gryfów Śląski.
Po wojnie miasto rozwijało się się jako ośrodek przemysłowo – rolniczy. W ostatnich latach zaznaczył się jednak wyraźnie upadek przemysłu przy jednoczesnej transformacji okolicznych gospodarstw rolnych. Jednocześnie, w oparciu o atrakcyjne położenie i liczne, zachowane w niezłym stanie zabytki, wzrosła rola Gryfowa jako jako gminy turystycznej.