Строежът на стената започва още през 4 век пр.н.е. в епохата на Пролети и есени и на Воюващите царства. През следващите 2300 години повече от 20 китайски династии работят по укрепването и удължаването ѝ, като така се създава най-голямото съоръжение с военна цел в света. Най-голям принос имат династиите Цин, Хан и Мин, които построяват повече от 6000 км.
Владетеля на царство Чу - Чън през III в.пр.н.е., като контрамярка срещу нападенията на царство Чи, който започва да строи от камъни и пръст голяма квадратна стена. На места тя е заменена от водни канали или естествени планински прегради и по нейната дължина са построени малки крепости. Тази стена се приема за първообраза на този тип строителство. Скоро и другите царства започват да следват примера му и да строят стени да се отбраняват едно от друго, както и от варварските племена от Север. Най-късата от тези стени е 50 км, а най-дългата над 500 км. Останките от тези първи стени показват териториите на отделните царства.

Голяма част от стената (около 1000 км) е построена по време на царство Цин, за да се защити от атаките на номадските племена.