Починаючи з III століття до нашої ери Вавилон поступово занепав. Вавилон частенько ставав здобиччю різних завойовників. У 539 році до нашої ери ним оволодів перський цар Кір II, і місто стало однією зі столиць держави Ахеменідів. Його розграбували війська іншого перського владики Дарія, а Ксеркс пограбував його храми.

Найбільш ранні археологічні знахідки у Вавилоні датуються часом близько 2400 року до н. е. Перша письмова згадка про Вавилон міститься в написі аккадського царя Шаркалішаррі (правив у 2200-2176 роках до н. е.).

На околиці Вавилонського царства постійно нападали кочівники, а 729 року ассірійський цар Тиглатпаласар III повністю підкорив усю Месопотамію.