Pierwsza osada postała tutaj około 7000 p.n.e. W X wieku p.n.e. stała się ona kolonią jońską. W IV and III wieku p.n.e. miasto brało udział w wojnach z Persami. Okres hellenistyczny zakończył się w 129 p.n.e., gdy Efez jako część królestwa Pergamonu został włączony do Republiki Rzymskiej. W 33 roku p.n.e. Marek Antoni z żoną, egipską królową Kleopatrą, spędzili zimę w Efezie. Czas największego rozkwitu rozpoczął się, gdy ich rywal Oktawian August został Cezarem i uczynił Efez stolicą prowincji Azja (dzisiejsza część Turcji). W III wieku miasto podupadło w konsekwencji wielu trzęsień ziemi i najazdów gotów.
Architektonicznym cudem Efezu jest Biblioteka Celsusa. Ukończona w roku 100 n.e. jest jedynym zachowanym przykładem wielkich bibliotek starożytnego świata. Biblioteka w Efezie była trzecią co do wielkości i prawdopodobnie zawierała około 12 000 zwojów. Biblioteka była w rzeczywistości świątynią poświęconą senatorowi Celsusowi i została zbudowana nad jego grobowcem.
W Efezie archeolodzy odkryli budynki mieszkalne z około 20 r.n.e. Domy zawierają pomieszczenia mieszkalne, miejsca do pracy, kuchnie i toalety z systemem zaopatrzenia w wodę i kanalizacji. Bogato zdobione sale gościnne sugerują, że w domach tych mieszkała klasa wyższa.
To właśnie św. Jan Apostoł założył pierwszą wspólnotę chrześcijańską w Efezie. Jest to miejsce, w którym napisał swoją Ewangelię. Przyjmuje się, że św. Jan zmarł i został pochowany w Efezie. Jego grób znajdował się w bazylice zbudowanej w VI wieku.
Kościół Maryi lub Kościół soborowy w Efezie był miejscem drugiego i trzeciego soboru ekumenicznego w 431 i 449 r. Chrześcijańscy biskupi ustanowili tutaj dwie ważne doktryny Kościoła. Uchwały potwierdziły naturę Chrystusa jako w pełni Boga i w pełni człowieka, a Dziewica Maryja miała być nazywana „Matką Bożą”, a nie „Matką Chrystusa”.
