Desde los albores de la época arcaica, todos los griegos, comprendidos los de las colonias del Mediterráneo y los del Ponto Euxino, toman parte en las actividades del santuario. Su importancia, creciente de día en día, se pone de relieve con la construcción de los primeros edificios monumentales. A éstos se añaden poco a poco nuevas construcciones para subvenir a las crecientes necesidades tanto del culto como de la administración, hasta que, hacia finales del siglo IV a. C., el santuario adquiere su estructura arquitectónica definitiva. Esta estructura será completada en época helenística y romana para adaptarse, introduciendo algunos cambios, a las necesidades del momento y al nuevo modo de vida.
El santuario propiamente dicho, aislado por un muro, tenía tres entradas principales: dos al Oeste y una al sur. En el interior del cercado se hallaban los templos y los edificios directamente relacionados con el culto, mientras que los edificios auxiliares, las habitaciones de los sacerdotes, las termas, las hospederías, el gimnasio, la palestra, etc., estaban fuera del recinto.
En la falda del monte Cronion se levantaba el Heraion, el templo de Hera. El templo, de estilo dórico, fue construido en el año 650 a. C. y estaba constituido entonces únicamente por la cella y el pronaos; en el año 600 a. C. se le añadieron un opistodomo y una columnata exterior. Si embargo, investigaciones recientes inducen a pensar que el templo fue construido de una sola vez hacia el año 600 a. C. según un plano unitario. Este edificio de planta alargada y de proporciones pesadas, es una de las muestras más antiguas de la arquitectura religiosa monumental que se han conservado hasta nuestros días en Grecia. El basamento del templo y las grandes pilastras de la cella fueron tallados en calcárea conchífera local, mientras que la parte superior de los muros era de adobe y la cubierta de ladrillo sobre envigado de madera. La punta de los dos frontones estaba coronada por una acrótera de ladrillo en forma de disco. Las columnas, originariamente de madera, fueron poco a poco sustituídas, en el transcurso de los siglos, por una columnata de piedra. Dado que cada una de las columnas pertenecía al estilo de la época en que fue instalada, poseemos una colección de columnas dóricas que ilustra la evolución de la columna y sobre todo del capitel, desde la época arcaica hasta la romana. En el fondo de la cella se conserva aún el basamento sobre el que estaban instaladas las estatuas de piedra de Zeus y de Hera. La cabeza colosal femenina encontrada en las excavaciones pertenece, con toda probabilidad, a la estatua de Hera.
Un poco más tarde comenzaron a construirse, uno tras otro, los Tesoros, pequeños templos en forma de "megaron" ofrendados por las ciudades griegas y principalmente por las colonias. Fueron edificados sobre el terraplén natural que forma la ladera sur del Cronion, un poco por encima del Heraion. El más antiguo es el Tesoro de Sicio, ciudad no lejana de Corinto, que, en su primera fase, es casi contemporáneo del templo de Hera. Los más recientes se remontan a la primera mitad del siglo V (tesoros de Sicio y Gela en su segunda fase, tesoros de Siracusa y Bizancio). Dispuestos así, uno junto a otro, marcaban el límite septentrional del Altis. Pausanias refiere el nombre de diez tesoros; sin embargo, actualmente encontramos en aquel lugar las ruinas de doce pequeños templos, de los que sólo cinco han sido identificados con certeza: los tesoros de Sicio, de Seline de Sicilia, de Metaponto, de Mégara y de Gela. Estos tesoros, en un principio dedicados al culto, fueron utilizados a continuación para guardar ofrendas de valor.
El Pelopion (recinto consagrado a Pélope) fue renovado en el siglo VI a. C. Su muro de cintura, inicialmente circular, se convirtió en pentagonal y se le dotó de una entrada monumental (própilon) que fue sustituida, durante el siglo V a. C., por otra todavía mayor.
El primer Pritaneion, sede de los Prítani, administradores del santuario, se encuentra en el ángulo nordeste del Altis y se remonta a los comienzos del siglo V a. C. La "estía" (hogar) sagrada, permanentemente encendida, estaba situada en un local especial. Las habitaciones de la parte norte del Pritaneion se usaban para los banquetes en honor de huéspedes distinguidos y de los vencedores de los Juegos.
Nada queda del gran altar de Zeus, situado al sudeste del templo de Hera. Resultante del amontonamiento progresivo de las cenizas de los sacrificios y de la "estía" del Pritaneion, el altar acabó por formar una pequeña colina que las lluvias deben haber deshecho poco a poco, después del abandono del santuario. El espacio que se extiende al este, frente al altar, y especialmente la ladera del terraplén de los tesoros, constituían probablemente el teatro. Recibía este nombre a causa de la vista panorámica que ofrecía sobre el lugar de los sacrificios.
El estadio arcaico (Estadio I), muy simple y todavía sin rampas, se extendía probablemente, en su nivel inferior, a lo largo del terraplén de los tesoros. Su lado menor occidental, donde estaba la meta de llegada, daba sobre el Gran altar de Zeus. A finales del siglo VI o comienzos del V a. C., este estadio fue quizás desplazado ligeramente hacia el este, con la pista en un nivel inferior y las rampas de los lados longitudinales hechas de un modo más regular (Estadio II). Hacia la mitad del siglo V a. C., el estadio fue desplazado de nuevo, 82 m. hacia el este y 7 m. hacia el norte, y se cerró su lado corto occidental (Estadio III). Como han demostrado las excavaciones, el terraplén de este lado corto occidental del estadio fue truncado cuando, en la segunda mitad del siglo IV a. C., se construyó el Pórtico del Eco que disoció definitivamente el santuario del estadio. De esta manera, el estadio que hasta entonces formaba parte del santuario, cambió no sólo de forma, sino también de significdo. Según excavaciones recientes, el Estadio III se remonta a los comienzos del siglo V a. C., mientras que el Estadio II puede situarse en la época arcaica.
Desde entonces, los Juegos se convierten poco a poco en un espectáculo profano. La pista del nuevo estadio tiene una longitud de 212,54 m. y una anchura de aproximadamente 28,50 m.; la distancia entre la línea de salida y la meta es de 192,82 m., en lugar de los 186 m. del estadio clásico. La pista estaba circundada por rampas, pero no había asientos de piedra, excepto unos pocos para las autoridades. De piedra era también la tribuna de los árbitros (Hellanodikoi), en la parte meridional del estadio, frente al altar de Deméter Chamine. El estadio podía contener 45.000 espectadores que se sentaban directamente en el suelo. Durante la época helenística, el estadio fue conectado con el ángulo noroeste del santuario por medio de un estrecho corredor abovedado, la Cripta, que en su extremo occidental terminaba en una puerta monumental con columnas de estilo corintio.
En el emplazamiento de este estadio clásico tardío, las excavaciones han descubierto numerosos pozos de época arcaica que aseguraban el aprovisionamiento de agua a los millares de espectadores de los Juegos. Cuando en el siglo V se desplazó el estadio, estos pozos fueron cegados. Se enterraron en ellos numerosísimos exvotos de excepcional valor artístico, pertenecientes a la época geométrica, a la arcaica y a la clásica.
El Hipódromo, de una longitud total de cuatro estadios, (alrededor de 780 metros), no ha sido excavado todavía. Es probable que haya sido destruído por el curso del Alfeo. Durante el periodo clásico adquirió su forma definitiva al sur del estadio y paralelo a él. Entonces se inauguró un nuevo sistema de líneas de salida para las carreras de caballos y carros. La falda de una pequeña colina situada al norte de la pista fue transformada en rampa para los espectadores, mientras que al sur y al oeste construyeron terraplenes. Al oeste, el hipódromo se cerraba con el Pórtico de Agnapto que, lo mismo que el hipódromo, no se ha excavado todavía. La pista del hipódromo tenía forma elíptica, dividida en sentido longitudinal por una barrera de piedra o de madera que medía dos estadios (cerca de 390 metros). Los caballos y los carros corrían alrededor de esta barrera cubriendo así, en cada vuelta completa, la distancia de cuatro estadios.
Al sur del santuario se construyó, pasada la mitad del siglo VI a. c., el edificio meridional del Bouleuterion, una de cuyas dos alas cortas, de forma rectangular absidal, mantiene el tipo de las construcciones prehistóricas del Altis. Durante el siglo V a. C., se unieron a éste un segundo edificio con ábside, construido paralelamente a él, y un pabellón rectangular en cuyo centro se hallaba el Altar de Zeus Horchios, sobre el cual los atletas prestaban juramento antes de los juegos. Estos tres edificios contiguos fueron conectados entre sí, quizás en el siglo IV a. C., por un pórtico jónico que corría a lo largo de sus fachadas orientales.
En el siglo V a. C. el santuario alcanza el máximo de esplendor y riqueza. Se construye en el centro del Altis el monumento más importante, el gigantesco templo de Zeus, cuya edificación, iniciada alrededor del 470 a. C., inmediatamente después de la reorganización del estado, fue completada en el 456 a. C. El templo, de estilo dórico períptero, obra del arquitecto Libón de Elis, era el mayor del Peloponeso y fue considerado como la expresión más perfecta de la arquitectura dórica. Las composiciones marmóreas de sus frontones representaban, al este, la carrera de carros de Enomao y de Pélope, con Zeus en el centro; al oeste, la lucha de los lapitas y los centauros durante la boda de Piritoo y Daidamia, con Apolo en el centro. Las doce metopas del templo, seis sobre la entrada del pronaos y seis sobre el opistodomo, representaban los doce trabajos de Heracles. Estas esculturas son los ejemplos más representativos del llamado "estilo severo". La acrótera central del frontón oriental, era una Nike dorada, obra de Peonio, y las acróteras laterales tenían forma de lébetes, igualmente doradas. Peonio fue también el autor de la Nike de mármol, levantada sobre un alto pedestal triangular, frente a la fachada oriental. En el fondo de la cella se instaló, alrededor del 430 a. C., la colosal estatua crisoelefantina de Zeus, obra maestra de Fidias, y de la que no quedan sino misérrimas reproducciones. El dios, sentado en un trono, sostenía en la mano derecha una Nike de oro y marfil y, en la izquierda, un cetro. Su trono, al igual que la peana, estaban decorados con representaciones mitológicas, dioses, genios, héroes, en oro, marfil y piedras preciosas.
Para la realización de la estatua se construyó, al oeste del templo, un taller a propósito. En el interior y en los alrededores de éste se han encontrado numerosos utensilios, joyas de vidrio, moldes de arcilla y otros instrumentos relacionados con el trabajo del artista que han permitido fijar de manera exacta la cronología de la estatua.
Al norte del taller se construyeron, casi en la misma época, otros dos edificios. El primero, rectangular con un patio porticado en el centro, se identifica de ordinario con el Theokoleon, sede de los Theokoloi, sacerdotes de Olimpia. El segundo, más pequeño, constituido por una estancia circular encerrada en una estructura cuadrada, es el Heroon, denominación que le da una inscripción de época helenística tardía hallada in situ. La hipótesis reciente de que este edificio habría sido inicialmente destinado a los baños calientes y que sólo posteriormente habría sido consagrado a un héroe anónimo, no se basa en ningún indicio fundado.
Todavía más al oeste, cerca del Cladeo, se construyeron, siempre en el siglo V a. C., los Baños y una Piscina. Alrededor del 300 a. C., estos baños fueron ampliados por primera vez y de nuevo lo fueron hacia el año 100 a. C., fecha en la que se les añadió el hipocausto (sala con calefacción subterránea). En época romana fueron abandonados y en vez de éstos se construyeron Termas en varios lugares del santuario.
La época del clasicismo tardío fue para los habitantes de la Elide un periodo de revoluciones internas y de disensiones. Sin embargo, estas agitaciones no impidieron que se llevase a cabo un nuevo plan de edificaciones que dio al santuario su definitiva configuración arquitectónica. Entonces hicieron su aparición en Olimpia los estilos jónico y corintio, imponiéndose al dórico que había dominado hasta aquel momento. En estas nuevas construcciones se utilizó profusamente el mármol blanco en lugar de la caliza conchífera local, empleada hasta entonces casi con exclusividad. Es el signo de un cambio más radical que sufrió el santuario y que se deja ver también en la organización de los Juegos. Con el desplazamiento del estadio más al este que el de época clásica, se consuma su desvinculación del recinto sagrado del Altis.
Esta separación se hace todavía más definitiva con la construcción, poco después del 350 a. C., a lo largo del vértice oriental del Altis, del Pórtico del Eco o Eptaeco, que debía su nombre a la acústica, es decir, al hecho de que el eco se reflejaba en él hasta siete veces. Recibía también el nombre de Poikile a causa de los frescos que adornaban las paredes interiores. Tenía dos columnatas, la externa de estilo dórico y la interna, quizás de estilo corintio, con habitaciones al fondo. Durante este periodo, el santuario propiamente dicho fue aislado de los edificios auxiliares mediante un muro de cintura monumental, de piedra caliza, con cinco puertas, tres al oeste y dos al sur.
A comienzos del siglo IV a. C. se construyó el Metroon, el templo de Cibeles, madre de los dioses, frente al terraplén de los Tesoros. De este templo, dórico períptero, se conserva solamente el estilobato y fragmentos del friso de piedra. Desde la época de Augusto, el Metroon fue usado como lugar de culto imperial y en el interior del templo se instalaron estatuas de emperadores. A lo largo del terraplén de los Tesoros, entre el Metroon y el estadio, se conservan las peanas de 16 estatuas de bronce de Zeus, los Zanes, erigidas con la recaudación de las multas impuestas a los atletas que había intentado ganar la competición de manera fraudulenta. El límite meridional de todo el complejo del santuario estaba constituido por el Pórtico meridional. Este tenía dos series de columnas, la del exterior, de estilo dórico, y la interna, de estilo corintio, con una pared al fondo. Su fachada tenía en el centro una zona porticada que daba al edificio la forma de una T. Su construcción es casi contemporánea a la del Pórtico del Eco y tiene también, como éste, "euthinteria" y escalones de mármol.
De finales del siglo V a. C. o comienzos del IV es el Edificio del Sudeste. Cerca del ángulo sudeste de los edificios a él adosados, qu eson de época helenística, ha salido a luz un altar de Artemisa de comienzos del siglo V a. C. El edificio del Sudeste fue demolido durante el siglo I a. C. y su base sirvió para la construcción de una villa con peristilo, muy probablemente la de Nerón.
El Filippeion es un edificio circular porticado, situado al Sur del Pritaneion, que comenzó a construir Filipo II de Macedonia después de la batalla de Queronea (338 a. C.) y que terminó su hijo Alejandro. Se alzaba sobre un basamento escalonado de mármol, en gran parte conservado, y estaba circundado por una columnata jónica. En el interior, las paredes de la cella circular estaban adornadas con columnas corintias y en ella se alzaban, sobre un pedestal semicircular, cinco estatuas crisoelefantinas, obra del escultor Leochares, que representaban a Alejandro Magno entre sus padres y antepasados. Este tipo de construcción circular, ya desde antiguo de carácter cultual, viene usado ahora por primera vez para el culto de la dinastía Macedónica, elevada al rango de los héroes.
En la parte occidental del santuario, al sur del taller de Fidias, se construyó en 330 a. C. el Leonidaion, una hospedería que lleva el nombre del arquitecto que la hizo y la donó, Leónidas de Naxos. Estaba constituido en sus cuatro lados por habitaciones que daban a un patio interior con columnas de estilo dórico. En el exterior, el edificio estaba circuncidado por una columnata jónica. El Leonidaion, destinado a dar alojamiento a personalidades extranjeras, fue transformado en época romana en residencia para altos funcionarios del Imperio.
En época helenística (siglos III-II a. C.) no se realizó ninguna construcción en el santuario propiamente dicho. Se llevaron a cabo sólo trabajos de mantenimiento y consolidación y, en algunos casos, se procedió a la transformación, a veces importante, de edificios dañados por los fuertes terremotos que son frecuentes en Olimpia. La actividad arquitectónica continuó, sin embargo, en el exterior del Altis, para hacer confortable la permanencia de los atletas y los visitantes.
Al oeste del Altis, es una zona que estaba destinada al entrenamiento de los atletas, se edificó en el siglo III a. C. la Palestra, destinada al adiestramiento en la lucha, el pugilato y el salto. Tenía una forma casi cuadrada, con un patio porticado sobre el que se abrían los vestuarios, el elaiothesion (donde los atletas se untaban el cuerpo de aceite), el konisterion (donde se espolvoreaban con arena o cenizas), baños y aulas en las que los entrenadores impartían su instrucción.
Completaban el aspecto de Olimpia millares de altares, de estatuas de dioses, génios y héroes, los monumentos de los vencedores de los Juegos, de reyes y de generales, todas obra de los artistas más célebres de la época. Poquísimas de éstas han llegado hasta nosotros. Obras semejantes fueron erigidas también en época romana; la mayor parte, efigies de dignatarios o de emperadores romanos, levantadas por ciudades o por particulares deseosos de captar su benevolencia. Las obras antiguas de más valor fueron transportadas entonces al templo de Hera que desde aquel momento fue destinado a Museo.
En época romana, después de la derrota de los griegos en el Istmo (146 a. C.), el cónsul romano Mummio ofreció a Olimpia 21 escudos dorados que fueron fijados sobre las metopas del templo de Zeus. Sila, al contrario, en el 85 a. C., saqueó los tesoros del santuario, al igual que los de Epidauro y de Delfos, para asegurarse los fondos necesarios para la guerra con Mitridates. Decidió también transferir los Juegos Olímpicos a Roma y organizó la Olimpiada 175 (80 a. C.). Olimpia pasó entonces por un periodo de decadencia del que sólo pudo salir después del año 31 a. C., en tiempos de Augusto. Los emperadores y dignatarios romanos mantuvieron actitudes diferentes con respecto al santuario y los Juegos, de acuerdo con su programa político en territorio griego. En tiempo de Nerón, el Altis fue ampliado. Se construyó un nuevo muro de cintura a 3 metros más hacia el oeste y 20 metros más al sur. Las sencillas puertas del santuario fueron sustituidas por propileos monumentales. Casi en la misma época se construyeron la Termas. Más tarde se edificaron otras al nordeste de la villa de Nerón y al oeste del Bouleuterion. Una nueva hospedería fue construida al oeste del taller de Fidias. En este periodo, los monumentos más antiguos son restaurados o remodelados.
Finalmente, en el 160 d. C., Herodes Atico construyó un acueducto que llevaba a un monumental aljibe, el Ninfeo o Exedra, las aguas de un rico manantial situado a 4 kilómetros al este de Olimpia. La construcción de forma semicircular con dos templetes circulares en cada uno de sus extremos. Los muros, de ladrillo, estaban revestidos de mármol variopinto. Sobre el muro semicircular, probablemente de dos pisos, y en los nichos que adornaban esta fachada, se habían colocado las estatuas de Antonino Pío y de su familia, al igual que las de la familia de Herodes Atico. El agua se recogía en la parte superior, en un depósito semicircular, y pasaba después a un aljibe rectangular situado más abajo, a cuyos lados estban los templetes. De allí, a través de una tupida red de conducciones, se distribuía a todo el santuario.
La primera gran destrucción de los monumentos de Olimpia se sitúa en el momento en que, para hacer frente a la amenaza de los Hérulos (267 d. C.), que por fin no llegaron jamás hasta el santuario, se construyó a toda prisa un muro para proteger los tesoros más valiosos y, sobre todo, la estatua crisoelefantina de Zeus. Este muro, que en otro tiempo se creyó que era bizantino, encerraba el templo de Zeus y la parte sur del santuario. Fue construido con materiales de los edificios que se hallaban dentro y fuera del santuario, que fueron demolidos por este motivo, excepto el templo de Hera. Con estas amputaciones y en un estado de decadencia que aumentaba de día en día, el santuario sobrevivió aún un siglo, durante el cual se emprendieron trabajos de restauración, especialmente en la época de Diocleciano. El santuario se cerró definitivamente en el año 393 d. C., cuando el edicto de Teodosio I prohibió el culto pagano. En 426 d. C., por un nuevo edicto de Teodosio II, fueron demolidos los monumentos del Altis, destrucción completada después por dos terremotos, el de 522 y el de 551 d. C.
Durante el siglo V d. C. una pequeña comunidad cristiana se instaló en Olimpia y el taller de Fidias fue transformado en basílica cristiana. Las lagunas del Alfeo y del Cladeo y los corrimientos de tierra del monte Cronion, que entre tanto había perdido su bosque, recubrieron finalmente todo el emplazamiento del santuario con un terraplén de 7 metros de espesor. Además, el Cladeo desvió su curso y acercó su lecho al santuario, haciendo desaparecer así los edificios de la parte occidental.
