En el congreso de la Sorbona de 1894, se sugirió una amplia lista de deportes para el programa de Atenas. Los primeros anuncios oficiales sobre los eventos deportivos que se celebrarían incluían deportes como el fútbol y el cricket, pero estos planes nunca se concretaron y estos deportes no entraron en la lista final de los Juegos. El remo y la vela estaban programados, pero tuvieron que ser cancelados debido al mal tiempo en el día previsto para la competición.
Atletismo
Las pruebas de atletismo fueron las más internacionales de todos los deportes. El plato fuerte fue el maratón, celebrado por primera vez en una competición internacional. Spyridon Louis fue el único campeón griego de atletismo y un héroe nacional. Aunque Grecia era favorita para ganar el disco o el lanzamiento de peso, los mejores atletas griegos acabaron justo por detrás del estadounidense Robert Garrett en ambas pruebas.
No se establecieron récords mundiales, ya que pocos competidores internacionales de alto nivel habían elegido competir. Además, las curvas de la pista eran muy cerradas, lo que dificultaba los tiempos rápidos en las pruebas de carrera. A pesar de ello, Thomas Burke, de Estados Unidos, ganó la carrera de 100 metros en 12,0 segundos y la de 400 metros en 54,2 segundos. fue el único que utilizó la "salida en cuclillas" (poniendo la rodilla en el suelo), confundiendo al jurado. Al final, se le permitió comenzar desde su "posición incómoda".
Ciclismo
Para las competiciones de ciclismo se utilizaron las reglas de la Asociación Internacional de Ciclismo. Las pruebas de ciclismo en pista se celebraron en el recién construido Velódromo Neo Phaliron. Sólo se celebró una prueba de carretera, una carrera de Atenas a Maratón y vuelta (87 kilómetros).
En las pruebas de pista, el mejor ciclista fue el francés Paul Masson, que ganó la contrarreloj de una vuelta, la prueba de velocidad y los 10.000 metros. En la prueba de 100 kilómetros, Masson entró como marcapasos de su compatriota Léon Flameng. Flameng ganó la prueba, tras una caída, y después de detenerse a esperar a que su oponente griego Georgios Kolettis arreglara un problema mecánico. El esgrimista austriaco Adolf Schmal se impuso en la prueba de 12 horas, que sólo completaron dos ciclistas, mientras que la prueba de ruta la ganó Aristidis Konstantinidis.
Esgrima
Las pruebas de esgrima se celebraron en el Zappeion, que, construido con el dinero que Evangelos Zappas había dado para revivir los antiguos Juegos Olímpicos, no se utilizaba antes. A diferencia de otros deportes (en los que sólo los aficionados podían participar en las Olimpiadas), los profesionales podían competir en la esgrima, aunque en una prueba aparte. Estos profesionales eran considerados atletas caballeros, al igual que los amateurs.
Se programaron cuatro pruebas, pero la de espada se canceló por razones desconocidas. La prueba de florete fue ganada por un francés, Eugène-Henri Gravelotte, que venció a su compatriota, Henri Callot, en la final. Las otras dos pruebas, el sable y el florete de los maestros, fueron ganadas por esgrimistas griegos. Leonidas Pyrgos, que ganó esta última prueba, se convirtió en el primer campeón olímpico griego de la era moderna.
Gimnasia
La gimnasia se desarrolló en el interior del estadio Panathinaiko. Alemania envió un equipo de 11 hombres, que ganó cinco de las ocho pruebas, incluidas las dos por equipos. En la prueba por equipos de la barra horizontal, el equipo alemán no tuvo oposición. Tres alemanes sumaron títulos individuales: Hermann Weingärtner ganó en la barra horizontal, Alfred Flatow en las barras paralelas y Carl Schuhmann, que también compitió con éxito en la lucha, ganó en el salto. Louis Zutter, gimnasta suizo, ganó el caballo con aros, mientras que los griegos Ioannis Mitropoulos y Nikolaos Andriakopoulos se impusieron en las pruebas de anillas y de escalada de cuerda, respectivamente.
Disparando a
Celebrada en un campo de tiro de Kallithea, la competición de tiro constaba de cinco pruebas: dos con fusil y tres con pistola. La primera prueba, el rifle militar, fue ganada por Pantelis Karasevdas, el único competidor que dio en el blanco con todos sus disparos. La segunda prueba, de pistola militar, fue dominada por dos hermanos estadounidenses: John y Sumner Paine se convirtieron en los primeros hermanos en quedar primero y segundo en la misma prueba. Para no avergonzar a sus anfitriones, los hermanos decidieron que sólo uno de ellos competiría en la siguiente prueba de pistola, la pistola libre. Sumner Paine ganó esa prueba.
Los hermanos Paine no compitieron en la prueba de pistola de 25 metros, ya que los jueces de la prueba determinaron que sus armas no eran del calibre requerido. En su ausencia, ganó Ioannis Phrangoudis. La prueba final, el rifle libre, comenzó el mismo día. Sin embargo, la prueba no se completó debido a la oscuridad y se finalizó a la mañana siguiente, cuando Georgios Orphanidis fue coronado como campeón.
Natación
La competición de natación se celebró en mar abierto. Cerca de 20.000 espectadores se alinearon en la bahía de Zea, frente a la costa del Pireo, para ver las pruebas. El agua de la bahía estaba fría y los competidores sufrieron durante sus carreras. Hubo tres pruebas abiertas (100 metros libres masculinos, 500 metros libres masculinos y 1200 metros libres masculinos), además de una prueba especial abierta sólo a los regatistas griegos, todas ellas celebradas el mismo día (11 de abril).
Para el húngaro Alfréd Hajós, el hecho de que fuera el mismo día significó que sólo pudo competir en dos de las pruebas. Ganó las dos pruebas en las que nadó, los 100 y 1200 metros libres. Más tarde, Hajós se convirtió en uno de los dos únicos olímpicos en ganar una medalla tanto en las competiciones atléticas como en las artísticas, cuando ganó una medalla de plata en arquitectura en 1924. Los 500 metros libres fueron ganados por el nadador austriaco Paul Neumann, que derrotó a sus oponentes por más de un minuto y medio.
Tenis
Aunque el tenis ya era un deporte importante a finales del siglo XIX, ninguno de los mejores jugadores se presentó al torneo de Atenas. La competición se celebró en las pistas del Club de Tenis sobre Hierba de Atenas y en el interior del velódromo utilizado para las pruebas de ciclismo. John Pius Boland, que ganó la prueba, fue inscrito en la competición por un compañero suyo en Oxford. En la primera ronda, Boland derrotó a Friedrich Traun, un prometedor tenista de Hamburgo, que había sido eliminado en la competición de los 100 metros lisos. Boland y Traun decidieron formar equipo para la prueba de dobles, en la que llegaron a la final y derrotaron a sus oponentes griego y egipcio tras perder el primer set.
Levantamiento de pesas
El deporte de la halterofilia era aún joven en 1896, y las reglas diferían de las actuales. Las competiciones se celebraban al aire libre, en el interior del estadio principal, y no había límites de peso. La primera prueba se celebró en el estilo que hoy se conoce como "clean and jerk". Dos competidores destacaron: El escocés Launceston Elliot y Viggo Jensen, de Dinamarca. Ambos levantaron el mismo peso; pero el jurado, con el príncipe Jorge como presidente, dictaminó que Jensen lo había hecho con mejor estilo. La delegación británica, que desconocía esta regla de desempate, presentó una protesta. Al final se permitió a los levantadores hacer más intentos, pero ninguno de ellos mejoró, y Jensen fue declarado campeón.
Elliot ganó en la prueba de levantamiento a una mano, que se celebró inmediatamente después de la de dos manos. Jensen se había lesionado ligeramente durante su último intento a dos manos, y no fue rival para Elliot, que ganó la competición fácilmente. El público griego quedó encantado con la vencedora escocesa, a la que consideraron muy atractiva. Durante la prueba de halterofilia se produjo un curioso incidente: un sirviente recibió la orden de retirar las pesas, lo que parecía ser una tarea difícil para él. El príncipe Jorge acudió en su ayuda; recogió la pesa y la lanzó una distancia considerable con facilidad, para deleite de la multitud.
Lucha libre
No existían clases de peso para la competición de lucha, celebrada en el estadio Panathinaiko, lo que significaba que sólo habría un ganador entre los competidores de todas las tallas. Las reglas utilizadas eran similares a las de la lucha grecorromana moderna, aunque no había límite de tiempo y no estaban prohibidas todas las presas de piernas (a diferencia de las reglas actuales).
Aparte de los dos concursantes griegos, todos los competidores habían practicado anteriormente otros deportes. El campeón de halterofilia, Launceston Elliot, se enfrentó al campeón de gimnasia, Carl Schuhmann. Este último ganó y pasó a la final, donde se enfrentó a Georgios Tsitas, que había derrotado previamente a Stephanos Christopoulos. La oscuridad obligó a suspender el combate final tras 40 minutos; se continuó al día siguiente, cuando Schuhmann sólo necesitó un cuarto de hora para terminar el combate.