第一届奥运会克服重重困难，终于在1896年4月6日开幕了。这是历届奥运会举行月份最早一次。东道主之所以将开幕式选在这一天，是为了纪念希腊反抗土耳其统治起义75周年。
4月6日下午3时，希腊国王乔治一世宣布了大会开幕。维凯拉斯、顾拜旦等国际奥委会官员出席了开式。在开幕典礼中，演奏了一曲庄严的古典弦乐，1958年国际奥委会将它定为奥运会会歌，会歌作曲者为希腊萨马拉斯，作词者为帕拉马斯。希腊人对这次大会表现了极大的热情，出席开幕式的观众达8万人，这一数字直到1932年洛杉机奥运会才被突破。应邀参赛的有澳大利亚、奥地利、保加利亚、英国、匈牙利、德国、丹麦、美国、法国、智利、瑞士、瑞典和东道主希腊13个国家的311名运动员，希腊阵容最大，共230人占总数的三分之二；德国、法国各19人；美国14人，居第四位。美国选后大都来自哈佛、普林斯顿大学。他们是自行组织、自筹经费，而是抱着到欧洲观光的目的参加的。他们原以为大会在4月18开幕，4月1日到达意大利后才得知开幕日期是4月6日，因此只好放弃一切游览计划，赶在开幕前到达了雅典。首届奥运会东道主沿袭了古奥运会旧制无女子参加。对参加国的资格，不象今天有非国际奥委会会员国不得参加的规定。希腊向包括中国在内的世界各国发出了邀请，但绝大多数国家因对奥运会不甚了解或其他原因，都未派队出席，中国亦属此列，希腊邻国意大利曾去了一名米兰运动员，这也是意大利派出的唯一选手，大会组委会认为他是职业运动员，因此未被允许参加。
本届比赛项目有田径、游泳、举重、射击、自行车、古典式摔跤、体操、击剑和网球9个大项。原计划中有赛艇项目，后未举行。取消的原因有两种不同的说法，一说是气候不佳海面风大，无法进行；另一说法是无人报名，不得不孜变计划。
战幕于4月6日开幕式当于拉开。美国詹姆斯.康诺利在三级跳远赛中旗得胜，成绩是13.71米，成为现代奥运会的第一个冠军。他获胜后，运动场奏起了美国国歌，升起了美国国旗。这在以且就成了奥运会的传统发奖仪式，康诺利是美国哈佛大学一年级学生，来雅典时未能获得校方同意，但这位热爱古典文学和体育运动的青年，为神话之国的希腊和运动会所吸引，下决心退了学。当他带着第枚奥运会奖牌回到母校时，受到了热烈的欢迎。学校认为这既是康诺利的光荣，也是哈佛大学的光荣，康诺利后来成了有名的记者和作家。猜你还想了解，三级跳远世界纪录。
美国是这次田径赛中的宠儿，在康诺利夺冠后两小时，又一选手在希腊人自认为可稳操胜券的铁饼项目中获取桂冠。他是来美国普林斯顿大学的学生罗伯特.加勒特。美国在1897年才有全国性的铁饼比赛，此前很少为人知晓。奥运会前，当加勒特得知有这项比赛昌，千方百计打听了铁饼的投掷方法，并专门做了一个大小象古奥运会时期的铁饼，自己琢磨着练习。
来雅典后，他发现比赛用的铁饼比自己做行轻些，使用时也方便些。他掷出了29.15米，胜了希腊人。后来他还获得了铅球第一名。猜你还想看，铅球世界纪录。
100米决赛于4月10日进行。起跑姿势，可以说是千姿百态，有直立着的，有弯着腰的，有双手摊开的，只有美国的托玛斯.伯克采用了近似“蹲踞式”的跑法，他以12秒整的成绩夺得了冠军，这也是他继400米赛后又一次取得的胜利，伯克在100米预赛时曾以11秒8创造了这个项目的第一个奥运会纪录。
雅典大理石运动场呈“U”字形，周长333.33米，长192米，因转弯角度注，易出事故，东道主没有设200米项目。这在奥运会中仅有的一次。
本届110米跨栏，实际距离是100米，栏也只有8个。比赛时，过栏姿势也是五花八门，有的甚至是双脚跳过栏后顿一下再跑。报名参赛的只有7名运动员，无法按原计划分为三组预赛，临时改为两组，各组闪二名进入决赛。可是后来获得决赛权的美国乌.霍伊特和匈牙利的绍.索科伊因故没有出席。最后决赛只有两参加。来自波士顿体育协会的美国跨栏冠军托玛斯.柳蒂斯摘下了这顶桂冠。
美国在这次田径赛中，显露了强大实力，获得了12个项目中9项冠军。但是，雅典奥运会最热烈、最轰动的比赛场面，还是马拉松赛。
奥运会前，法国语言学家米歇尔.布里尔曾赴希腊考察，对马拉松战役中的传奇英雄菲迪皮得斯非常钦佩。公元前490年希腊在马拉松河谷以少胜多，大败入侵的波斯军。当时担任传令兵的菲迪皮得斯奉命把这一胜利消息迅速告知固守待援的雅典，他不顾疲累，从马拉松跑到雅典，到达雅典后已精疲力尽，只说了一句“我们胜利了”！就倒毙在广场上。布里尔有感于这一英雄事迹，写信给他的同胞、国际奥委会秘书长顾拜旦，建议在奥运会田径赛中，专门增设一项马拉松赛并提出，他愿捐献一个“布里尔银杯，作为对冠军奖赏。
雅典马拉松赛，是昔日菲迪皮得斯所跑过的路线，在马拉松至雅典之间，全程40公里。希腊对这项比赛非常关心，因为田径项目开赛后，希腊接连遭到失利，还未拿到一项冠军，而马拉松赛，是他们寄予希望的唯一一个项目了。
比赛于4月10日进行，参赛的有4个国家的17名运动员。气氛十分热烈。当时雅典只有13万5千人，而观看这次马拉松赛竟达10万人之多，真可说是”万人空巷“。时间一分一秒地过去，看台上的观从都急不可耐地等待看到认将获得这一比赛的胜利。当身着浅蓝背心的希腊人斯皮里东.鲁易斯第一个冲入运动场时，全场雀跃，欢声雷动。担任在会总裁判的希腊王储康斯坦古情不自禁地陪随着鲁易斯跑向终点，国王乔治一世也步下观礼台，迎接着这位凯旋的英雄。一束束鲜花，一件件礼物，投向鲁易斯的身旁，抛向的他的脚边。成千只系着希腊国旗、彩带的鸽子，飞向天空。四处都是欢乐的节日气氛。人群潮水般地涌入场内，争相拥抱他，把他抛上抛下，甚至有人高呼：给他部长当。赛后，他获得了希腊民族英雄的光荣称号，但没享受高官厚禄的殊荣。他仍回到了偏僻的家乡，当上了一名乡邮迪员，和妻儿一起过着清贫的生活。1940年他去世了，人们为了纪念他，在他的墓碑上刻下了奥林匹克五环的标志。
游泳比赛在公海举行。用浮艇拉着缆绳作为起终点标志线。距离未经过他细测量，只是大致估算。至于姿势，名为自由式，实际上是悉听尊便，赛时天气阴冷，海水冰凉，加之波涛很急，个别选手甚至望而却步。匈牙时仅有一名选手，18岁的阿尔弗雷德.哈约什获得了100米、1200米自由泳两项冠军，成为匈牙利第一个奥运会金牌获得者，被希腊报赴誉为“匈牙利海豚”。这位布达佩斯的大学生，在奥运会前就颇有名气。1895年8月他在奥地利举行的欧洲游泳锦标赛就曾获得过冠军。1924年巴黎奥运会时，他又在艺术赛中获了一枚奥运会银牌。
本届游泳赛还专为停泊在比鲁士港口军舰上的水手设立了一项100米自由泳水兵赛，原日程表上没有，是临时增加的。这表明当时对比赛项目设立还不是很严谨的。虽有14人报名，实际参赛的仅有3名希腊水手。
举重、摔跤在当时未按体重分级。举重只有单手举和双手举两项。英国劳.埃利奥特在单手举中以71公斤取胜；在双手举中，他也举起了同冠军丹麦维.琼森一样的重量。
但裁判认为他举起的姿势不如琼森准确、漂亮，所以只得了第二名。据说埃利奥物获胜后颇有点神气十足的味道。可是当他看到王储康士坦丁轻易举起他举过的重量后，那股气焰不见了。这个传说很有点罗曼蒂克，是难于见诸正史的。
当时对运动员参赛项目没有规定，也没有参赛标准，因此，不少运动员是跨项的。摔跤赛中这种情况更是突出，如举重赛胜的埃利奥特，同时也是摔跤选手，不过他只获得了第四名，获得冠军的是身体灵巧、体重比所有对手都轻的德国人卡.舒曼。舒曼也是跨项选手，除摔跤外，他还参加了田径、体操比赛，他在体操赛中，取得了出色的成绩，获跳马冠军和双杠、单杠团体第一名，加上摔跤，总共4项第一，是本届获金牌最多的选手。
1894年在巴黎会议上制订的奥林匹克宪章明确规定，各项比赛只许业余运动员参赛，但击剑可以例外。本届击剑只有花剑、佩剑两剑种，人业余和职业两种比赛。法国埃.搭拉夫洛特和希腊杰.乔吉亚季斯分获了业余赛的花剑和佩剑冠军。职业赛只有花剑一项，冠军为雅典击剑学校的老板、著名职业剑手莱昂.皮戈斯获得。
自行车比赛共6个项目，其中5项安排在赛车场。另1项是公路赛，东道主别出心裁地把它中为马拉松赛。路线是从雅典到马拉松再折回到雅典，全程87公里。当时没有特制赛车，加之道路崎岖，车经常出现毛病，甚至无法骑驶。获得冠军的希腊阿.康斯坦古尼迪斯两易车才赛完全程。其实，在赛车场进行的12小时赛，才真正称得上“马拉松”赛。7名参赛选手只有3人坚持到底，奥地利阿.施马尔最后获得了金牌。在此之前，他还在另两项比赛中各获取了一枚铜牌。100公里赛情况更不好，9名选手只有两人骑完全程。法国莱.弗拉明不仅摘取了这个项目的桂冠，而且还显示了良好的体育道德。比赛进行中，他发现身后的希腊格.科列蒂斯的车坏了，便停下来，和后者一同将车修好才继续前骑。他的高尚风格，受到了人们的赞赏。自行车赛成就突出者是法国的保罗.马松，他一人独得了短距离赛2000米和10000米3个项目的冠军。4月15日，历时10天的首届奥运会结束了。美国共获得11枚金牌、7枚银牌和1枚铜牌；东道主次之，金、银、铜牌依次为10、19、17枚；德国名列第三，金牌6.5枚，银牌5枚，铜牌2枚。德国的半枚金牌，是其网球选用弗里茨.特劳恩与英国约翰.博兰德合作在双打中获得的。博兰德不是英国代表团正式选手，而是碰巧在这里观光的牛津大学生。他是一名网球爱好者，技痒难禁，临时参加了比赛，不仅在双打中获胜，而且争得了单打冠军。
今日奥运会是以国家奥委会为单位参赛的，这种两国合作的情况已不存在了。两国合作，在奖牌统计中带来了一些混乱。如这次的双打赛，，不少史料是英、德各记了1枚金牌，但也有只各记半枚的，按实际情况，后者计算方法更合理些。
闭幕式上，希腊国王乔治一世向获奖运动员颁发了奖牌。当时国际奥委会尚属初创时期，对奖牌质量的成分、规格大小和图案设计等，都无严格的规定，据说，东道主认为金子俗气，奖牌只有银、铜牌两种。授予冠军的的银牌和橄榄环，亚军的是铜牌和月桂花冠，第三名则是只有铜牌。但是，为了统计上的方便，在计算这届奥运会奖牌时，仍按金、银铜三类计算。
闭幕式后，国王在华丽的王宫，设盛宴招待了各国运动员和官员，在欢乐和热烈的气氛中相互惜别，并预祝四年在巴黎再次相逢。
