דה קוברטן האמין שספורט צריך להיות חלק מהחינוך בבית הספר, ושתחרויות בינלאומיות יכולות לקרב בין עמים. ב־1894 כינס בפריז נציגים ממדינות שונות, ושם הוחלט להקים את הוועד האולימפי הבינלאומי ולחדש את המשחקים. שנתיים אחר כך נערכה האולימפיאדה הראשונה באתונה.
הוא עמד בראש הוועד האולימפי כמעט שלושים שנה, עיצב את חמש הטבעות וכתב את השבועה האולימפית. לבקשתו, הלב שלו נקבר באולימפיה, ביוון — המקום שבו התחילו המשחקים העתיקים.
לא כל הרעיונות שלו נשארו: הוא התנגד בהתחלה להשתתפות נשים, אבל עם השנים נשים הפכו לחצי מהספורטאים באולימפיאדה. ההיסטוריה של התנועה האולימפית מראה שגם רעיון גדול משתנה ומשתפר.