בהתבסס על כך שמוזיקה קיימת בכל תרבויות העולם, ההנחה היא שמקורה עתיק מאוד. הממצא העתיק ביותר לכלי נגינה הוא חליל עשוי על עצם ארוכה של נשר שהתגלה כממצא ארכיאולוגי במערה בגרמניה מהתרבות האוריניאקית לפני כ40,000 שנה.

 אנתרופולוגים שונים מעריכים כי המוזיקה התפתחה בתקופות מוקדמות, בתחילה כחיקוי לקולות של חיות. 

בתקופה הפרה היסטורית, חוקרים מאמינים כי המוזיקה התבססה על מקצבים שונים ומלודיות ואילו ההרמוניה באה בשלב מאוחר יותר. המוזיקה הפרה-היסטורית נוגנה על ידי כלי הקשה (אבנים, מקלות, עצמות, כלי צייד) וקול אנושי. לא נוכל לדעת באמת איך נשמעה המוזיקה העתיקה אלא רק לנחש זאת על פי ממצאים מתקופת האבן הקדומה, כמו עצמות שנוקבו חורים בצידן והן מדמות בסיס לחליל של ימינו.

במדינות שונות בעולם ישנם אזכורים של מוזיקה קלאסית:

• המוזיקה היוותה חלק חשוב ומרכזי בחיי התרבות והחברה של יוון העתיקה, זה התבטא באופנים
  שונים, כמו למשל מקהלות שהופיעו לשם בידור או טקסים דתיים, לזמרים היה תפקיד משמעותי בתיאטרון של יוון העתיקה. בימי יוון העתיקה, ייחסו למוזיקה מעמד אלוהי, נעלה ונשגב. מה שביסס את המוזיקה כאלוהית כל כך, היתה העובדה שהיוונים יחסו לספרה 4 חשיבות עליונה, מפני שראו בה את
  הספרה המסמלת את הטבע, מאחר ובמוזיקה קיימים 4 מרווחים זכים: פרימה, קוורטה, קווינטה ואוקטבה, אלו המרווחים הטבעיים, המצויים בטבע.

בתקופת רומא העתיקה השתנה מעמד המוזיקה והשימוש העיקרי במוזיקה התבטא בתהלוכות הניצחון שלא סימלו חשיבות דתית או אלוהית.

• בהודו התפתחה אחת מהמסורות המוזיקליות העתיקות ביותר בעולם, ניתן למצוא אזכורים של מוזיקה קלאסית הודית בכתבי הקודש העתיקים של דת ההינדו.
• המוזיקה המסורתית של סין מספרת היסטוריה שנמתחת לאורך 3000 שנה ויותר.