Александр Тихонович Гречанинов родился 13 октября 1864 г. в  Калуге в семье мелкого торговца. Учился в Московской (1881-1890, у В. И. Сафонова, Аренского, С. И. Танеева) и Петербургской (1890-1893, у Н. А. Римского-Корсакова) консерваториях. Преподавал теорию музыки в музыкальной школе Гнесиных (Москва), позже руководил детским хором в школе Т. Л. Беркман. Участвовал в работе Музыкально-этнографической комиссии при Московском университете.

Прекрасный романсовый композитор, целого ряда известных романсов, циклов хоров  и различных инструментальных композиций. Особенно можно отметить сборники и циклы его детских песен, по материалу и интонации чрезвычайно близких к народным, например, цикл из шести песен «Ай дуду» (1903 года), сборник из двадцати русских народных песен «На воротах сидел петух» (1906 года) и цикл «Снежинки» (десять песен 1907 года). Среди наиболее известных светских хоровых сочинений Гречанинова можно назвать «Траурный гимн», «Матушка Русь» (на стихи Некрасова) и хор «Памяти павших за свободу».

Более всего А. Т. Гречанинов известен  своими хоровыми произведениями и обработками народных песен.

Немалое место среди произведений Гречанинова занимают также театральные произведения: оперы «Добрыня Никитич» (поставлена в Москве, в Большом театре в 1903 году), «Сестра Беатриса» на сюжет Метерлинка (Москва, театр Зимина, 1912 год) и «Женитьба» (по Гоголю, поставлена в Париже, 1950). Последнюю оперу композитор написал, когда ему было уже за восемьдесят лет. Кроме того, он написал музыку к пьесам «Снегурочка» Островского, «Царь Федор» и «Смерть Иоанна Грозного» А. Толстого.

Гречанинов написал также несколько детских опер:  «Ёлочкин сон» (1911), «Теремок» (1921), музыку к драматическим спектаклям А. К. Толстого «Царь Фёдор Иоаннович» (Москва, 1898) и «Смерть Иоанна Грозного» (1899), а также — к «Снегурочке» А. Н. Островского (1900). За всю жизнь Гречанинов написал 5 симфоний (1894-1937), «Элегию» памяти Чайковского, оставшуюся неизданной (1897), несколько других оркестровых сочинений, среди которых наиболее известна «Демественная литургия» для струнного оркестра, 4 квартета, ряд фортепианных пьес, а также выполнил множество обработок народных песен для камерного и хорового музицирования.

Наибольшей известностью и в настоящее время пользуются духовные хоры Гречанинова, в которых он стремился совместить старинный стиль (знаменного) хорового пения с народной песенностью, (включая прямые фольклорные заимствования) и профессиональной академической культурой. Многие из гречаниновских хоров прочно вошли в церковный обиход и концертную хоровую практику, особенно известна его восьмиголосная обработка «Волной морскою» и «Верую» собственного сочинения. Кроме того, Гречанинову принадлежат регулярно исполняемые циклы церковных песнопений («Литургия Святого Иоанна Златоуста» 1897 года и «Всенощное бдение»1902 года), а также «Страстная седмица» и множество отдельных хоровых номеров, к числу самых известных из них принадлежит, пожалуй, короткая молитва «Достойно есть».

Интересуясь более всего народной песней и сопутствующим этнографическим материалом, Гречанинов собрал и обработал большое количество народных песен, в частности, русских, белорусских, татарских, башкирских и прочих.

Долгие годы активно А. Т. Гречанинов участвовал в работе Музыкально-этнографической комиссии при Московском университете, а с 1903 года — стал заместителем её председателя. С 1910 года начал выступать в концертах, в основном аккомпанируя певцам, исполнявшим его собственные песни и романсы.

Однако не вся творческая жизнь Гречанинова проходила одинаково гладко. Так, например, скандальную известность приобрела его вторая опера «Сестра Беатриса» (на сюжет Мориса Метерлинка), поставленная в 1912 году в частной опере Зимина. Вскоре после успешной премьеры спектакль был осуждён и запрещён к исполнению духовной цензурой за неканоническое освещение библейских сюжетов. Формальным поводом запрета послужило появление на сцене поющей пресвятой Девы Марии.

Обратившись к творчеству Метерлинка, Гречанинов одновременно попытался хотя бы немного «модернизировать» и свой музыкальный язык, и образный строй, чтобы не выглядеть посреди эпохи всеобщего «декаданса» последним махровым ретроградом.

После революции 1917 года Александр Гречанинов несколько лет концертировал в качестве дирижёра и пианиста, а также продолжал работать с детскими хорами. Однако с каждым годом стареющему композитору становилось жить всё тяжелее и тяжелее среди беспорядочной и разрушенной революцией и гражданской войной республики.

В 1925 году, в возрасте 60-ти лет, Александр Гречанинов вместе со своей второй семьёй эмигрировал в Европу. Там более десяти лет он прожил в Париже, а с началом войны, в 1939 году, переехал в Нью-Йорк.

Подобно многим другим композиторам, эмигрировавшим из Советской России, творчество Гречанинова на долгие годы было вырвано из культурного и концертного контекста. Тем более этому способствовала явно православная и христианская направленность большей части его творчества.

Интересно, что в парижский период своей эмиграции Гречанинов, будучи уже очень пожилым человеком, сочинил несколько католических месс и мотетов, а во время нью-йоркской жизни — также и протестантские хоры с текстами на английском языке.

В 1934 году Гречанинов написал книгу воспоминаний «Моя музыкальная жизнь», опубликованную в Париже, а спустя 20 лет — в Нью-Йорке, в переводе на английский язык.

Александр Тихонович Гречанинов похоронен на Свято-Владимирском православном кладбище в Джексоне (Кассвилл), штат Нью-Джерси, США.