Открыл кафедру П.Я. Петров — ученик А.В. Болдырева, и руководил ею вплоть до своей смерти в 1875 году.
У П.Я. Петрова учились многие выдающиеся филологи, в том числе Ф.Ф. Фортунатов , B.Ф. Миллер и др.
В январе 1876 года в заведование кафедрой Сравнительно-исторической грамматики (в 1884 году она была переименована в кафедру сравнительно-исторического языкознания и санскритского языка} вступил Ф.Ф. Фортунатов и оставался в этой должности до 1902 года, когда, став штатным ординарным академиком Российской Академии наук, он переехал в Петербург. Именно при Ф.Ф. Фортунатове сложилась система преподавания лигвистических дисциплин, которая стала для МГУ традиционной и включала впервые введенные Фортунатовым общелингвистические курсы. В эти годы на историко-филологическом факультете университета вокруг Ф Ф.Фортунатова объединилась блестящая плеяда учеников и единомышленников, образовавших Московскую лингвистическую школу—А.А. Шахматов, Г.К.Ульянов, М.М.Покровский, А.М.Пешковский, В.Н.Щепкин, А.И. Томсон, E.Ф.Будде, Д.Н.Ушаков и многие другие.
Один из учеников Ф.Ф.Фортунатова В.К.Поржезинский стал его непосредственным преемником на кафедре сравнительного языковедения и санскрита (1903-1919). В 1906-1907 году Поржезинскому удалось открыть на историко-филологическом факультете особое лингвистическое отделение, просуществовавшее до 1913 года, которое закончили Н.С.Трубецкой и М.Н.Петерсон.
После революции в 1919 году в Московском университете происходит серьезная структурная перестройка: создается единый факультет общественных наук (ФОН}, в состав которого в 1921 году вошел историко-филологический факультет. В 1925 году ФОН распался на два факультета — факультет Советского права и факультет этнологический (позднее историко-этнологический), где готовили лингвистов. Преподавание общелингвистических дисциплин и дисциплин цикла индоевропеистики все эти годы вел М.Н.Петерсон, руководивший также Лингвистической лабораторией. В 1930 году на основе историко-этнологического факультета, были организованы факультет истории и философии и факультет литературы и искусства, которые затем выделились из московского университета и образовали самостоятельные институты — первый — Московский институт Истории и философии (после открытия в 1934 году литературного факультета — МИФЛИ), а второй был передан Наркомпросу и стал основой Литературно-Издательского института. Этнографическое лингвистическое отделение было переведено в Ленинград в ЛГУ.
По уставу МГУ, принятому в 1939 году, в составе университета было 7 факультетов, но филологического факультета среди них не значилось.
Решение о воссоздании в МГУ гуманитарного сектора было принято в декабре 1941 года. В состав восстановленного филологического факультета влилась часть вернувшегося в 1943 году из эвакуации факультета литературы, искусства и языка МИФЛИ имени Чернышевского, который перестал существовать. В 40-ые военные и послевоенные годы кафедрой общего и сравнительно-исторического языкознания на филологическом факультете ИГУ заведовали: в 1943-1944 годах — Л.H.Щерба, в 1945-1948 годах — А.И. Мещанинов, в 1949-1950 годах — Н.С.Чемоданов. Все эти годы на кафедре работал М.Н.Петерсон, сохраняя и развивая лучшие традиции сравнительно-исторического языкознания.
В 1957-1952 годах кафедрой общего языкознания заведовала по совместительству О.С.Ахманова, заведующая кафедрой английского языка, а в 1952 году заведующим кафедрой становится В.А.Звегинцев. После дискуссии по вопросам языкознания {1950) работа кафедры общего языкознания перестраивается, объем ее работы значительно увеличивается, ее состав расширяется. Кроме курса «Введение в языкознание» начинают читаться курсы «Общее языкознание» и «История лингвистических учений». Для чтения этих курсов приглашаются Р.А.Будагов и В.Н.Ярцева, а для ведения спецкурсов и спецсеминаров по важнейшим проблемам сравнительно-исторического и общего языкознания — П.С.Кузнецов, А.И.Смирницкий, О.С.Ахманова, Н.С.Поспелов и другие. В.А.Звегинцев ведет большую редакционно-издательскую работу. Многие бывшие аспиранты кафедры этого времени стали крупными учеными: В.В.Иванов, Т.В. Булыгина, Т.Я.Елизаренкова, В.А.Дыбо, О.С.Широков, Б.А. Успенский, А.А.Зализняк , М.Н. Раевский, Л.С.Новиков, П.Н.Денисов и многие другие. В 1961 году в связи с образованием кафедры структурной и прикладной лингвистики В.А.Звегинцев переходит на вновь образованную кафедру и возглавляет ее.
Перед кафедрой общего и сравнительно-исторического языкознания и ее новым заведующим Ю.С.Степановым возникает задача определения нового статуса кафедры. Наряду с проблемами общего языкознания на кафедре интенсивно разрабатываются проблемы типологии и теории массовых коммуникаций, создается проблемная группа по семиотике, которой руководит А.Г.Волков, Одновременно развивается сравнительно-историческое направление и специализация по отдельным языкам. В 1971 году Ю.С.Степанов переходит на работу в Институт Языкознания Л.Н. СССР.
В 1971-1972 годах обязанности заведующего кафедрой исполнял по совместительству Н.С.Чемоданов, заведующий кафедрой германского языкознания.
В 1975 году кафедру общего и сравнительно-исторического языкознания возглавил Ю.В. Рождественский. Он же заведовал в1979-1985 годах объединенной кафедрой общего, сравнительно-исторического и прикладного языкознания, а после их разделения — до 1997 года кафедрой общего и сравнительно-исторического языкознания. Изменения, которые произошли в работе коллектива кафедры, были связаны с развитием как направления исследовний, восходящего к Ф.Ф.Фортунатову, так и учения И.А. Бодуэна де Куртене. Такое сочетание традиций позволило расширить тематику исследований на кафедре: были созданы курсы культурологии и общей филологии, стала оформляться специализации по риторике и документному делу, по изучению речевой коммуникации, живой звучащей речи и т.п. Одновременно продолжает совершенствоваться и специализация по сравнительно-историческому языкознанию.