Modzelewski w 1964 r. wraz z Jackiem Kuroniem napisał list otwarty do partii, krytykujący linię polityczną PZPR za odejście od ideałów socjalizmu. Był jednym z inicjatorów protestów studenckich na Uniwersytecie Warszawskim w marcu 1968 r. W niepodległościowym podziemiu pełnił także rolę pierwszego rzecznika prasowego NSZZ "Solidarność" od listopada 1980 r. do kwietnia 1981 r.; jest uważany za autora pomysłu przyjęcia przez związek nazwy "Solidarność".
W okresie PRL był kilkukrotnie więziony i internowany. Łącznie Karol Modzelewski spędził w więzieniu osiem i pół roku.
Sprawował również mandat senatora I kadencji w latach 1989-1991. Startował wówczas w województwie wrocławskim z ramienia Komitetu Obywatelskiego. Na początku lat 90. współtworzył Solidarność Pracy, następnie Unię Pracy. W 2005 r. wszedł w skład komitetu wyborczego Włodzimierza Cimoszewicza w wyborach prezydenckich.
Po upadku PRL pracował jako profesor kolejno Uniwersytetu Wrocławskiego w latach 1992-1994 i Uniwersytetu Warszawskiego od 1994 r. Był członkiem Polskiej Akademii Nauk i jej wiceprezesem w latach 2007-2010. Jego działalność naukowa skupiona była wokół problemów średniowiecza. Modzelewski był autorem m.in. monografii "Barbarzyńska Europa" dotyczącej powstawania tożsamości europejskiej pod wpływem tradycji przedchrześcijańskich, za którą otrzymał Nagrodę Fundacji na rzecz Nauki Polskiej. Za autobiografię "Zajeździmy Kobyłę historii. Wyznania poobijanego jeźdźca" otrzymał Nagrodę Literacką "Nike". Była to ostatnia książka Modzelewskiego, w której poruszył wątki działalności ideowej i politycznej oraz krytykował sposób przeprowadzenia transformacji ustrojowej w Polsce.
Karol Modzelewski został odznaczony Krzyżem Kawalerskim Orderu Odrodzenia Polski, Orderem Orła Białego i Legię Honorową V klasy.