Od najmłodszych lat wychowywany był w atmosferze miłości do muzyki – jego ojciec grał na wiolonczeli i fortepianie, matka była wykształconą śpiewaczką, a w domu działał kwartet smyczkowy. W wieku 7 lat rozpoczął naukę gry na skrzypcach, najpierw w Dreźnie i Pradze, gdzie jego rodzina przebywała po sprzedaży majątku w Wiszniewie, a potem w Warszawie u Jana Jakowskiego.
Od dziecka związany był z Tatrami. Wędrówki rozpoczął jako trzynastolatek. W latach 1892-94 zdobył wszystkie sławne szczyty tatrzańskie: Świnicę, Rysy, Gerlach, Łomnicę, Mięguszowiecki Szczyt. Samotnie wszedł na Kościelec, który wówczas uchodził za bardzo niebezpieczną górę. Ostatnie wyprawy – na Gerlach i Mięguszowiecki Szczyt – przed dziesięcioletnią przerwą odbył w 1894 r. „Wydaje mi się wycieczka moja marzeniem sennem: zdaje mi się, żem bujał w przestworzu, gdzie wiecznie słońce świeciło, gdzie nie dochodziły dźwięki mowy ludzkiej, gdzie zapomniałem o moich nadziejach, rojeniach na przyszłość i o namiętnościach, co duszą człowieka miotają” – wspominał to później Karłowicz.
Od 1904 r. Mieczysław Karłowicz poświęcił się całkowicie twórczości w dziedzinie jednego gatunku: poematu symfonicznego. W latach 1904-1909 powstało 6 poematów symfonicznych op. 9-14, które zapewniły mu miano twórcy nowoczesnej polskiej muyzki symfonicznej i najwybitniejszego przedstawiciela późnoromantycznego poematu symfonicznego.
8 lutego 1908 r. Karłowicz wyruszył na samotną wyprawę na nartach. Został zasypany lawiną na zboczach Małego Kościelca. Dzięki śmierci Karłowicza władze austriackie, po latach starań wreszcie zgodziły się na powołanie Tatrzańskiego Ochotniczego Pogotowia Ratunkowego. Zmarły kompozytor został pośmiertnie zaliczony do założycieli.
