С 1946 года Карло Мария Джулини дирижировал для RAI, и он возглавил её Симфонический оркестр в Милане, когда он был основан в 1950 году. В 1948 году он дирижировал своей первой оперой, Травиата Верди. В 1951 году он познакомился с Артуро Тосканини; год спустя он дебютировал в Ла Скала с Жизнь коротка де Фалья. Он работал в Ковент-Гарден в Лондоне с Луччино Висконти над Дон Карлосом и с Франко Дзеффирелли над Фальстафом (обе оперы Верди). В 1955 году он впервые дирижировал в США (Чикаго), а в 1960 году отправился в большое турне по Японии. В 1963 году он вернулся в Ла Скала и дирижировал Дон Жуан Моцарта. В 1969 году Чикагский симфонический оркестр назначил его главным приглашенным дирижером; в 1973 году он стал директором Венского симфонического оркестра (до 1976 года). С 1978 по 1984 год он был преемником Зубина Меты на посту музыкального директора Лос-Анджелесского филармонического оркестра и совершил несколько турне по Европе с этим оркестром.
Как специалист по итальянской опере, Карло Мария Джулини проводил не менее шести месяцев в году у себя дома, несмотря на международную карьеру. В последние годы он ограничился концертами и работал только с несколькими оркестрами (Оркестр Парижа, Филармонический оркестр Ла Скала, Чикагский симфонический оркестр, Берлинский филармонический оркестр и Лос-Анджелесский филармонический оркестр).
Карло Мария Джулини был ответственен за первые исполнения произведений следующих композиторов: Поэма Бориса Блахера (1976), К потомкам Готфрида фон Эйнема (1975), Концерт dea'albatro Джорджо Федерико Гедини (1945), Симфония № 4 Эзры Ладермана (1981), Восьмой концерт Гоффредо Петраси (1972), Симфония № 3 Марио Зафреда (1950).
