В 1978 Николай основал собственный ансамбль «Аллегро», быстро завоевавший всесоюзную известность и на протяжении десятилетия бывший одним из лидирующих в творческом плане джазовых коллективов бывшего СССР. Усилия Левиновского по превращению ансамблевого джаза в форму искусства были вознаграждены тем, что «Аллегро» был назван «Лучшим джазовым ансамблем СССР», а сам Николай четырежды был назван «Музыкантом года» в ежегодных опросах советских джазовых критиков. В Советской Музыкальной энциклопедии его имя указано среди тех композиторов, которые работают в области слияния русской музыкальной традиции и джаза.

Ансамбль «Аллегро» под управлением Николая Левиновского принимал участие в международных джазовых фестивалях в Финляндии, Нидерландах, Франции, Германии, Индии, Югославии, Дании, Португалии, Шри Ланке и других странах. Ансамбль регулярно звучал по советскому радио и телевидению.

Левиновский представлял советский джаз на встречах с такими музыкантами, как Чик Кориа, Гэри Бертон, Гровер Уошингтон-мл., Дэйв Брубек, Ян Гарбарек и др. Гэри Бертон после такой встречи, например, сказал журналистом, что «Николай Левиновский — несомненный талант» и он «в высшей степени рекомендует» всем ознакомиться с его творчеством.

Советская дискография Николая Левиновского включала восемь виниловых LP, разошедшихся тиражами в 40-50 тысяч экземпляров. Один CD -"Sphinx" — был издан также в США компанией Mobile Fidelity.

 Нью-Йорк
В 1990 Николай Левиновский эмигрировал в США (Нью-Йорк). С тех пор Николай выступал с несколькими музыкальными проектами, среди которых был возрожденный "Аллегро", выступивший на фестивале джаза и блюза в Солт-Лейк-Сити, в Бостонском концертном зале им. Хэнкока и на джазовом фестивале JVC в нью-йоркском Линкольн-центре (1995).

Помимо исполнительской деятельности, Николай Левиновский также выступает в качестве музыковеда и ведет джазовую рубрику в нью-йоркской русскоязычной газете "Новое Русское Слово".

 "Оркестр Ника Левиновски" в Нью-Йорке
Его нынешний музыкальный проект представляет собой оркестр из 17 музыкантов. Николай называет его "доказательством своей творческий энергии и опыта". Большая часть репертуара оркестра - авторские сочинения Левиновского, в которых он соединяет свои русские музыкальные корни и современный джазовый язык. Оркестр успешно выступает в нью-йоркских джаз-клубах "Birdland", "Smalls", "Roberts", "Neo Lounge", а также в сериях концертов на открытом воздухе на манхэттенской Парк-Авеню. В составе оркестра, среди прочих, работают такие известные джазовые музыканты, как альт-саксофонист Боб Парсонс, тенор-саксофонисты Сергей Гурбелошвили и Энди Миддлтон, трубачи Александр Сипягин и Энди Гравиш, тромбонист Ной Блесс, басист Борис Козлов, барабанщик Даррел Пеллегрини.

Николай Левиновский возглавляет собственный джазовый лейбл - NLO Records.

Новый CD его оркестра - "Listen Up!" - вышел на этом лейбле летом 1999 г. и уже в июне был весьма положительно отрецензирован журналом Jazz Times, который писал: "Эта программа из шести авторских композиций и двух стандартах ясно предсказывает большое будущее нового оркестра". Сотрудничающая с оркестром певица Кэти Дженкинс была в той же рецензии названа "прекрасной джазовой вокалисткой с собственным почерком". Вскоре лейблом NLO Records был издан CD Кати Дженкинс "From This Moment On", где певицу сопровождают биг-бэнд и трио Николая Левиновского. Композиции из него регулярно звучат на волнах джазовых радиостанций США.

С 1997 по 2002 выпустил четыре диска, два из них — вместе со своей женой, вокалисткой Кэти Дженкинс, в планах — выпуск пластинки своего оркестра.