Чарльз Мингус родился 22 апреля 1922 года на военной базе в Ногалес, Аризона, США. Он вырос в Watts, Калифорния, в возрасте восьми лет пел в церковном хоре, слушал Дюка Эллингтона по радио. Мингус изучал тромбон, но в то время было почти невозможно для черного музыканта сделать карьеру в классической музыке, а виолончель еще не была принята в качестве джазового инструмента. Несмотря на это, Mingus очень любил игру на виолончели. Во время обучения на басе у Рэда Каллендера в конце 1930-х годов, последний даже отмечал, что виолончель всё еще главный инструмент для Чарльза. В «Beneath the Underdog», Мингус утверждает, что он на самом деле не начинал изучать бас до Buddy Collette, который принял его в свою свинг-группу при условии, чтобы он был басистом.
В связи с низким уровнем образования Чарльз Мингус не мог читать ноты. Это оказало серьезное влияние на его ранние музыкальные впечатления: так как он не мог читать ноты, он чувствовал остракизм в мире классической музыки, и в конце концов прекратил симфонической путь полностью. Эти ранние события нашли отражение в его музыке, которая посвящена расизму, дискриминации и справедливости. Большая часть виолончельной техники была применима к контрабасу. Он учился в течение пяти лет у H. Rheinshagen, основного басиста Нью-Йоркской филармонии, а композиционные приемы изучал у Ллойда Риза. На протяжении большей части своей карьеры он играл на контрабасе, сделанном в 1927 году немецким производителем Эрнстом Генрихом Ротом.