Išvadavimo kovai Tanganikijoje vadovavo Afrikos nacionalinė sąjunga Tanganika, kurios vėliava buvo horizontaliai žalia-juoda-žalia spalvos trispalvė. Rinkimai patvirtino didžiulį visuomenės palaikymą organizacijai, o Didžiosios Britanijos valdžia pasiūlė pakeisti partijos vėliavą kaip nacionalinę vėliavą po nepriklausomybės 1961 m. Gruodžio 9 d. Tuo metu buvo pridėta geltonų fimbriacijų.
Pagal Arabų valdymą Zanzibaras ilgą laiką skraidė raudona vėliava, tačiau 1964 m. Sausio 12 d. Į valdžią atėjo juodasis Afrikos režimas su juodos, geltonos ir mėlynos spalvos vėliava. Kitą mėnesį valdančioji Afro-Širazi partija pristatė naują nacionalinę vėliavą, panašią į savo. Horizontalios mėlynai juodos-žalios juostos atitinkamai reiškė jūrą, žmones ir žemę, o siaura balta vertikali juostelė prie keltuvo buvo skirta ramybei.
1964 m. Balandžio mėn. Tanganyika ir Zanzibaro šalys susivienijo, o liepos pradžioje jų vėliavos tradicijos buvo suvienodintos, kad būtų sukurta nauja nacionalinė Tanzanijos vėliava. Vėliavos spalvos buvo įstrižai, kad būtų išskirtinumas. Didžiąją šalies gyventojų dalį simbolizuoja juoda juostelė, o žalia rodo turtingus žemės ūkio išteklius. Mineralų turtus atspindi siauros geltonos sienos, o Indijos vandenyną simbolizuoja mėlyna spalva. Zanzibarui susivienijus su Tanganika, Zanzibaro vėliava vis dėlto toliau buvo naudojama tose salose.
