Ákvörðunin kemur í kjölfar 5-1 taps Bayern fyrir Eintracht Frankfurt um helgina.
Kovac hefur þurft að sitja undir mikilli gagnrýni allan tíma sinn hjá félaginu en hann tók við liðinu fyrir rúmu ári síðan.
Undir stjórn Kovac vann Bayern þýska meistaratitilinn í vor sem og þýsku bikarkeppnina.
FC Bayern parts ways with Niko Kovac. pic.twitter.com/xl0sjaZAqC
— FC Bayern English (@FCBayernEN) November 3, 2019
Króatinn vann 45 af þeim 65 leikjum sem hann stýrði Bayern í og hann skilur við liðið í fjórða sæti þýsku Bundesligunnar, fjórum stigum á eftir toppliði Borussia Mönchengladbach.
Kovac hefur á ferli sínum meðal annars stýrt króatíska landsliðinu og Eintracht Frankfurt, en þjálfaraferill hans spannar aðeins tíu ár.
Fyrrum stjóri Juventus, Massimiliano Allegri, er sá maður sem hefur hvað sterkast verið orðaður við stjórastöðuna hjá Bayern síðustu vikur á meðan pressan jókst á Kovac.