Après une enfance difficile, Michael Kenneth Williams trouve son équilibre en découvrant la comédie. Il s'engage dans le National Black Theatre de New-York. Pourtant, c'est par la dance qu'il débute sa carrière artistique, et ce même si on métier ne lui permet qu'à peine de survivre, financièrement parlant. Après un an de galère, il commence à travailler, apparaissant dans quelques clips, puis en faisant un petit peu de mannequinat.
En 2002, après avoir tenu quelques petits rôles au cinéma et à la télévision, il obtient le rôle qui va le rendre célèbre: celui d'Omar Little dans la série sur écoute. En 2008, son personnage sera même cité par le président des Etats-Unis, Barack Obama, comme étant son personnage de série favori. Il a aussi tenu un rôle récurrent dans la série Alias, et est apparu dans nombre de séries américaines en invité.
Au cinéma, suite au succès de sur écoute, il se voit proposé des rôles de premier plan dans des films comme Gone Baby Gone, je crois que j'aime ma femme, La Route, Life During Wartime, mais aussi des cameos dans des films comme l'incroyable Hulk.