Williams comenzó jugando al fútbol en la academia juvenil del ECU Joondalup SC de Australia Occidental y después de destacarse en torneos juveniles locales se unió al Middlesbrough de Inglaterra tras un corto periodo de prueba en Inglaterra en 2004.
[2] Firmó un nuevo contrato por dos años en enero de 2009, pero luego de esto fue enviado a préstamo en forma inmediata al Burnley.
[6] En febrero de 2010, extendió su contrato con los rojos por tres años y medio.
[7] Antes de iniciada la temporada 2012-2013 volvió a extender su contrato con el Boro hasta 2016, pese a que hubo rumores de que podría pasar a un equipo de la Premier League.
[8] Debido a sus padres, Williams tenía la peculiar oportunidad de representar una de cuatro selecciones mayores diferentes: Australia, Gales, India o Inglaterra.