Родиной йоркширского терьера являются графства Йоркшир и Ланкашир в северной Англии. Его возможными предком называют уотерсайдского терьера. Эта порода была популярна в XVIII—XIX веках в Йоркшире и описывалась как «маленькая, серо-голубая собака с полудлинной шерстью». Этих собак держали крестьяне, так как им было запрещено заводить больших собак, чтобы они не браконьерствовали на землях, принадлежавших знати. Небольшие собачки охраняли дома от грызунов и сопровождали своих хозяев в торговых поездках вдоль рек и каналов.
Некоторые специалисты называют в числе предков йорков и мальтийских болонок, хотя они значительно отличаются от них: у мальтезе висячие уши и белый окрас. Считается, что йорков скрещивали с болонками, чтобы улучшить качество шерсти, структуру волоса и получить шелковистость. В пользу этой теории говорит то, что у светлых йорков часто очень хорошее качество шерсти.