Название «Скотленд-Ярд» (в переводе с английского «шотландский двор») уходит корнями в раннее Средневековье. В X веке английский король Эдгар I Миролюбивый (943—975) подарил королю Шотландии Кеннету II (до 954—995) участок земли рядом с Вестминстерским дворцом в Лондоне на условии, что тот построит здесь резиденцию, которая будет считаться территорией Шотландии, и станет посещать ее ежегодно в знак уважения к английской короне. Это стало традицией всех шотландских королей, если они, конечно, не находились с Англией в состоянии войны. Но в 1603 году английская корона перешла к шотландской династии Стюартов, и Скотленд-Ярд утратил свое политическое значение.

Дворец решено было разделить на две части. Первую назвали «Большой Скотленд-Ярд», а вторую — «Средний Скотленд-Ярд». Их стали использовать как правительственные здания. В 1829 году в Лондоне появилась первая полицейская служба, созданная министром внутренних дел Робертом Пилем (1788—1850). Резиденцией лондонской полиции стал тот самый комплекс зданий, который несколько столетий назад принадлежал членам шотландской королевской семьи. С тех пор за лондонской полицией прочно закрепилось название «Скотленд-Ярд». Первые годы работы новой службы были особенно тяжелыми. Дело в том, что до 1829 года в Лондоне не существовало единой полицейской службы. Расследованием преступлений в основном занимались люди, как правило, не имевшие ни малейшего представления о тонкостях следственной работы. Каждый желающий мог стать «ловцом воров» и получить определенную плату за поимку преступника, если его вина будет доказана. Однако многие занимались этим исключительно ради наживы, личной мести или просто из жажды приключений. Неудивительно, что уровень преступности в английской столице был необычайно высок.