Devlet merkezinde Osmanlı hükümdarının emir ve kumandaları altında ve onların şahıslarına bağlı olan kapıkulu denilen yaya ve atlı askeri ocakları, maaşlı olup eyaletlerdeki topraklı ve tımarlı sipahi ile diğer eyalet kuvvetlerinden tamamen ayrıydı.
Osmanlı Devletinin galibiyetlerinde önemli bir güç olan ve iki bucuk asır kadar muntazam bir teşkilat ile idare dilen Yeniçeri Ocağı’nın kuruluşu hususunda kesin bir tarih tespit edilmemiş olmakla beraber tarihçiler Yeniçeri Ocağı’nın I. Murad (1359-1389) tarafından 1363’de kurulduğunu belirtirler. Diğer bazı teşkilatların kuruluşunda olduğu gibi bu ocağın ilk kuruluşunda da Selçuklar ve Memlukların örnek oldukları örnek oldukları belirtilmektedir.
Bu ocağın kurulması, Osmanlı Devletinin yayılma ve gelişme döneminin ortaya çıkardığı daimi ve muvazzaf bir gücün olması gereksinimine dayanmaktadır. Ocağın kurulmasından önce askeri güç “yaya ve müsellem” diye piyade ve süvari olmak üzere ancak savaş zamanında ve gerektiğinde toplanan sadece Türklerden oluşan bir askeri sınıfa dayanmaktaydı. Bunlar savaş zamanında sefere katılırlar savaş bittikten sonra, devletin kendilerine tahsis ettikleri çiftlikler de her türlü vergiden muaf olarak tarımla uğraşırlardı.
Osmanlı’nın Rumeli’ye geçişi (1357) ile beraber devletin toprakları genişlemeye başlamış, merkezden uzak bölgelerde tutunmanın ve daha ileriye gitmenin “daimi ve muvazzaf bir orduyla mümkün olacağının anlaşılması, yaya ve müsellemlerin yeterli gelmeyeceği kanaatiyle Murad Candarlı Kara Halil Paşaya acemi Ocağı’nın kurulduğu bilinmektedir. Kara Halil Paşa Orhan Bey devrinde yaya ve müsellemlerin kurulmasında da mühim rol oynamıştır.
Yeniçeri Ocağı’nın temel prensibi, savaşlarda esir alınana erkeklerle devler sınırları dahilindeki Hıristiyan ailelerin çocuklarından devşirilenlerin , Müslüman-Türk ailelerin yanında, belli bir süre (3-5 yıl) içinde eğitildikten sonra ocağa kabul edilmesi idi.