Situasi ini mendorong Diponegoro dan kakeknya, Sultan Mangkubumi mencanangkan perang pada bulan Juli 1825 di Selarong. Diponegoro meniadakan pajak di wilayahnya dan mendapat banyak bantuan dari banyak orang yang sejalan dengannya.
Para pangeran dan sesepuh, serta rakyat menyumbangkan barang berharga mereka seperti perhiasan, uang tunai, dan lain-lain untuk dana perang.
Sebelumnya para pengikutnya yang berjumlah banyak sudah mempersenjatai diri mereka dengan ketapel, tombak, bambu runcing, pentungan. Dan dari sebagian dana yang terkumpul, Diponegoro memerintahkan untuk membeli senjata api. Dan persenjataan Belanda hasil pampasan seperti meriam juga dimanfaatkan oleh pasukannya. Adapun mesiunya bermutu sangat tinggi dan didapatkan dari desa-desa di selatan dan barat Yogyakarta, yang dibuat di Into-Into. Pusat produksi mesiu ini adalah di Tegalweru. Peracikan peluru, pemantik dan mesiu kelas wahid ini dilakukan oleh para tukang dan pandai besi yang terlatih dan dalam pengerjaannya sering dibantu oleh tenaga perempuan. Sedangkan pusat persenjataan adalah di Kotagede. Persenjataan ini didistribusikan oleh para kuli panggul yang banyak mencari nafkah di jalanan.
Stategi perang yang digunakan Diponegoro adalah merobohkan pohon-pohon, menghalangi jalan, membakar jembatan kayu, menggali lubang jebakan dan mengisinya dengan ranjau bambu runcing. Semuanya itu dilakukan penduduk desa atas perintahnya. Diponegoro juga mengadopsi cara pasukan Inggris saat menyerbu Yogyakarta pada Juni 1812, yaitu melumpuhkan jalur komunikasi agar musuh tidak bisa mendatangkan bala bantuan.
Tentara Belanda yang ditangkap dijatuhi bermacam-macam hukuman. Tawanan perang ini banyak yang (maaf) disunat dan diperintahkan memeluk agama Islam sebagai jaminan pembebasannya.
Untuk menjaga pasokan perbekalan, ia mengangkat sepupunya, Pangeran Mangkudiningrat I sebagai kepala tambang di Kali Progo. Selain itu ia juga berhasil mengajak banyak kelompok bandit yang menguasai tempat-tempat penyeberangan dan sungai untuk ikut bergabung bersamanya dalam perang.
Adapun pasukan Diponegoro berasal dari banyak daerah seperti Demak, Rembang, Madiun, Buleleng dan Klungkung, Bali (karena mantan istri pamannya, R. Ay. Mangkubumi separuh berdarah Bali). Kemudian R. Ay. Mangkubumi menikah dengan Kyai Mojo. Juga ada lagi pasukan-pasukan yang terdiri dari para santri.
Keragaman asal pasukan inilah yang menjadi titik lemah. Karena terjadi perseteruan antara pasukan Kyai Mojo dan pasukan reguler Diponegoro yang dipicu karena sentimen pribadi berupa masalah perkawinan dalam keluarga besar.
Dalam kesaksiannya setelah menyerah kepada Belanda di Gunung Merapi pada 12 November 1828, Kyai Mojo berkata, Saya bersedia mendampingi Diponegoro berperang karena ia berjanji akan memulihkan agama (Islam). Tapi belakangan saya tahu itu bukan tujuan utama dia karena dia segera membentuk dan menata suatu keraton (pemerintahan baru). Ini berarti sejak saat itulah hubungan antara Diponegoro dengan para santri telah terputus karena Diponegoro dianggap mengingkari janji (padahal Diponegoro sendirinya suka mengutuk orang yang mengingkari janji kepadanya).
Lebih sial lagi, berangkat ke Batavia pada awal April 1830, Pangeran mendapati bahwa dua rekan keagamaannya yang terdekat, Kyai Pekih dan Haji Badaruddin memutuskan tidak ikut ke pengasingan. Hal inilah membuat Diponegoro mengeluh, Inilah orang-orang yang harusnya pertama-tama mendukung saya, sebab apakah yang saya tahu tentang Kitab Suci kalau bukan yang mereka ajarkan kepada saya? Merekalah orang-orang yang saya andalkan, dan sekarang.....justru meninggalkan saya.
(Pangeran Diponegoro dan Akhir Tatanan Lama di Jawa, 1785-1855)