Kisah kepemimpinan sejati Khalid bin Walid benar-benar bersinar terang dalam situasi penuh kepanikan di Perang Mu’tah. Saat itu, pasukan Muslim yang hanya berjumlah sekitar 3.000 orang harus menghadapi pasukan gabungan Kekaisaran Romawi yang jumlahnya sangat berlipat ganda, ditaksir mencapai ratusan ribu prajurit. Sebelum berangkat, Rasulullah telah berpesan dan menunjuk tiga komandan secara berurutan: Zaid bin Haritsah, Ja’far bin Abi Thalib, dan Abdullah bin Rawahah.
Di tengah pertempuran yang sangat tidak seimbang dan mematikan itu, Zaid bin Haritsah bertempur mati-matian hingga akhirnya gugur. Bendera komando kemudian diambil alih oleh Ja’far bin Abi Thalib yang terus menerjang musuh meski kedua tangannya tertebas, hingga ia pun syahid. Kepemimpinan langsung beralih ke tangan komandan ketiga, Abdullah bin Rawahah, yang juga berjuang dengan gagah berani sampai akhirnya menyusul kedua sahabatnya gugur di medan perang.
Gugurnya tiga komandan utama ini secara berturut-turut sempat membuat barisan pasukan Muslim kebingungan dan nyaris hancur. Dalam situasi yang sangat genting tersebut, seorang sahabat mengambil bendera komando yang terjatuh dan langsung menyerahkannya kepada Khalid bin Walid. Saat itu, Khalid belum lama memeluk Islam dan sebenarnya berangkat hanya sebagai prajurit biasa.
Ia sempat menolak karena merasa masih banyak sahabat lain yang lebih senior dan layak, namun seluruh prajurit secara bulat sepakat mempercayakan nyawa mereka di bawah kepemimpinannya. Begitu bendera dipegang, Khalid langsung berpikir cepat dan rasional. Ia sadar betul bahwa memaksakan kemenangan melawan ratusan ribu pasukan Romawi di saat moral pasukan sedang jatuh adalah tindakan bunuh diri, sehingga tujuan utamanya diubah seketika: menyelamatkan sisa pasukan Muslim dari pembantaian total.
Saat malam tiba dan pertempuran dihentikan sementara, Khalid melancarkan strategi perang psikologis yang sangat cerdas. Ia merombak total formasi pasukannya secara drastis; prajurit yang berada di barisan kanan ditukar ke kiri, dan yang ada di belakang dimajukan ke depan. Ia juga memerintahkan sebagian pasukan untuk menunggang kuda dan membuat debu beterbangan di kejauhan saat fajar menyingsing. Ketika pagi tiba, pasukan Romawi terkejut melihat wajah-wajah prajurit yang benar-benar berbeda dengan panji-panji yang terlihat baru.
Formasi siluman ini membuat Romawi ketakutan karena mengira pasukan Muslim baru saja mendapatkan bala bantuan besar dari Madinah. Keraguan Romawi untuk menyerang inilah yang dimanfaatkan Khalid dengan sangat tenang untuk menarik mundur seluruh pasukannya secara teratur dan aman tanpa dikejar musuh. Keberhasilannya membawa pulang pasukan dengan selamat dari jebakan kematian inilah yang membuat Rasulullah memberinya gelar abadi sebagai “Pedang Allah yang Terhunus”.