أما اليهود فإنهم لما رأوا الجيش وفروا إلى مدينتهم تحصنوا في حصونهم، وكان من الطبيعي أن يستعدوا للقتال.
وأول حصن هاجمه المسلمون من حصونهم الثمانية هو حصن ناعم.
وكان خط الدفاع الأول لليهود لمكانه الاستراتيجي، وكان هذا الحصن هو حصن مرحب البطل اليهودي الذي كان يعد بالألف.
خرج علي بن أبي طالب رضي الله عنه بالمسلمين إلى هذا الحصن، ودعا اليهود إلى الإسلام، فرفضوا هذه الدعوة، وبرزوا إلى المسلمين ومعهم ملكهم مرحب، فلما خرج إلى ميدان القتال دعا إلى المبارزة، قال سلمة بن الأكوع: فلما أتينا خيبر خرج ملكهم مرحب يخطر بسيفه يقول:
قد عَلِمتْ خيبر أني مَرْحَب ** شَاكِي السلاح بطل مُجَرَّب
إذا الحروب أقبلتْ تَلَهَّب **
فبرز له عمي عامر فقال:
قد علمت خيبر أني عامر ** شاكي السلاح بطل مُغَامِر
فاختلفا ضربتين، فوقع سيف مرحب في ترس عمي عامر، وذهب عامر يسفل له، وكان سيفه قصيرًا، فتناول به ساق اليهودي ليضربه، فيرجع ذُبَاب سيفه فأصاب عين ركبته فمات منه، وقال فيه النبي صلى الله عليه وسلم: (إن له لأجرين ـ وجمع بين إصبعيه ـ إنه لجَاهِدٌ مُجَاهِد، قَلَّ عربي مَشَي بها مِثْلَه).
ويبدو أن مرحبًا دعا بعد ذلك إلى البراز مرة أخري وجعل يرتجز بقوله:
قد علمت خيبر أني مرحب... إلخ، فبرز له على بن أبي طالب. قال سلمة ابن الأكوع: فقال علي:
أنا الذي سمتني أمي حَيْدَرَهْ ** كلَيْثِ غابات كَرِيه المَنْظَرَهْ
أُوفِيهم بالصَّاع كَيْل السَّنْدَرَهْ **
فضرب رأس مرحب فقتله، ثم كان الفتح على يديه.
ولما دنا علي رضي الله عنه من حصونهم اطلع يهودي من رأس الحصن، وقال: من أنت؟ فقال: أنا علي بن أبي طالب، فقال اليهودي: علوتم وما أنزل على موسى.
ثم خرج ياسر أخو مرحب، وهو يقول: من يبارز؟ فبرز إليه الزبير، فقالت صفية أمه: يا رسول الله، يقتل ابني، قال: (بل ابنك يقتله)، فقتله الزبير.
ودار القتال المرير حول حصن ناعم، قتل فيه عدة سراة من اليهود، انهارت لأجله مقاومة اليهود، وعجزوا عن صد هجوم المسلمين، ويؤخذ من المصادر أن هذا القتال دام أيامًا لاقي المسلمون فيها مقاومة شديدة، إلا أن اليهود يئسوا من مقاومة المسلمين، فتسللوا من هذا الحصن إلى حصن الصَّعْب، واقتحم المسلمون حصن ناعم.