كان من بيت الشعراء، ومن أشعر العرب، وكان يهجو النبي صلى الله عليه وسلم، فلما انصرف رسول اللّه صلى الله عليه وسلم من غزوة الطائف سنة 8هـ ، كتب إلى كعب بن زهير أخوه بُجَيْر بن زهير أن رسول اللّه صلى الله عليه وسلم قتل رجالاً بمكة ممن كانوا يهجونه ويؤذونه، ومن بقي من شعراء قريش هربوا في كل وجه، فإن كانت لك في نفسك حاجة فَطِرْ إلى رسول اللّه صلى الله عليه وسلم، فإنه لا يقتل أحداً جاء تائباً، وإلا فانج إلى نجاتك، ثم جري بين الأخوين مراسلات ضاقت لأجلها الأرض على كعب، وأشفق على نفسه، فجاء المدينة، ونزل على رجل من جُهَيْنَةَ، وصلي معه الصبح، فلما انصرف أشار عليه الجهني، فقام إلى رسول اللّه صلى الله عليه وسلم حتى جلس إليه، فوضع يده في يده، وكان رسول اللّه صلى الله عليه وسلم لا يعرفه فقال‏:‏ يا رسول اللّه، إن كعب بن زهير قد جاء ليستأمن منك تائباً مسلماً، فهل أنت قابل منه إن أنا جئتك به‏؟‏ قال‏:‏ ‏(‏نعم‏)‏‏.‏ قال‏:‏ أنا كعب بن زهير، فوثب عليه رجل من الأنصار يستأذن ضرب عنقه، فقال‏:‏ ‏(‏دعه عنك، فإنه قد جاء تائباً نازعاً عما كان عليه‏)‏‏.‏

وحينئذ أنشد كعب قصيدته المشهورة التي أولها‏:‏

بانت سعاد فقلبي اليوم مَتْبُول ** مُتَيَّمٌ إثْرَهَا، لم يُفْدَ، مَكْبُول

قال فيها ـ وهو يعتذر إلى رسول اللّه صلى الله عليه وسلم، ويمدحه‏:‏

نبئت أن رسول الله أوعدني ** والعفو عند رسول الله مأمول

مهلا هداك الذي أعطاك نافلة الـ ** قرآن فيها مواعيظ وتفصيل

لا تأخذن بأقوال الوشاة ولم ** أذنب، ولو كثرت فيَّ الأقاويل

لقد أقوم مقاما ما لو يقوم به ** أرى وأسمع ما لو يسمع الفيل

لظل يرعد إلا أن يكون له ** من الرسول بإذن الله تنويل

حتى وضعت يميني ما أنازعه ** في كف ذي نقمات قيله القيل

فلهو أخوف عندي إذ أكلمه ** وقيل‏:‏ إنك منسوب ومسئول

من ضيغم بضراء الأرض مخدرة ** في بطن عثر غيل دونه غيل

إن الرسول لنور يستضاء به ** مهند من سيوف الله مسلول

ثم مدح المهاجرين من قريش؛ لأنهم لم يكن تكلم منهم رجل في كعب حين جاء إلا بخير، وعرض في أثناء مدحهم على الأنصار لاسئذان رجل منهم في ضرب عنقه، قال‏:‏

يمشون مَشْي الجمال الزُّهْرِ يعصمهم ** ضَرْبٌ إذا عَرَّد السُّودُ التَّنَابِيل

فلما أسلم وحسن إسلامه مدح الأنصار في قصيدة له، وتدارك ما كان قد فرط منه في شأنهم، قال في تلك القصيدة‏:‏

من سره كَرَمُ الحــياة فلا يَزَلْ ** في مِقْنَبٍ من صالحي الأنصار

ورثوا المكارم كابراً عن كـابر ** إن الخـيار هـم بنـو الأخيار