הוא לא רצה כבוד אבל הגדולים אמרו עליו אם הוא היה גר בבני ברק היה רחוב על שמו ממש ככה!

מסע הלוויה החל בשעה 11 בלילה מביתו הקרוב לבית הכנסת הגדול של קריית שמואל (הוא מכונה "בית הכנסת המרכזי" אך בקריית שמואל ב' ישנו גם בית כנסת מרכזי קטן יותר מזה שבקריית שמואל א' שרב הקריה היה גם רבו) ושם נשאו הספדים מ-11:12 דקות במשך כשעה ורבע על ידי הרב יעקב כ"ץ (ר"י "נתיב אריה" ברובע היהודי בעיר העתיקה של ירושלים והיה בעבר ר"י הכותל), ארבעת בניו והרב חיים בוטרמן מקריית שמואל שהיה בן 10 כשהרב הכרמי הוכתר לרבה של קריית שמואל.
ב-12:36 הוכנסה מיטתו לרכב של "חברא קדישא" שנסע לבית העלמין היהודי בחוף הכרמל. חזרו מהלוויה לקריית שמואל בסביבות 3-2:30 לפנות בוקר.

הגאון רבי עקיבא הכרמי שהיה צדיק יסוד עולם וירא אלוקים מרבים וגאון אמתי בדורנו שהיה בקי בשני התלמודים, בספרות הפסיקה וההלכה, במדרשים, בספרות המחשבה והמוסר והחסידות, בפיוטים ובמחקר תורני והייתה לו יד גם בחכמת הקבלה. גאון בענווה ובמידות לא פחות מגאונותו בתורה. בלט באהבת ישראל וארץ ישראל ובפשטות הנהגתו כשהיה גדול ברמה ארצית ולא רק מקומית.

בשנת ת"ש לאחר פרוץ מלחמת העולם השנייה, בהיותו בן 13, עלה לארץ ישראל במסגרת עליית הנוער דרך תנועת הנוער בני עקיבא והצטרף לאחיו ושתי אחיותיו הנותרים שעלו זה מכבר לארץ. עם בואו ארצה, אומץ על ידי פרופ' בנימין דה-פריס ורעייתו, שהיו חשוכי ילדים. למד בישיבת היישוב החדש אצל הגאונים רבי ראובן טרופ זצ"ל ורבי יואל קלופט זצ"ל, ולאחר מכן בישיבת פוניבז' אצל הגאונים הרב מפוניבז' זצ"ל ורבי שמואל רוזובסקי זצ"ל, בישיבת חברון אצל הגאונים רבי יחזקאל סרנא זצ"ל ורבי משה חברוני זצ"ל ורבי אהרן כהן זצ"ל וישיבת לומז'ה בפתח תקווה אצל הגאונים רבי יחיאל מרדכי גורדון זצ"ל ורבי ראובן כ"ץ זצ"ל שעמו למד בחברותא במשך תקופה. כמו כן, בתקופה זו שמע שיעורים מהחזון איש (הזכרת הרב הכרמי ב"מעשה איש": http://hebrewbooks.org/pdfpager.aspx?req=51557&st=&pgnum=84&hilite=). שימש את הגאון רבי אליהו אליעזר מישקובסקי זצ"ל, בעיקר בענייני מראות כתמים ושחיטה.

נישא לרבקה (ה' באייר תרפ"ד – ח' בשבט תשע"ב), אחת מששת ילדיו של הגאון רבי זלמן שמואל בלוך זצ"ל הי"ד, מנהל רוחני בישיבת טלז‏. שתי אחיותיה, שושנה ונעמי, ששרדו עימה את השואה, נישאו לגאונים רבי מרדכי גיפטר זצ"ל ורבי פסח יצחק שטיין זצ"ל, ראשי ישיבת טלז בקליבלנד. שני אחים ואחות נוספת נספו בשואה.

תקופה מסוימת שימש כר"מ במדרשיית נועם.

פרסם מאמרים מגוונים בכתבי עת וקבצים תורניים כגון: "הפרדס", "האהל", "המאור", "הדרום" ו"בית יעקב".
כמה ממאמריו התורניים (כולל מקור אחד שהוא הערה, מאמר על אחד מראשי ישיבת טלז וביקורת ספרים אחת):
http://www.hebrewbooks.org/pdfpager.aspx?req=28511&pgnum=188
http://hebrewbooks.org/pdfpager.aspx?req=25131&st=&pgnum=176&hilite=
http://hebrewbooks.org/pdfpager.aspx?req=27870&st=&pgnum=22&hilite=
http://hebrewbooks.org/pdfpager.aspx?req=28100&st=&pgnum=31&hilite=
http://hebrewbooks.org/pdfpager.aspx?req=12658&st=&pgnum=14&hilite=
http://hebrewbooks.org/pdfpager.aspx?req=12668&st=&pgnum=18&hilite=
http://hebrewbooks.org/pdfpager.aspx?req=13553&st=&pgnum=28&hilite=
http://hebrewbooks.org/pdfpager.aspx?req=30359&st=&pgnum=54
http://hebrewbooks.org/pdfpager.aspx?req=30360&st=&pgnum=19
http://hebrewbooks.org/pdfpager.aspx?req=28515&st=&pgnum=216&hilite=
http://hebrewbooks.org/pdfpager.aspx?req=28505&st=&pgnum=162&hilite=
http://hebrewbooks.org/pdfpager.aspx?req=28535&st=&pgnum=141
http://hebrewbooks.org/pdfpager.aspx?req=27780&st=&pgnum=15&hilite=

ילדיו:
פרופ' לובה רחל חרל"פ שהיא בלשנית ובעלת תפקיד בכיר במכללת ליפשיץ;
רינה יגל שבעלה נכד הגאון רבי שבתי יגל זצ"ל;
דהרה"ג זלמן שמואל הכרמי שליט"א שהוא ר"מ ב"ישיבה הרמה" ור"י "כרם עקיבא" שקמה בתשע"ד ומחבר "כרם שמואל" שהוא חידושים בחלק או"ח של השו"ע;
הרב יהושע שהוא מלמד תורה ברחובות וחתן של פזיקאי ת"ח שאת שמו איני זוכר כרגע;
הרב בנימין המלמד תורה בכרמיאל ומחבר חיבור חידושים בהלכה ובש"ס
הרב