قصة الجامعة ابتدأت في ولاية نيو انكلاند في الولايات المتحدة عندما حازت الجمعية العراقية الامريكية النجاح في مهمتها بتأسيس ثانوية كلية بغداد وادراك القائمين عليها اهمية انشاء مؤسسة تعليم عالي في العراق فتم تقديم طلب انشاء جامعة الى وزارة المعارف في شهر نيسان من سنة 1955 لتحصل على الموافقة واصدار قانون الانشاء بعد شهر. وبعدها بسنة سميت الجامعة الجديدة بأسم جامعة الحكمة وابتدأت بثلاثة اقسام, ادارة الاعمال والهندسة والفنون الحرة بالاضافة الى قسم ثانوي يعنى بالدراسات العربية.

في سنة 1969 تم اصدار قانونين, الاول كان تأميم جامعة الحكمة والحاقها بجامعة بغداد والثاني تأسيس معهد التكنولوجيا- بغداد الذي استحوذ على حرم جامعة الحكمة. المعهد اصبح فيما بعد نواة لتأسيس ماعرف سابقأً بهيئة المعاهد الفنية وبعدها بهيئة التعليم التقني. وعند توسع هذه الهيئة الى 42 كلية ومعهد على جميع رقعة العراق استدرك القائمون عليها صعوبة ادارتها من قبل ادارة واحدة.