李白虽然是中国历史上最著名的诗人之一，但史书上却并没有关于他生平的确切记载。因此李白的一生虽然充满了传奇色彩，但他的许多经历却难以下定论。据有的专家考证，李白的祖籍在陇西成纪，也就是今天甘肃省天水市。他的先祖曾迁居中亚，李白本人出生在唐朝的边陲重镇碎叶城。
5岁时随父母来到四川，25岁时生性浪漫的李白怀抱着一腔豪情开始辞亲远游，其足迹遍布大江南北。但在今天的湖北安陆，他停下脚步与前宰相许圉师的孙女许氏成了亲。公元736年，也就是唐朝开元二十四年，此时李白三十六岁，他带着妻子许氏和女儿平阳，离开了居住多年的安陆来到了任城，也就是今天的济宁。
在此后的二十三年里，即使李白依然像从前那样四处游历，可他却始终把家安置在济宁。他的女儿在这里长大，儿子在这里出生，妻子许氏也是在这里离世的。今天的济宁市区中仍然保存着，李白曾经洗笔的浣笔泉，以及他与唐朝另一位大诗人杜甫一同游览过的古南池。除此之外，见证过李白在济宁生活的就只有太白楼。
相传太白楼的前身是唐朝开元年间的一座酒楼，李白在济宁居住之时，常常在这里把酒会友不醉不归。后来人们便把这座酒楼称为太白酒楼，太白酒楼建立之初并不在济宁的城墙上，不过其具体位置已经无法准确考证了，据专家说很可能是在青莲胡同附近。元朝至元二十年，也就是公元1283年，京杭大运河改道东移时途径济宁城区的河线正好位于太白酒楼附近。
当时兼任济宁监州的中书右丞冀德芳，看到酒楼偏僻破败，便决定将原来的酒楼移建到新开运河的北岸，即济宁的南城墙上，也就是今天太白楼的所在地。太白楼墙壁上的元代碑刻《重修李白酒楼记》，其中就记载着这次重建工程。
到了明洪武二十四年，也就是公元1391年由于济宁城墙由土墙改为砖墙。因此位于城墙上的太白楼在济宁左卫指挥使狄崇的主持下，又经历了一次重建。也就是在这次重建之后，太白楼的名字才被正式确定下来。重建后的太白楼坐北朝南，十间两层，斗拱飞檐，雄伟壮观。
楼内又李白塑像，周围碑碣林立，时文人墨客怀古思今的圣地。而在此后太白楼又经历了多次重修，今天大家多看到的太白楼，则是1952年重建的。事实上除了文人墨客外，明清两代的官员子啊济宁任职，或者路过济宁的时候，也都会登临太白楼。一边欣赏楼下河内千帆涌动的风景，一边抒发对李白的怀古之情。
这些感怀的诗篇刻石，留在了太白楼中，成为研究太白楼和济宁历史变迁珍贵的史料。如今太白楼共有石刻50余方，它们或镶嵌在太白楼的墙体里，或散落在庭院中。其中年代最早的碑刻始于金代，而最珍贵的碑刻则要数李白手书的观字碑了。