古弼的出名，在于其敢于对上直谏，不怕得罪皇帝。
《魏书•古弼传》记载，有一次魏世祖大阅兵，准备到黄河以西打猎。当时古弼留守京城，世祖下诏让他把壮马供给骑士用，但古弼却让人送去的是弱马。世祖知道后大怒说：“尖头奴，竟敢和我计较，等我回京，先杀了这个奴才！(古弼头尖，像毛笔头，世祖因此常叫他“笔头”，当时的人称他为“笔公”)。
古弼的下属因此十分害怕受到处罚，古弼告诉他们说：“我认为侍奉君王打猎，让他们游玩得不痛快，犯这样的罪过小。但如果不事前准备、不提前防范而招致敌寇侵犯我们，这样的罪过就大了。现在北狄很强盛，南方的敌人也没消灭，他们十分狡猾，都在窥伺我们的边境，这就是我忧虑的。因此，我才挑选肥壮的马以备军用，是为了防备不测的远虑。如果能使国家有利，我还怕死吗？圣明的君主是可以用道理来说服的，这件事是我自己的罪过，不是你们的过错。”
后来世祖听到古弼这番话，感叹地说：“有这样的大臣，真是国家之宝啊！”
还有一件事。有一次上谷地区的老百姓上书太武帝，说皇家的花园苗圃占田过多，使得百姓无田可种，请求减半，以便赏赐给贫苦之家耕种。古弼看了奏章以后，就入宫准备奏明皇上。
等他到宫殿后，正碰上世祖在和大臣刘树下棋，一副聚精会神兴趣盎然的样子，根本没有听奏章的意思。古弼在旁边坐等了很久世祖也不问他有什么事。
突然，古弼站起身来，当着世祖的面揪住刘树的头发，一把把他从椅子上拉下来，一只手拽住刘树的耳朵，一只手攥成拳头打他的背，并斥责说：“皇上不理朝政都是你这个佞臣的罪过。”
世祖一听就明白了古弼的弦外之音，立刻变了脸色，放下手中的棋子并大声说：“没听你的奏报错在我，刘树有什么罪呢？还不快松手！”
见自己的话有了效果，古弼就把刘树松开，把他接到的百姓的奏书报告给世祖。世祖对古弼的正直很是惊叹，并答应了他的奏请，把一半土地赐给百姓耕种……
