在《正义论》的第二篇中，罗尔斯主要讲了正义论在社会制度的形成与建设中的运用。罗尔斯认为正义的社会的社会制度的建立遵循以下过程：在原初状态中完成正义原则的选择―制定宪法―制定法制―在正义原则的指导下规范的使用，罗尔斯并且认为完成这样一个过程也是逐步排除无知之幕的过程。接着罗尔斯给自由下了定义，并讨论了平等自由的三个问题：良心的自由、宪法的正义以及关于自由的优先次序。罗尔斯对自由的定义谈了很多，他认为自由是一个体系，由各种基本的自由组成的，但最具代表性的一句话是：人做或不做某事，会受到保护并免受其他人侵犯时，可以说他是自由的。关于罗尔斯定义的自由正好反映出他的左派色彩。他的自由观可以通俗的这样说：在合法的前提下，人可以为所欲为。这是典型的左派的观点，这也是后来各类解放运动的思想基础。
对于自由的理解在此之前很多思想家的观点要深刻得多，托克维尔曾说，如果认为自由就是为所欲为那是动物的自由;洛克说自由是指人类的自我管理，而不是被动的接受皇帝或者氏族首领或其他什么人的管理。接着罗尔斯重点谈论了良心的自由，其实罗尔斯的良心的自由更多的指宗教自由或信仰自由，罗尔斯明确的指出一个正义的制度必须保护宗教信仰的自由。但我认为关于宗教信仰的自由最根本的还是要明确对于人类而言是先有正义的思想还是先有宗教的信仰，这个先后次序决定了谁更起主导作用。
接下来罗尔斯谈论了正义论在社会分配中的作用，总而言之要满足他的正义论的优先原则。值得注意的是罗尔斯较多的谈论了代际分配。也就是每一代应该为下一代储存社会财富多少为合适的，罗尔斯显然不同意为下一代尽最大努力储存的思想，他认为代际之间应该有一个合理的储蓄率，换句话说就是一定的充分的现时的享乐是可接受的，这和西方近几十年的思想观点是一致的。
在第二篇的最后罗尔斯谈了关于义务和职责，关于义务，罗尔斯说当正义的制度存在时我们有义务服从和维护正义的制度，当正义的制度不存在时，我们有义务建立正义的制度。而对职责要求的强度则小于义务，罗尔斯认为，如果一个人同意了正义的原则，并享受了正义制度带来的好处，那他就有责任担负正义制度给予他的职责，但职责是以自愿为前提的，而义务是不管是否自愿都必须履行的。罗尔斯接着谈论了当你觉得这个制度不正义或有一部分不正义时，你是否还对这个制度存在职责和义务。于是罗尔斯提出了非暴力反抗和良心拒绝这两个观点，也就是当面对不正义时你至少可以做到这两点。罗尔斯认为这两种方式可以促进一个正义的制度健康发展。
