AI的道德地位，人类中心主义者认为，只有人才是道德的主体，非人者无道德，有些人认为动物也应该有道德地位，而机器人也要有像动物一样有道德地位，就动物来说，因为它们的智能不发达，因此，它们的道德地位是人所赋予的，如果AI的智能能够达到人类的级别，甚至是超过人类，那AI的道德地位要怎么赋予？会不会，届时人类的道德地位将由AI来赋予呢？如果面对着一个比人类高级的智能，我们的道德地位将是如何的呢？
就人类与其他物种的关系的历史来看，尚未出现过与人类探讨道德地位问题的物种，这是因为至今为止还没有出现过比人类高级的物种，而比人类低级的，却又因为太低了，以至于完全没有资格和人类探讨道德，只是被动的接受人类对其的道德霸权！而在人类中，在不同的人种之间，比如曾经的白人对其他物种的歧视，奴役，其道德状况令人发指，在纳粹德国对犹太人的迫害，在中国清朝以前的天朝上国思想，认为中原上国，他方皆蛮夷，直到西方列强的坚船利炮打破这种思想壁垒为止，在这些事例中可以看出，道德地位的分配都在武力强者一方，弱者虽然在智能方面与强者一致，却仍然处于道德劣势。
就上述例子来看，强者对弱者的压迫的原因有理性的和非理性的两种，理性的原因是因为弱者威胁到了强者的生存条件，比如纳粹迫害犹太人的一个理由是因为犹太人控制了很多德国人的金融业商业等高端行业，贩卖和奴役黑奴能够给白人带来经济效益，因此尽管或许在感情上同情弱者，但理性终究主宰了行动。非功利的则有在感情上认为强者比弱者低等，对弱者产生了厌烦，鄙视等情感，通过感觉直观就认为弱者不配享有道德权利！而对于AI来说，目前相对于人类还属于弱者，处于劣势，其所处的道德地位还由人类决定，在面对机器的时候，是否应当给予它们以人类的道德关照，如果机器对人造成了对人来说不道德的行为的话，它们应不应该承担像人所应该承担的那种道德制裁？
这两个问题的提出都有一个前提条件，即机器目前仍处于劣势，我们可以将他们作为法庭案件进行讨论，他们对于人类来说还像动物那样可以任我们人类的法庭做出判决（假如有这样一个法庭的话），这两个问题的探讨，并不只是从人出发的，而是从机器出发的，其实质其实是在探讨机器人有没有像人类那样的自主意识，可不可以自主做出道德判断，机器人有没有感觉到善恶的能力，有没有情感，当受到不道德行为时会不会产生情感波动！
如果机器即无自主意识也没有情感，那对机器人谈道德就只是人类的一厢情愿，就好像对环境谈道德一样，道德的目的还只是人类，为的是人类自己的情感，为的是人类自己的利益。而如果机器有道德的自主判断能力，具有情感，这样才真的将机器作为了像人一样的道德主体，才符合了道德的原初定义，机器人道德才具有实质性内涵。而目前的很多伦理学分支，比如动物伦理学，环境伦理学，等等，其研究的问题都是关于人自身。是关于人自身的伦理学，而如果机器具有了自主意识，能够做出道德判断的话，伦理学将必定会进入一个全新的领域，在这个领域里，我们所面临的将会是一种与以往完全不同的伦理学发展方向，在这里人不再作为唯一的主体，人的伦理地位将会是第一次发生改变，成为一种非人本主义的伦理学！
