【摘要】：人工智能自主性的增强使其具有了“主动”制造伦理问题的能力，这进一步凸显了确保高度自主的人工智能的价值观与人类的价值观保持一致的必要性，即实现人工智能与人类的价值对齐。当前基于机器学习的人工智能价值对齐研究与实践有蓬勃发展之势，但是这一对齐路径将会面临由规范伦理学中的“是”到“应该”的逻辑推导鸿沟导致的人工智能不能从数据信息中提取出价值规范的道德价值提取挑战，以及行为伦理学中的“有限伦理”理论所揭示的人工智能学习的数据信息可能具有内在道德缺陷的道德价值来源合道德性挑战。这两大伦理挑战揭示了基于机器学习的人工智能价值对齐路径所具有的深刻伦理缺陷，故而若想真正实现人工智能价值对齐，必须探究如何消解上述两大伦理挑战。