摘要：在人工智能(Artificial Intelligence, AI)时代，科学知识生产正发生着重大的变革。尽管ChatGPT等大语言模型在科学知识生产中的应用存在分歧，但不可否认，AI已在多个科学领域展现了其不可或缺的作用，引领了科学发现的新范式。然而，AI技术也使科学知识生产中存在着透明度不足、可解释性缺乏以及信任与安全的挑战。本文通过探讨AI技术在数据、算法以及人机合作三个层面的技术困境，揭示了这些技术困境背后潜藏的伦理挑战，并提出了一系列的应对策略。这些策略强调了提高算法透明度、加强人机协同以及实现人机价值观一致是至关重要的，其目的是在遵守伦理规范的基础上，推动科学知识向更为稳健及更有深度的方向发展。

关键词：人工智能;科学知识生产;人工智能伦理;

基金资助：广东省哲学社会科学规划一般项目(GD24CXY13)；

DOI：10.16192/j.cnki.1003-2053.20240709.001

专辑：基础科学;哲学与人文科学;信息科技

专题：伦理学;自动化技术

分类号：TP18;B82-05