ChatGPT的伦理困境

随着迄今为止最强大的人工智能的出现，许多人都在质疑，ChatGPT是否会被证明是一种技术上更优越的工具，能让工作更容易、更高效、更快捷，还是会释放一种潜在的威胁机器人不受约束的统治

你是否正在申请你梦寐以求的工作，但没有时间和精力让自己沉浸在写简历的最佳实践中，正在考虑聘请专业的简历写手?又或者，你的简历已经整理好了，但现在却被如何通过一封精心设计的求职信来让自己适合理想的公司所困扰?没有必要烦恼;一个人工智能驱动的工具可以帮助你克服这个困难。ChatGPT会为你申请的每个职位量身定制简历和求职信。这还不是全部。由于其强大的自然语言处理能力，它可以通过编辑来改善你现有的简历;它在许多行业的丰富专业知识可以帮助你为面试做准备，通过预测面试场景，不仅为你提供潜在的问题，还为你提供对这些问题的敏锐回应，并为你提供如何通过面试的知识。

童话并没有就此结束。这款由人工智能驱动的软件是一个数学奇才，如果你能清楚地说出问题，它就能解决最具挑战性的代数难题。如果您正在调试错误的语言代码，它会告诉您代码中遗漏了逗号的地方。给它一些提示，它就会写一篇任何主题的文章，不管它有多具有挑战性，如果你自己写过一篇文章，它也会为你评分!告诉ChatGPT你的食品储藏室里有哪些有限的食材，它会给你一份美味菜肴的清单，你可以用它们来烹饪，还会提供它们的食谱。它可以创作音乐，将你的内容翻译成母语，如果你孤独，你可以用它来聊天，尽管你永远不知道tête-à-tête会带你去哪里!

那我们手上有什么?一个技术上优越的工具，将使技术工作更容易，高效和快速?是的。它能取代人类的创造力吗?不。这在道德上可以接受吗?这是一个问号。

什么是ChatGPT，围绕它的骚动是关于什么的?

ChatGPT (GPT是生成式预训练变压器的缩写)是由总部位于旧金山的人工智能公司OpenAI开发的，其初始资金来自埃隆·马斯克(Elon Musk)，这是一个可以像人类一样真实地写作的程序。自2022年11月发布以来，它引起了不小的轰动，在发布的前两个月里，它已经拥有了超过1亿的用户，使其成为增长最快的消费者应用程序。2023年3月，OpenAI在ChatGPT Plus计划中推出了GPT-4技术，该技术能够生成26种语言的超过25,000个单词!微软宣布计划向其投资100亿美元，并在不久的将来将其整合到Windows、Edge和Office应用程序中。这是一个令人印象深刻的开始!

但在两周内，数据泄露部分暴露了用户的谈话内容和一些个人信息，包括电子邮件地址和信用卡的后四位数字，这让人们对ChatGPT的兴奋彻底崩溃。意大利隐私监管机构意大利数据保护局(The Italian Data Protection Authority)暂时禁止了ChatGPT，称此举是一项临时措施，“直到ChatGPT尊重隐私”。1000多名人工智能专家和研究人员，包括OpenAI联合创始人埃隆·马斯克、苹果联合创始人史蒂夫·沃兹内克、谷歌、Meta、微软的工程师和学者们，都加入了一项呼吁，要求“立即暂停巨型人工智能的创造至少6个月，以了解其能力和危险。GPT-4等系统可以得到适当的研究和缓解”。在一封公开信中，他们明确表示:“最近几个月，人工智能实验室陷入了一场失控的竞赛，开发和部署越来越强大的数字思维，没有人——甚至包括它们的创造者——能够理解、预测或可靠地控制这些思维。”这是来自这些机器人背后的思想的相当诚实的承认。

ChatGPT的法律和道德问题

犯错是人，既然人类创造了人工智能，我们也不能指望它不会犯错。这一现状使我们面临着关于其使用的法律和伦理困境。嗡嗡声响了;但一些知名人士，包括以数字为优先的可持续生活方式杂志《道德主义者》(The Ethicalist)，已经试图与软件本身讨论它能做什么和不能做什么。下面是一些有力的推论和忏悔摘要，直接来自马的嘴:

• ChatGPT从互联网上访问大量信息，因此内容的原创性是一个非常重要的问题。
• 当写作业时，比如论文或文章，它有能力挑选它需要的东西，并呈现出一个良好的、完美的作品。但是很难确定信息的来源，因为它没有提供参考。它的“人类合著者”仍然需要在互联网上搜索，以确定系统从哪里选择了信息，并提供适当的信用，以避免版权问题。
• 在创建文本时，ChatGPT犯了抄袭，但由于非人类不能承担责任，这使作者面临潜在诉讼的风险。这就认为有必要对报告进行审查，这样就会使工作量增加一倍。
• 根据OpenAI的服务条款，ChatGPT适用于13岁以上的用户，但它缺乏年龄验证过程的能力，可能会让儿童接触到可能不适合年龄的信息。
• ChatGPT基于来自互联网的信息，这些信息可能包含作者的偏见，它也会选择这些偏见，因为它无法判断什么是“道德上”的对与错。它的反应可能带有种族、性别、社会经济偏见。
• 该软件基于截至2021年的信息;结果可能已经是过时和无关紧要的东西。
• 该软件在写作方面相当高效，但在许多领域还远远不够胜任，比如创建火箭方程或医疗咨询能力。如果你绕过人类的专业知识，而依靠人工智能来处理这些事情，你可能会创造一个潜在的灾难性局面。
• 让它准备一份法律文件，它可能可以，因为它可以访问世界上所有的信息，但它没有学习法律，不能解释法律允许在特定情况下，你可能只剩下一大堆写得很好，但完全无法使用的文书工作。
• 该系统的设计目的是说一些看似合理的事情，但它们可能不正确，然后它生成的内容的准确性就成了一个问题。华盛顿大学(University of Washington)研究人工智能系统的语言学教授艾米丽·m·本德(Emily M. Bender)表示，“它会出错，因为它的设计初衷并不是为了把事情做对。”
• 该系统可以被黑客攻击，并用于向用户设备传播恶意软件。如果没有使用加密等方法妥善保护客户记录，数据被盗是可能的，这也可能鼓励在线欺诈。
• ChatGPT在教育中的使用带来了巨大的威胁:学生可能会过度依赖技术来解决问题、回答问题或写论文，导致批判性思维和解决问题的能力减弱，从长远来看，会降低学生的学习和创造力。

前进的道路

我们生活在数字时代，实现流程自动化的新技术正在迅速涌现。毫无疑问，ChatGPT和其他类似的工具将使技术工作更容易、更高效、更快，但我们需要认识到这样一个事实，即这样的技术不能取代人类的创造力。此外，它们仍处于起步阶段，在使用它们时已经有很多伦理问题需要考虑。只要负责任地使用技术，技术进步是伟大的，因此，像所有人工智能一样，ChatGPT也需要监管，但政府可能需要一段时间才能将有意义的监管付诸行动。在那之前，人类需要坚守自己的位置;否则，机器人不受约束的统治即将到来。

引用:

1. https://theethicalist.com/chatgpt-new-ai-experts-warn-could-change-society
2. https://www.npr.org/2023/02/02/1152481564/we-asked-the-new-ai-to-do-some-simple-rocket-science-it-crashed-and-burned
3. https://www.theguardian.com/technology/2023/mar/31/italy-privacy-watchdog-bans-chatgpt-over-data-breach-concerns
4. https://interestingengineering.com/innovation/chatgpt-30-incredible-ways-to-use
5. https://www.theguardian.com/technology/2023/mar/29/elon-musk-joins-call-for-pause-in-creation-of-giant-ai-digital-minds
6. https://www.demandsage.com/chatgpt-statistics/
7. https://www.drishtiias.com/daily-updates/daily-news-analysis/chatgpt-and-associated-ethical-concerns
8. https://www.thehindu.com/sci-tech/technology/explained-the-moratorium-call-on-chatgpts-successor/article66689078.ece
9. https://www.thehindu.com/opinion/lead/gpt-4-a-shift-from-what-it-can-do-to-what-it-augurs/article66680648.ece

(作者是牛津大学计算机科学学院院长