纽约有学校禁止学生使用ChatGPT聊天机器人惹起争议


ChatGPT 横空出世,有传微软入股OpenAI,投资100 亿美元于ChatGPT。ChatGPT却在某些界别引起争议。当中有美国纽约更有学校限制网络,禁止学生使用ChatGPT。到底ChatGPT 应用有什么争议?

ChatGPT 应用引起社会界别争议

以下是对ChatGPT 应用有争议声音的4 个界别:

1. 教育界

《美联社》报导,纽约市教育局于2023 年1 月5 日证实,当地公立学校网络和电脑不再开放ChatGPT,学校系统将过滤挡下ChatGPT 网站。发言人Jenna Lyle表示:「虽然工具可以提供快速且简单的答案,但它不能培养人类拥有批判思考和解决问题的能力,无助学术和个人成长。」然而,师生仍可透过自己行动装置的网络连上ChatGPT 网站。

2. 学术界

美国南卡罗来纳州Furman University 哲学系访问助理教授Darren Hudson Hick 于自己Facebook发文分享,发现学生用ChatGPT撰写论文。他形容,除了学术专业让他能够判断真伪以外,ChatGPT目前还不善于引用。

3. 政治界

计算机和人工智能研究者David Rozado 指,经过大量测试,让程式以「非常同意」到「非常不同意」等不同程度回答来政治取向测试,发现ChatGPT 与左翼自由主义世界观相符;而在身份政治和种族移民等问题上,立场总体倾向「建制自由主义」(Establishment Liberals)立场,包括反对死刑、支持堕胎、怀疑自由市场、支持性解放、对富人征税、企业剥削发展中国家、支持政府补贴、为无业者提供福利等。

4. 网络安全界

Check Point Research 专家指出并示范,只要输入简单命令,聊天机器人便能制作武器化Excel 文件;同时便于改进现有网络钓鱼电子邮件,令恶意软件感染能力更高。

Check Point Software 威胁情报组经理Sergey Shykevich 指出,ChatGPT 有显著改变网络威胁的能力么,现在任何人,包括缺乏资源和没有编程基础知识的人,都可以轻易利用ChatGPT 对网络安全造成威胁。他又敦促,网络安全研究人员须在ChatGPT 等技术成熟前,保持警惕。

OpenAI 回应ChatGPT争议

1. OpenAI 望与教育界合作

OpenAI 于一份由人工撰写的声明中表明,公司计画与教育工作者合作,了解人类如何在真实世界与ChatGPT 互动。公司又指,不希望ChatGPT 在学校或任何地方被误用,因此已经开发相关缓解措施,帮助识别由系统产生的文本。

2. OpenAI 研究浮水印辨别生成文字

OpenAI 客座研究员、美国University of Texas at Austin 电脑科学系教授Scott Aaronson 于网志表示,公司正在尝试于ChatGPT 生成的文字中,加入类似浮水印(watermark),却在正常情况下难被发现的秘密讯号,协助人们辨别。

本文链接地址:https://www.wwsww.cn/yuanyuzhou/15445.html
郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。