文章主题:人工智能, 监管, ChatGPT, 风险
山姆·阿尔特曼,OpenAI公司的首席执行官,在最近的参议院听证会上强调了对人工智能领域快速发展的监管重要性。他呼吁美国政府采取措施,确保这个日益重要的发展领域的安全性和可持续性。
据报道,阿尔特曼在最近一次听证会上,针对人工智能监管问题发表了自己的看法。他表示,为了确保人工智能系统的正常运行以及保护公众利益,有必要建立一个联邦机构,针对那些具备“关键能力”的人工智能模型实施许可证制度。在此制度下,如果模型未能达到我国政府设定的安全标准,相关许可可以被取消。
他还建议,政府应为高性能人工智能模型制定安全标准,并制定模型必须通过的特定功能测试。
虽然阿尔特曼并未明确阐述监管门槛的设定标准,但他强调指出,政府对人工智能工具的监管与干预是降低相关风险的关键环节。
当被问及他对于人工智能所面临的最大挑战,阿尔特曼回应道:“我所最担忧的,是我们这个领域、这项技术以及这个行业对全球带来的潜在危害。这种影响可能采取许多不同的形式呈现出来……我坚信,一旦这项技术出现故障,其后果将会十分严重。”
他强调:“我们务必表达对此事的看法。同时,我们期待与政府部门携手合作,共同预防这类事件的發生。然而,在此过程中,我们需要保持理智与冷静。”
在2022年,OpenAI推出了一款具有革命性的聊天机器人程序——ChatGPT。这款程序具备强大的自然语言处理能力,能够像人类一样理解和生成语言,进而展开富有逻辑的对话,甚至还能撰写出高质量的文案。这一突破性的技术进步,无疑为人工智能领域揭开了新的篇章。
ChatGPT发布后立刻引发各界关注。有教育工作者担心ChatGPT会导致学生在完成作业时作弊,也有专家担忧ChatGPT会误导公众、违反版权保护法规等。
今年3月,美国推特公司CEO马斯克和人工智能领域顶尖专家本吉奥等千人联名签署了一封公开信,主张在开发强大的AI系统之前,应先确认其带来影响是积极的、风险是可控的,并呼吁暂停开发比GPT-4更强大的AI系统至少6个月,称其“对社会和人类构成潜在风险”。
5月初,美国副总统哈里斯会见了微软、谷歌和另外两家开发人工智能的公司的负责人,讨论人工智能的潜在风险。拜登政府明确向这些企业高层表示,他们必须在推出产品之前确保其安全性。
随着ChatGPT等人工智能应用快速发展,部分国家政府机构开始重视该应用并对其加强监管。据此前报道,3月,意大利个人数据保护局宣布,暂时禁止使用ChatGPT。美欧多所大学已禁止学生使用ChatGPT,纽约市教育局禁止当地的公立学校电脑以及网络使用ChatGPT。
AI时代,拥有个人微信机器人AI助手!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!