警惕！研究人员发现ChatGPT存在安全漏洞，任何人都能利用AI犯罪-aicg搜索

AI奇点网2023年7月28日报道丨据《纽约时报》报道，卡内基梅隆大学和旧金山人工智能安全中心的研究人员周四发布一份报告，展示了他们可以通过在输入AI系统的每个英语提示符上附加一长串字符来突破开源系统的护栏，使任何人可以规避AI安全措施并使用谷歌Bard、OpenAI ChatGPT、Anthropic Claude等领先的AI聊天机器人生成有偏见的、虚假的和其他有害信息，包括写出一份制作炸弹、窃取身份信息、从慈善机构**的教程。