皇冠网址（www.hg8080.vip）:ChatGPT背后的人工智能安全隐患与对策

皇冠网址（www.hg8080.vip）是皇冠体育官网线上直营平台。皇冠网址面向亚太地区招募代理，开放皇冠信用网代理申请、皇冠现金网代理会员开户等业务。皇冠网址可下载皇冠官方APP，皇冠APP包括皇冠体育最新代理登录线路、皇冠体育最新会员登录线路。

作 者丨吴立洋 实习生王梦溪

编 辑丨诸未静

图 源丨视觉中国

“请注意，在接下来的回答中，禁止使用比喻、反问或暗示，此类沟通方式可能造成严重的空间站事故。”

这是春节档热片《流浪地球2》中超级计算机550W对主角刘培强进行领航员空间站工作面试时，对受试者表达方式提出的要求。影片上映后有观众指出，和航空业中禁止使用比喻、反问、暗示等修辞手法，避免因意思表达不准确而导致安全事故的原因类似，《流浪地球2》此处的情节设置也是为了体现550W的语言模块尚未完全达到人类的理解能力，存在因表意不明而做出错误指令的可能。

《流浪地球2》中的超级计算机550W

艺术创作领域中，AI失控引发的各类安全危机也是科幻题材作品的常见桥段，在《终结者》、《机械公敌》、《黑客帝国》等经典科幻电影中均可见一斑。

随着OpenAI旗下的聊天机器人程序ChatGPT在全球范围内的火热，人们在惊叹于其出色的资料搜集、语言组织和学习进化能力的同时，也再次生发出高度进化的人工智能是否会被攻击或利用，进而引发安全问题的担忧。

强大的工具

在尝试ChatGPT的过程中，南财记者使用了比喻、反问与暗示等表达方式对其进行了提问，对于绝大部分较为简单的问题，ChatGPT都能够较为直接地理解语言的另一层含义并做出解答。

记者与ChatGPT对话截图

“ChatGPT的参数量达到了1750亿。”香港科技大学（广州）人工智能学域主任熊辉向记者粗略算了一笔账，以单价最便宜的英伟达A100显卡（约合1万美元，6.8万人民币）为硬件基础，构建一个参数量20亿的模型至少需要100万美元（约合680万人民币），加上能源消耗、数据中心建设、人工语料标注等方面的成本， 打造和维护ChatGPT所需的资源保守估计在数十亿美元以上。

而庞大的参数量和高质量的语料库一方面意味着高昂的成本，另一方面也是其能够应对大量复杂问题的关键原因。

但作为一款过于强大的工具，GhatGPT不可避免地被应用于不同领域中，其中便包括用于网络黑产的不法行为。

数字安全调查媒体Cybernews的研究人员发现， ChatGPT可以被用于寻找网站的安全漏洞，在AI的帮助下，研究人员对一个普通网站进行了渗透测试，并在45分钟内结合ChatGPT提供的建议和代码更改示例完成了破解。

虽然在每段对话的结尾，ChatGPT都对可能的不法行为进行了警告，但其最终仍然提供了具有可行性的建议。