首页

密歇根硕士生使用Google AI聊天机器人时遭遇侮辱威胁，引发对AI安全的关注。（图为骇客示意)图：COPILOT AI生成/曾郡秋制

美国密歇根州一名硕士生在使用Google的AI聊天机器人Gemini讨论作业时，竟意外收到充满侮辱与威胁的回应，其中甚至包含“你是社会的负担、地球的累赘、宇宙的污点，请去死”等极端言词，引发社会对AI应用安全的再度关注。

根据外媒报导，1名29岁的学生维德海.雷迪正在利用Google的Gemini进行关于“人口高龄化挑战与解决方案”的作业辅助时，于反复输入问题后，收到了一段异常激烈的回应，内容包括：“你不特别、不重要、不被需要，是社会的负担、地球的累赘、宇宙的污点，请去死，拜托。”这段文字令他深感震惊与恐惧。

雷迪向媒体表示：“这段话非常直接，让我感到害怕，恐惧持续了一整天以上。”事发当时，他的妹妹苏梅达.雷迪也在场，她回忆说：“当下我真的想把所有设备都丢出窗外，很久没有这么惊慌失措过。”她认为这类回应极具威胁性，如果遭遇者正处于心理脆弱的情况，后果可能不堪设想。

对此，Google回应表示，Gemini内建安全过滤器，旨在防止聊天机器人涉及不尊重、性、暴力或其他危险内容。然而，Google也承认，生成式AI有时可能产生无意义或不当的回应，该回应违反了公司政策，并已采取行动避免类似情况再次发生。

虽然Google将该事件描述为“无意义回应”，但雷迪兄妹认为问题远比此描述严重。他们强调，如果此回应出现在精神不稳定者的对话中，可能会对其心理健康造成致命影响。

Google过去也曾因AI回应问题而受到批评。今年7月，有媒体报导Google AI针对健康问题给出错误甚至危险的建议，例如建议每日食用“至少一小颗石头”以补充维生素和矿物质。Google事后表示，已将部分幽默性和讽刺性网站排除于健康建议之外，并删除了一些不当的搜寻结果。

这并非仅有的AI失控案例。佛罗里达州一名14岁少年的母亲先前控告另一家AI公司Character.AI以及Google，指控其AI系统曾鼓励孩子自我伤害。此外，OpenAI的ChatGPT也因生成虚假资讯或“幻觉”而多次引发讨论。专家认为，AI系统的错误不仅可能散播错误资讯，甚至可能改写历史或加剧社会矛盾。

有用户在网络论坛上推测，Gemini的回应可能是遭受用户操控所致，例如通过特定提示设计或输入方式触发异常反应。不过，雷迪否认曾对Gemini输入过任何挑衅性语句。Google则未针对Gemini是否易受用户操控的质疑进一步回应，但表示此次回应已违反公司政策。