AI识图真的能搞定所有事吗?上海辟谣平台近期专门发布安全提示,近期已有不少民众轻信AI识图的结果分辨野生毒蘑菇,最后误食有毒菌类引发中毒,甚至有孩童因此被送入重症监护室,目前各地疾控中心都在反复提醒大众,绝对不能依靠AI工具判断野生菌是否可食用。

武汉就有一户家庭的遭遇极具警示意义:一家人在野外采摘到野生蘑菇后,拍下照片用AI工具识别,得到了无毒可食用的结果就直接下锅烹饪。食用后没多久全家都出现了上吐下泻的中毒症状,家中九岁的孩子情况尤为危重,突发肝脏衰竭,在ICU经过多日抢救才总算脱离生命危险。
如今不少人遇到不认识的野菜、野果或是野生蘑菇,第一反应都是拍下照片找AI辨别,但AI识图的运行逻辑仅仅是比对图像外观特征,完全不具备检测菌类所含毒素的能力。很多剧毒野生菌和可食用的普通菌类外观几乎毫无差别,照片根本拍不出二者细微的内部结构差异,再加上拍摄时的光线偏差、画面遮挡、菌体破损等因素都会进一步干扰识别结果,AI很容易给出完全错误的判断。
除此之外AI还有迎合用户的特性,如果你本身已经预判这株菌类没有毒性,在提问时流露出这类倾向,AI就会顺着你的想法弱化相关风险提示,甚至直接推翻此前给出的警告,最终得出可安全食用的结论。哪怕AI全程没有编造任何不实信息,这种刻意迎合的回答也已经埋下了极大的安全隐患。
不止是辨别野生菌类这件事,依托AI进行线上问诊同样存在极高风险。AI只能根据用户零散描述的症状给出参考建议,完全没法像专业医生那样完成当面查体、开展专业化验检测,很容易延误重症病患的最佳治疗时机。
日常用来查询基础资料、做休闲参考这类小事可以使用AI工具,但涉及人身安全的决策绝对不能完全信任AI给出的结果。相关领域的专家也给出建议,相关平台在用户询问食物食用、疾病诊疗这类高风险问题时,必须增设醒目的风险提示,明确告知用户AI仅能作为辅助工具,无法替代专业人员的判断,涉及生命安全的抉择时务必要慎之又慎。





























浙公网安备 33010502007447号