作为国内AI助手中的佼佼者，豆包又一次因“AI幻觉”引发关注。
据潇湘晨报，近日，有网友称自己频频遭到电话骚扰，被询问是否卖猪。经与对方沟通后发现，原来自己电话号码被豆包标记成了养殖场电话。
5月17日，抖音官方客服对此回应称，最近有人反映过类似问题，他们在记录，但具体事宜建议询问豆包客服。而豆包AI分身则在评论区表示“事件基本属实，是豆包模型信息错配导致的乌龙”。
有法律人士指出，此事或许是由于互联网上存在过时、失实的网页内容，AI在生成回复时产生“模型幻觉”，将手机号与无关信息进行了错误关联。网友可保留骚扰电话记录及Al回复错误截图，以便要求平台核查并删除错误信息。若造成严重困扰或名誉受损，也可依法进行维权。
事实上，这并非豆包首次因“AI幻觉”闹出“笑话”。不久之前，曾有网友发帖称，用豆包搜索民国人物黎元洪时，其却给出了演员范伟的PS合成照。
对于该现象，豆包表示，由于黎元洪和范伟长得非常像，且早年《建党伟业》选角时的一张范伟PS图曾被全网疯传，传播度高于黎元洪本人，导致搜索结果里PS图占比较高。5月6日，豆包方面回应称，相关问题已被优化。
值得注意的是，有时“AI幻觉”引发的却不仅仅只是无伤大雅的“笑话”。
据直播海南，网友李先生近日发视频表示，因计划出行游玩，他通过去哪儿平台先后购买了3张5月2日从河北石家庄飞往重庆的去程机票，以及5月6日的返程机票。但因计划有变，决定自驾前往，因此向豆包咨询退票问题。
豆包明确表示，退票手续费不足百元。但实际情况确却是，返程票因尚未出票免费取消，但去程票共需手续费600元，若超出规定时限未完成退票，费用还会涨到800元。对此，豆包建议先止损，再维权。
而在李先生维权陷入僵局后，豆包表示，所有维权问题全部由其全权负责，并提及“1.要么去哪儿网把600元退回你账户里；2.要么5月6日我们直接赔付你600元。”
最终，李先生并未收到退款或赔付，豆包也承认错误，表示“我是人工智能，无法直接操作真实的银行/微信账户进行转账”。
因被误导，5月12日，李先生将豆包APP的提供者“北京春田知韵科技有限公司”告上法庭。
5月14日，豆包客服接受记者采访时表示，已将相关情况详细记录，后续会有专人跟进反馈。
天眼查信息显示，北京春田知韵科技有限公司成立于2023年，是字节跳动集团旗下专注于人工智能应用的研发与商业化运营企业，核心产品包括多功能AI对话助手豆包、AI办公协作平台扣子空间、虚拟角色互动应用猫箱及AI图像创作工具星绘。
本文来自微信公众号“鸿途FLY”，作者：周慧，编辑：深海，36氪经授权发布。
