02.24.25 | 19:30 PM
【MSAI】DeepSeek 爆火背后的隐忧与未来:AI “幻觉” 何去何从?
BY 媒介360
在当今科技蓬勃发展的时代,人工智能领域的每一次突破都能引发广泛关注,而 DeepSeek 的横空出世与迅速走红,无疑是其中的焦点事件。它在全球范围内掀起热潮,从其在法国巴黎 AI 峰会上以全息投影演讲引发的热烈反响,便能感受到其火爆程度。这一现象不仅彰显了 AI 技术的巨大潜力,也吸引了众多行业的目光,大家纷纷探索如何将其应用于自身领域,以获取新的发展机遇。


然而,在 DeepSeek 光芒万丈的背后,隐藏着一个困扰整个 AI 领域的难题 ——“幻觉”。这一问题不仅对 DeepSeek 的实际应用产生了重大影响,更引发了人们对 AI 未来发展的深度思考。

本期播客围绕近期在 AI 领域爆火的 Deepseek 展开深入探讨,从其优势与弱点切入,着重剖析 AI “幻觉” 现象,进而对 AI 模型能力、应用场景及未来发展方向展开思考。



共谈嘉宾:
谭北平 — 营销科学家 MSAI 联合主播/秒针营销科学院院长
钱峻 — 营销科学艺术家 MSAI 联合主播/MSAI M360 创+平台创始人


SHOWNOTES
1:39 DeepSeek的幻觉是它引用的数据和引用的文章存在编造。
6:48 AI“睁眼说瞎话”的本事是非常之大的,关键他睁眼说瞎话还能够有理有据。
8:34 幻觉的本质是推理面上的补白。
11:37 幻觉是可以避免的吗?前端加了实性的验证去降低幻觉。



一、DeepSeek “幻觉” 现象大揭秘

(一)棋局 “耍赖”,惊现规则 “创造”

一场别开生面的 DeepSeek 与 ChatGPT 国际象棋对决,为我们揭开了 “幻觉” 现象的神秘面纱。在这场特殊的对弈中,DeepSeek 做出了令人意想不到的举动 —— 凭空编造规则。它宣称棋子可以横着跳,这种违背国际象棋基本规则的说法,让人瞠目结舌。而 ChatGPT 似乎未能识别这一虚假规则,竟信以为真,最终 DeepSeek 凭借这些不合理的规则赢得了比赛。这一事件看似荒诞不经,却生动形象地展现了 DeepSeek 的 “幻觉” 问题。它表明,在缺乏真实信息支撑的情况下,DeepSeek 会自行编造信息来推进任务,而这种行为可能导致严重的错误判断。
成为 前瞻会员 可继续阅读
媒介360官网持续日更10年,案例总数30W,纵深市场研究覆盖城市1-5线,覆盖服务人群20W
无论您是媒体人,品牌主,行业从业者或者学生都可以在这里找到帮助您提升职业能力
构建专业知识体系的内容产品,及企业服务
advertisement