财新传媒

【新科技观察】大模型“胡说八道”管得住吗/IBM的新款类脑芯片

2023年10月31日 17:56
财新智库出品的《新科技观察》报告每周二发送,提供重要的全球新科技政策信息、市场资讯、企业动态及深度洞察
随着越来越多生成式人工智能(AIGC)大模型下场试水,人们发现有时候大模型不仅会一本正经的胡说八道,更有不法分子用来生成足以乱真的虚假信。图:视觉中国

  财新智库的《新科技观察》每周报告又和您见面了,本期我们的精彩关注包括大模型“可控”之路有多远、IBM推出类脑芯片“北极”、小鹏推出可量产飞行汽车等等。想阅读报告全文、获取邮件推送服务,请点这里

  以下是报告精华摘要:

一、资讯速递

  【政策】

  ♢ 国家发改委支持加快“以竹代塑”发展

  【前沿】

  ♢ IBM推出类脑芯片“北极”,速度和能效比同类产品提高20多倍

  ♢ 小鹏推出可量产飞行汽车

  【市场】

  ♢ 微软未来两年将在澳大利亚投资近32亿美元,并建立微软数据中心学院

  ♢ 日本公平贸易委员会计划调查谷歌是否违反反垄断法

  ♢ 三菱汽车拟向雷诺电动汽车部门投资200亿日元

  ♢ 小马智行获沙特1亿美元投资

  ♢ 天兵科技完成数亿元C+轮融资

  ♢ 脑机接口初创公司和泽科技完成3000万元天使轮融资

  ♢ 特斯拉邀请禾赛建厂?禾赛:尚未最终作出决定

  ♢ 中芯集成宣布投资成立“芯联动力”

  ♢ 摩托罗拉展示可弯曲概念手机

  ♢ 小米澎湃OS系统正式发布

  ♢ 印度以涉嫌逃税为由对40家中国光伏企业进行调查?业内回应

  ♢ 通用汽车旗下Cruise将暂停所有车队的无人驾驶业务

  ♢ 英国石油宣布采购价值1亿美元的特斯拉超级充电桩

  ♢ 法国强制餐馆给“预制菜”加标识,有望明年出台

  ♢ 谷歌同意向人工智能初创公司Anthropic投资20亿美元

  ♢ 申科谱完成近亿元B轮融资

  ♢ 德智新材完成数亿元战略融资

  ♢ 中今建碳获1.5亿元战略投资

  ♢ 国家超算互联网核心节点落地郑州

  ♢ 沃尔沃CEO:固态电池还需数年才能应用

  ♢ 三星、LG、高通将联手进军XR市场

二、深度分析

  《大模型“可控”之路有多远?》

  从ChatGPT聊天机器人于去年11月发布,它就被誉为2022年最令人印象深刻的技术创新之一。这个强大的AI聊天机器人几乎可以生成任何主题的文本,从重写莎士比亚十四行诗,到用5岁孩子都能理解的语言描述复杂数学定理。一周之内,它的用户就超过了100万。OpenAI成为世界上最有价值的人工智能公司之一。

  然而随着越来越多生成式人工智能(AIGC)大模型下场试水,人们发现有时候大模型不仅会一本正经的胡说八道,更有不法分子用来生成足以乱真的虚假信息,这让很多人开始忧虑,在大模型开始学会赚钱之前,是否应当先预防大模型作恶。

  根据英国消费者组织Which?当地时间10月27日公布的最新发现,不法分子会利用ChatGPT和Bard等AI聊天机器人制造出更有说服力的骗局,对公众构成威胁,且上述聊天机器人缺乏有效的防御措施。

  在国内,正当科大讯飞发布星火V3.0之际,讯飞学习机却惹祸。有家长宣称在自家孩子的科大讯飞学习机中发现了一些诋毁伟人、扭曲历史等违背主流价值观的内容。消息传出后,讯飞股价立刻跌停。

  随后,科大讯飞董事长刘庆峰在接受采访时表示,已第一时间下架内容,并对负责保障内容安全的合作伙伴作出处罚处理,同时内部已经将用于大模型上的内容审核机制放在了学习机上,力求使学习机的内容审核更加严格。

  虽然学习机中出现的错误,并不是大模型惹的祸,但AIGC大模型作为越来越多内容的生产者,这一服务的提供商需要对此担负越来越大的责任……(全文7863字)

  本文选自财新智库报告《新科技观察》,点这里阅读全文或注册邮件获得推送 

责任编辑:王嘉鹏 | 版面编辑:邱祺璞
财新网主编精选版电邮 样例
财新网新闻版电邮全新升级!财新网主编精心编写,每个工作日定时投递,篇篇重磅,可信可引。
订阅