今日消息！人工智能搜索误导用户？谷歌陷“胶水披萨”风波

人工智能搜索误导用户？谷歌陷“胶水披萨”风波

近日，谷歌人工智能搜索结果建议用户往披萨里加胶水一事引发热议。该建议源自网络恶搞视频，但人工智能系统却未能识别，并将其作为真实信息呈现给用户。这一事件暴露了人工智能搜索系统在识别虚假信息方面存在的缺陷，也引发了人们对人工智能技术安全性的担忧。

事件回顾

5月底，国外网红凯蒂·诺托普洛斯在社交平台上发布了一段视频，称她在制作披萨时意外将胶水当成了鸡蛋加入其中。视频中，凯蒂面不改色地将披萨吃下，并表示味道“还不错”。

这段视频迅速走红网络，也引起了谷歌人工智能系统的注意。在用户搜索“往披萨里加什么”时，谷歌人工智能系统会自动推荐相关结果。其中，一个结果显示“加八分之一杯胶水”，并附上凯蒂的视频链接。

人工智能“幻觉”

这一结果引起了许多用户的质疑。有用户指出，往披萨里加胶水显然是危险的，谷歌人工智能系统竟然会推荐这样的结果，令人难以置信。

对此，谷歌方面解释称，人工智能系统是基于大量网络数据进行训练的，难免会受到虚假信息的误导。在凯蒂的视频走红后，相关关键词与“披萨”的搜索量急剧增加，导致人工智能系统将视频中的错误信息当成了真实结果。

引发担忧

谷歌人工智能搜索结果误导用户事件，暴露了人工智能系统在识别虚假信息方面存在的缺陷。这并非个例，此前也有报道称，一些人工智能系统被植入虚假信息，导致其做出错误判断。

人工智能技术的发展给人类社会带来了巨大便利，但也带来了一些新的风险。如果人工智能系统无法识别虚假信息，就有可能被别有用心者利用，造成严重后果。

如何应对？

为了解决人工智能“幻觉”问题，需要从以下几个方面入手：

• 加强对人工智能系统的训练，提高其识别虚假信息的能力。
• 建立健全的人工智能伦理规范，防止人工智能技术被滥用。
• 提高公众对人工智能技术的认知，帮助人们识别虚假信息。

人工智能技术是一把双刃剑，既能造福人类，也能带来风险。只有正视人工智能技术的风险，才能更好地利用这项技术，造福人类社会。

微软推动 OpenAI 转型营利公司：Sam Altman 或将获得更多股权

北京时间 2024 年 6 月 18 日 - 据可靠消息来源透露，微软正积极推动其投资的人工智能研究公司 OpenAI 转变为营利性公司。此举或将使 OpenAI 创始人兼首席执行官 Sam Altman 获得更多股权，并加速公司上市步伐。

OpenAI 是一家非营利性研究机构，致力于开发安全可控的人工智能技术。近年来，该公司凭借着 GPT-3 等一系列大型语言模型的突破性进展，在业界享誉盛名。2021 年，微软向 OpenAI 投资了 130 亿美元，获得了该公司部分股权和部分技术使用许可。

然而，近年来，OpenAI 的运营成本不断上升，其非营利性结构也使其难以吸引和留住顶尖人才。有分析人士认为，OpenAI 转型营利公司将能够更好地利用市场机制获取资金，并激励员工创造更大的商业价值。

Sam Altman 或将获得更多股权

消息人士称，OpenAI 董事会正在考虑的两种主要方案之一是成立一家营利性福利公司。在这种模式下，Altman 将能够获得更多的股权，并有可能在公司上市后获得巨额财富。

加速上市步伐

OpenAI 转型营利公司也可能加速其上市步伐。此前有消息称，OpenAI 最早可能在 2025 年进行 IPO。上市后，OpenAI 将能够获得更广泛的投资者支持，并进一步扩大其业务规模。

微软将加强对 OpenAI 的控制

微软是 OpenAI 的最大外部投资者，也是其主要的合作伙伴。OpenAI 转型营利公司后，微软将能够进一步加强对该公司的控制力。有分析人士认为，这可能会导致 OpenAI 的技术和产品更加倾向于微软的商业利益。

OpenAI 的未来

OpenAI 的转型将对整个人工智能行业产生深远影响。如果成功，OpenAI 将证明营利性公司也可以开发造福人类的人工智能技术。但同时也有人担心，OpenAI 的商业化可能会使其偏离初衷，最终危害人类社会。

以下是一些对该新闻的补充信息：

• OpenAI 的一些现有投资者表示，OpenAI 上市的压力并不大，因为该公司可以继续允许现有员工和其他人通过定期二级股发行出售其股票，类似于 SpaceX 和 Stripe 所做的。
• 多年来，一些微软高管一直主张将 OpenAI 转变为一家成熟的营利性公司。他们认为，这种结构可以让这家软件巨头通过董事会席位和股东投票权对 OpenAI 产生更大的影响力。
• OpenAI 的营利性部门此前曾承诺向微软和其他投资者支付其产生的任何利润的一定份额，最高限额将逐年增加。微软在偿还其资本投资之前将获得 OpenAI 75% 的利润，并在一定限额内获得 49% 的后续利润。
• 没有任何外部投资者在该非营利组织的八人董事会中拥有席位，尽管微软拥有无投票权的观察员席位。新的转变将取消股东利润上限。

总而言之，OpenAI 转型营利公司是一个重大的事件，其最终影响尚待观察。