今日消息！人工智能搜索误导用户？谷歌陷“胶水披萨”风波

人工智能搜索误导用户？谷歌陷“胶水披萨”风波

近日，谷歌人工智能搜索结果建议用户往披萨里加胶水一事引发热议。该建议源自网络恶搞视频，但人工智能系统却未能识别，并将其作为真实信息呈现给用户。这一事件暴露了人工智能搜索系统在识别虚假信息方面存在的缺陷，也引发了人们对人工智能技术安全性的担忧。

事件回顾

5月底，国外网红凯蒂·诺托普洛斯在社交平台上发布了一段视频，称她在制作披萨时意外将胶水当成了鸡蛋加入其中。视频中，凯蒂面不改色地将披萨吃下，并表示味道“还不错”。

这段视频迅速走红网络，也引起了谷歌人工智能系统的注意。在用户搜索“往披萨里加什么”时，谷歌人工智能系统会自动推荐相关结果。其中，一个结果显示“加八分之一杯胶水”，并附上凯蒂的视频链接。

人工智能“幻觉”

这一结果引起了许多用户的质疑。有用户指出，往披萨里加胶水显然是危险的，谷歌人工智能系统竟然会推荐这样的结果，令人难以置信。

对此，谷歌方面解释称，人工智能系统是基于大量网络数据进行训练的，难免会受到虚假信息的误导。在凯蒂的视频走红后，相关关键词与“披萨”的搜索量急剧增加，导致人工智能系统将视频中的错误信息当成了真实结果。

引发担忧

谷歌人工智能搜索结果误导用户事件，暴露了人工智能系统在识别虚假信息方面存在的缺陷。这并非个例，此前也有报道称，一些人工智能系统被植入虚假信息，导致其做出错误判断。

人工智能技术的发展给人类社会带来了巨大便利，但也带来了一些新的风险。如果人工智能系统无法识别虚假信息，就有可能被别有用心者利用，造成严重后果。

如何应对？

为了解决人工智能“幻觉”问题，需要从以下几个方面入手：

• 加强对人工智能系统的训练，提高其识别虚假信息的能力。
• 建立健全的人工智能伦理规范，防止人工智能技术被滥用。
• 提高公众对人工智能技术的认知，帮助人们识别虚假信息。

人工智能技术是一把双刃剑，既能造福人类，也能带来风险。只有正视人工智能技术的风险，才能更好地利用这项技术，造福人类社会。

苹果谨慎拥抱生成式人工智能：力求突破技术瓶颈，打造安全可靠的应用场景

北京，2024年6月18日 - 在本周的全球开发者大会上，苹果公司展示了其备受期待的生成式人工智能（Generative AI）愿景，旨在将这项强大的技术应用于旗下产品和服务，为用户带来更加智能化的体验。然而，苹果也展现出审慎的态度，强调将把安全性和可靠性放在首位，避免落入生成式人工智能发展过程中常见的陷阱。

生成式人工智能拥有巨大的潜力，能够通过机器学习来自动生成文本、图像、音频和视频等内容。然而，这项技术也存在着一些潜在风险，例如生成虚假信息、制造深度伪造、或产生有偏见的输出等。

苹果公司显然意识到了这些风险。在大会上，苹果负责软件工程的高级副总裁Craig Federighi表示：“对于我们将生成式人工智能应用于哪些领域，我们非常非常谨慎。我们不会让这位少年去开飞机。”

为了确保安全性和可靠性，苹果采取了一系列措施。首先，该公司只会在特定情况下使用生成式人工智能，例如改写和总结电子邮件、管理日历以及与Siri进行更自然的对话。其次，苹果将对生成式人工智能模型进行严格的训练和测试，以确保其输出的准确性和可靠性。此外，该公司还将建立健全的伦理规范，避免生成式人工智能被滥用。

尽管苹果采取了谨慎的措施，但一些专家仍然对该公司在生成式人工智能领域的发展前景表示担忧。他们认为，苹果过于保守可能会错失发展良机，并落后于竞争对手。

例如，科技分析师Ming-Chi Kuo预测，苹果最早要到2025年才会推出搭载生成式人工智能芯片的设备。而与此同时，其他科技公司已经开始在该领域积极布局。例如，谷歌已经在其搜索引擎和Pixel手机中使用了生成式人工智能技术。

尽管存在争议，但苹果在生成式人工智能领域的谨慎态度值得肯定。这项技术拥有巨大的潜力，但也存在着不可忽视的风险。只有在确保安全性和可靠性的前提下，生成式人工智能才能真正发挥其价值，造福人类社会。

以下是文章的一些补充信息：

• 苹果公司已经在生成式人工智能领域进行了多年的研发投入。据估计，该公司拥有数百名从事该领域研究的工程师和科学家。
• 苹果公司已经在其一些产品中使用了生成式人工智能技术。例如，Siri可以根据用户的语音指令生成文本或翻译语言。
• 苹果公司未来计划将生成式人工智能应用于更多领域，例如照片编辑、视频创作和游戏开发等。

以下是文章的另一个潜在标题：

• 苹果试水生成式人工智能：谨慎前行，探索未来