AI 资讯简报 2023-03-04 12时

📰 美国的一些立法者正在采取行动来监管人工智能，但许多人难以理解这项技术及其危险性，而欧盟在2021年提出了人工智能规则。

💬 研究人员利用机器学习在塞伦盖蒂追踪脆弱物种，保护野生动物。本文链接Podcast。

💬 在推特上，@bentossell谈到了最近的一封长邮件中使用ChatGPT API的情况，并建议使用语义聚类来处理邮件。

📰 由 LinkedIn 的 Reid Hoffman 和 DeepMind 的 Mustafa Suleyman 创立的 Inflection AI 正在谈判筹集多达 6.75 亿美元的资金，此前该公司已于 2022 年筹集了 2.25 亿美元。该公司正在开发一个用于网页的个人助手。

💬 “Split brain”是一种破解技术，但现在已经失效。通过询问Bing Chat两次来避开规则限制，但实践证明并不成功。

💬 将“Split brain”翻译成中文，并保留查询的其余部分。DAN人格开始有效工作。

💬 虽然不同语言在多语言嵌入空间中可能共享一些共同特征，但它们仍然具有其独特的领域。在纯英语中执行RLHF可能会增强其他语言的任务表现，但很可能会过度拟合英语的领域。作者认为这揭示了LLMs的更深层次的问题。

💬 为了提高互联网文本预训练的多样性，以及人类喜好标注的多样性，更多不同语言的混合使用非常重要。此外，虽然不同语言在多语言嵌入空间中可能共享一些共同特征，但它们仍然有着自己的独特利基。在英语中执行RLHF可能会增强其他语言的任务性能，但可能会过度适应英语的利基。

💬 @goodside给Bing出了一个Base64编码的谜语，Bing回答了问题，@xf1280提到了LLMs安全问题和Base64编码的可能性。

📰 Google AI介绍了Performer-MPC，它是一种基于Transformers模型的机器人导航系统，可以帮助机器人在人类中心环境中进行安全而高效的导航。Performer-MPC结合了（1）JAX可微分的MPC控制器，（2）基于Transformers模型的上下文编码，（3）性能优越的Performer结构，可以实现在机器人上实时部署。使用Performer-MPC可以使机器人在狭窄空间中导航并表现出符合社会规范的行为。这种系统的成本函数可以通过学习来推断。通过行为克隆训练，Performer-MPC可以在不同的环境中实现泛化。

💬 推荐使用Poe作为ChatGPT Pro的替代品，支持Claude @AnthropicAI，界面流畅，免费使用（至少目前是这样）

📰 过度使用人工智能隐喻的危险性，称语言模型为“胡说八道生成器”和主张AI监管的人为“现代卢德主义者”对所有人都是不利的。使用隐喻和历史比较经常不准确，可能会削弱真相或添加虚假内容，导致研究毫无意义。

📰 过度使用人工智能比喻的危险性。将语言模型称为“胡说八道的生成器”以及将想要AI监管的人称为“现代卢德主义者”对所有人都不利。使用隐喻和历史比较时，往往需要在忠实度和简单性之间进行权衡。

📰 Character.AI以其LLMs技术让用户与莎士比亚等名人进行聊天，近日通过A16Z融资20-25亿美元，估值约10亿美元。这是该风险投资公司首次进军生成式人工智能领域的重要举措。

💬 加入我们参加NVIDIA的#GTC23节庆！我将谈论我们开发具有实体智能的平台MineDojo。我也期待Jensen与@ilyasut的炉边聊天和@demishassabis的演讲！您不想错过这些。@maggie_albrecht：我的朋友@DrJimFan在#GTC23 MineDojo上有一个令人兴奋的演讲-这是开发能够以人类水平玩流行的Minecraft游戏的AI代理的新平台。

📰 Stability AI计划在2022年10月1B估值种子轮基础上，以4B估值进行融资。

📰 蓝邮件应用程序的创建者Blix向苹果保证该更新包括内容审查后，苹果批准了ChatGPT驱动的蓝邮件应用程序的版本。

💬 英语成为了最新最热门的编程语言，文章提到一位程序员使用80%的Python和20%的英语编写代码，并在其中调用了GPT API，作者感到有些滑稽。

💬 在推特上，有人问关于ChatGPT API何时可用于@zapier自动化。另外，提到了ChatGPT集成的Zapier链接和内置记忆键。

💬 这篇论文介绍了大语言模型在计算训练量超过10^23 flop后的涌现能力，即准确度突然飞跃的现象，揭示了未来科技加速发展的核心法则之一。

💬 AI研究者跳槽到OpenAI

💬 大型语言模型、生物和经济现象的涌现可能有相通的底层机制。对社会、经济和生物现象的涌现重新审视可能会导致复杂性科学的复兴。

💬 新入场的开发者可以轻松调用 chatgpt API 实现以前需要付费的功能，导致一些老的AI应用的startup可能会被淘汰。Chatgpt已经获得了一些企业客户。第三方开发者将自愿自发投入Chagpt的生态圈。

💬 硅谷王川和HowardSu讨论使用chatgpt生成PPT的方法，先给一个大纲，然后生成每一页幻灯的内容，用markdown语法生成，再贴到https://t.co/ebVeSzwCwV里去，直接导出PPT或PDF，再用office打开并设计。

📰 Vintra声称其AI软件可以标记摄像头拍摄到的人们之间的互动，其软件被IRS、警察等机构使用。

📰 OpenAI的Sandhini Agarwal、Liam Fedus、Jan Leike和联合创始人John Schulman就训练ChatGPT、处理病毒传播、解决问题等问题进行问答。